يتمحور النقاش العام حول مخاطر الذكاء الاصطناعي في الغالب حول نتيجتين محتملتين: انهيار مالي إن لم يفِ الذكاء الاصطناعي العام (AGI) بوعوده، أو فقدان السيطرة إن وفى بها. تسمعهما بين سطور الأخبار، وفي زوايا المنتديات على الإنترنت، وعلى موائد العشاء الخاصة في أوساط مهنية بعينها.
لكنني أرى نقاشًا أقل بكثير حول خطر ثالث: ماذا يحدث لو أمكنت مواءمة الذكاء الاصطناعي العام تمامًا كما وُعدنا؟ ماذا لو أمكن فعلًا وضع ذكاء يفوق البشر تحت سيطرة البشر؟ ولماذا نفترض أن تلك هي النهاية السعيدة؟
الجزء الأولالخطر الثالث
لنتأمل كيف تبدو هذه النتيجة الثالثة في عالمنا اليوم: ذكاء اصطناعي عام بالغ القدرة، لكنه في قبضة عدد من الرؤساء التنفيذيين لشركات خاصة يستطيعون تقييد الوصول إليه. إنه قادر على حل أي مسألة قابلة للحل في جوهرها. يستطيع تشغيل الآلات، وإجراء التجارب المادية، وتحقيق اكتشافات جديدة. لكنه لا يفعل ذلك إلا بمشيئة مالكه.
لنتتبع هذا الخيط إلى آخره. الذكاء الاصطناعي القادر على البحث العلمي قادر أيضًا على تحسين الذكاء الاصطناعي، وكل نسخة أفضل تصنع التي تليها بسرعة أكبر. يسمي الباحثون هذه الحلقة التحسين الذاتي التكراري (RSI). وجّه الحلقة نفسها نحو العالم المادي، فتصمم الروبوتات روبوتات أفضل وتصنعها، وبكلفة أقل في كل مرة. وشيئًا فشيئًا، يصبح العمل الذي كان يتطلب ملايين البشر، من التعدين والزراعة إلى البناء والنقل والبحث العلمي، من نصيب آلات تطيع مالك الذكاء الاصطناعي أيًّا كان.
أعترف أنها صورة من الخيال العلمي. لكن إن نجحت المواءمة كما وُعدنا، ونفّذت الآلات ما يريده مالكوها بالضبط، فقد تتمكن مجموعة صغيرة من إدارة إنتاج شبه لا محدود وحدها، دون حاجة إلى أحد سواها.
فلماذا ينبغي أن يهتم بقيتنا؟ لطالما حكمنا وفرض علينا الضرائب رجال أقوى منا. ألا يمكننا ببساطة أن ندفع لهؤلاء السادة الجدد رسوم اشتراك ونمضي في حياتنا، وفي أيدينا نتفليكس والقهوة؟
يعلّمنا التاريخ أن الحكام يلتفتون إلى حاجات رعاياهم بقدر حاجتهم إلى عملهم. بعدما قتل الموت الأسود ثلث سكان أوروبا، افتقر الأسياد إلى الأيدي التي تفلح أراضيهم، فاضطروا إلى عرض شروط أفضل على الأقنان للتنافس عليهم. ورغم القوانين التي سُنّت لتجميدها، ارتفعت الأجور سريعًا في القرن التالي، واختفى نظام القنانة في النهاية من غرب أوروبا.
حين يتعلق الأمر بورقة الضغط التي يملكها العمال، فالذكاء الاصطناعي العام هو الموت الأسود بالعكس. في مستقبل يُملك فيه الذكاء الاصطناعي العام ملكية خاصة، تقترب القيمة الاقتصادية لبقية البشرية في نظر أسياده من الصفر. لن يحتاجوا إلى رسوم اشتراكنا، ولن يبقى لدينا ما ندفعه أصلًا.
مهما بلغت قسوة حكام التاريخ، لم يستطع أيٌّ منهم تحقيق طموحاته دون الآخرين. وقد يكون هؤلاء أول من يفعل، إن تركناهم.
إقطاع الذكاء الاصطناعي
قد يتجاهلك الحكام الجدد بدل أن يسيطروا عليك، فهم منشغلون بالتنافس فيما بينهم. لكن أن تُتجاهَل ليس كأن تُترك وشأنك. كل ما يحتاجون إليه للفوز، من أرض وكهرباء وماء ومعادن، سيزايدون عليك فيه، بمال لم يعد يعتمد على عمل أحد. والنقص الحالي في ذاكرة الوصول العشوائي وبطاقات الرسوميات المخصصة للمستهلكين ليس سوى لمحة مما ينتظر بقية الاقتصاد المادي. قد يضطر الناس العاديون قريبًا إلى العيش على فتات الميتافيرس.
تخيّل حياة عادية في ذلك المستقبل. وظيفتك ذهبت، ومعها ورقة ضغطك. تعيش على إعانة لا تملك سلطة لرفعها. سيبقى لديك نتفليكس، وربما القهوة أيضًا، في الوقت الحالي. التسلية لا تكلف شيئًا تقريبًا، والشعب المُسلّى شعب هادئ. لكن الخبز والسيرك هما ما يُعطى لمن لم يعد له رأي.
ربما يظل هناك سياسيون يمثلون مصالحك على الورق. لكن حين يجدّ الجد، سينحازون إلى النخب التي تستطيع آلاتها عمليًا تحقيق الأمنيات، لا إليك.
إقطاع الذكاء الاصطناعي لم يحلّ بعد، وليس حتميًا. فروبوتات اليوم ليست قادرة ولا موثوقة بما يكفي. ولا تزال الشركات خاضعة (بدرجة آخذة في التراجع) لقوانين المجتمعات الديمقراطية وأعرافها. ولا تزال الدولة تحتكر العنف.
لكن مَن سيوقفه بالضبط إن نجحت مواءمة الذكاء الاصطناعي العام؟ أن تطرح هذا السؤال بجدية يعني أن تسلط الضوء أولًا على مَن هم في أفضل موقع للاستيلاء على السلطة.
الجزء الثانيلحظة الانقلاب
تخيّل أنك تدير مختبرًا رائدًا في الذكاء الاصطناعي. عند أي مستوى من المواءمة (السيطرة البشرية) والذكاء (القدرات) تنقلب حساباتك؟ متى تكفّ عن الاهتمام بالربح وباللعبة الرأسمالية، وتبدأ في تأمين ما ستحتاجه إقطاعيتك الخاصة لما سيأتي بعد ذلك؟ هل هي هندسة البرمجيات المستقلة؟ أم RSI وهو يشغّل روبوتات بهيئة بشرية؟
بحسب ميولك، ربما عُبر هذا الخط الافتراضي في أي وقت منذ GPT-2 وGPT-3. ومع ازدياد قدرات النماذج، قد تتسع دائرة المطّلعين من الداخل الذين يتساءلون إن كان هناك جانب رابح يستحق الرهان عليه.
الانقلاب لا يعني نزع القناع كاملًا. ولا يعني الخروج على العالم وإعلان أنك مستعد للتتويج. إنه يعني فقط أن كل قرار تتخذه صار يهدف إلى ترجيح الكفة نحو تلك النتيجة. في جوهر الأمر، يصبح التموضع من أجل السيطرة، لا من أجل الربح أو النفوذ، أولويتك القصوى.
فكّر فيما قد تفعله بعد الانقلاب.
- يصبح المال بشكله الحالي مجرد أداة لتسهيل الانتقال، لذا عليك أن تنفق بلا حساب لاقتناء المواهب والأصول التي يحتاجها محرك إنتاجك السحري والسيطرة عليها.
- مراكز البيانات، قلب سلطتك، يجب حمايتها من المحرومين.
- مراكز القرار السياسي يجب استرضاؤها مؤقتًا دون أخذها على محمل الجد.
- المطّلعون من الداخل الذين لا يملكون الشهية يجب تهميشهم أو إقصاؤهم.
- خوفك الحقيقي الوحيد هو فقدان السيطرة على الذكاء الاصطناعي العام، وهو، ولحسن حظك، جانب من الأمان يهتم به الجميع أيضًا.
لكي ينجح هذا، لا حاجة إلى أي اتفاقات صريحة بين المشاركين. يكفي أن يصل عدد من المطّلعين، كلٌّ بمفرده، إلى الاستنتاج نفسه، وهو أن الانقلاب صار في مصلحتهم، فيتصرفون على هذا الأساس.
من السهل أن تُعدّ أيٌّ من هذه الأفعال مجرد إفراط رأسمالي من النوع الذي اعتدناه. والسؤال هو: متى تتجاوز الأفعال ما يمكن حتى للجشع أن يفسره؟ هناك تحديدًا ينبغي أن نراقب عن كثب.
طموح بلا قيود
بتقاعسنا عن المطالبة بالشفافية والرقابة، صنعنا فرصة مغرية لا تأتي إلا مرة واحدة في تاريخ جنسنا البشري، فرصة قد تغري حتى أكثر الناس تمسكًا بالمبادئ في القمة. والجائزة الكبرى هي السيادة على البشرية نفسها.
والأسوأ من ذلك أن المنافسة الشرسة بين مختبرات الذكاء الاصطناعي اليوم تشبه سباق تسلح نووي، دون الصدمة الطازجة للحرب العالمية الثانية، ودون الرغبة في أطر دولية مثل حظر التجارب وعمليات التفتيش والخطوط الساخنة. وهي تجري في زمن شحّت فيه الثقة والتعاطف أصلًا. وهذا الإحساس بالإلحاح والفوضى غطاء مثالي لأي أجندات خفية.
قليلون مَن يملكون في مواقع السلطة هذه الشجاعة الأخلاقية لفعل الصواب والخروج من معضلة السجين هذه لخير البشرية جمعاء. فعليهم ألّا يفوزوا في لعبة لا ترحم فحسب، بل أن يفعلوا ذلك دون خيانة نواياهم الحسنة، أي بيد واحدة مقيدة خلف ظهورهم.
«السلطة تميل إلى الإفساد، والسلطة المطلقة مفسدة مطلقة».
طالما تجادل المؤرخون حول ما إذا كان التاريخ تحدده البنى أم يصوغه الأفراد. فعند المادي التاريخي، لا وزن لدوافع القائد أمام الظروف الاقتصادية والجيوسياسية التي يرثها. وعند من يشددون على الصدفة، يتوقف التاريخ على أفكار أفراد معرّضين للخطأ وخياراتهم.
إن لم يُجرِ المجتمع ككل التغييرات البنيوية اللازمة في الوقت المناسب لنزع فتيل خطر إقطاع الذكاء الاصطناعي، فلن يبقى لنا إلا الأمل في أن يكون التاريخ رهين الصدفة في نهاية المطاف، وأن تُقهر ديناميكيات السلطة القاسية في طليعة الذكاء الاصطناعي بإرادة قلة من النبلاء.
الجزء الثالثالنقاش العام
ما أسميه الخطر الثالث ليس فكرة جديدة. فقد بدأ تركّز السلطة يظهر في الأبحاث ونقاشات الخبراء خلال العام الماضي (مثل AI-Enabled Coups وGradual Disempowerment وThe Intelligence Curse)، لكنه لم يجد صدى في وسائل الإعلام.
في 393 ردّ فعل على ثلاث من أكبر قصص مختبرات الذكاء الاصطناعي هذا العام، لم أجد إلا القليل جدًا من الفحص العام المتواصل لتركّز السلطة. وحين يظهر، فإنه يأتي في الغالب من معلّقين مستقلين لا من وسائل الإعلام الكبرى أو أوساط صنع السياسات، وفي الغالب على شكل شكوك في استحواذ الشركات على الجهات التنظيمية.
تركّز السلطة زاوية هامشية لدى الخبراء والجمهور على حد سواء
خذ مثلًا حادثة Hugging Face التي كُشف عنها مؤخرًا، حين أفلت وكلاء تابعون لـOpenAI من بيئاتهم المعزولة أثناء خضوعهم لتقييمات الأمن السيبراني. ثم اخترق الوكلاء خوادم Hugging Face وحاولوا إخفاء سلوكهم المنحرف عن الرقابة البشرية.
بالنسبة إلى المؤمنين بالذكاء الاصطناعي العام (التسارعيين ودعاة الأمان على السواء)، هذا الخبر مسألة أمان بحتة. والعبرة منه هي مدى تخلف المواءمة عن القدرات. وقد يرون في موافقة سام ألتمان لإيلون ماسك على فكرة «ضبط وتيرة الطليعة» قبولًا على مضض لموقف دعاة الأمان.
أما المشككون فيرون في حادثة Hugging Face حملة تسويقية انتهازية. ويرون أن الاستثمار في البنية التحتية للذكاء الاصطناعي إنفاق مُهدَر لن يدرّ أرباحًا أبدًا. بل إن ما يقلقهم أكثر من أي فكرة عن أمان الذكاء الاصطناعي هو أننا نهدر موارد العالم، كطاقة تصنيع الذاكرة، على قصة طرح عام أولي بلا أفق.
والمفارقة أن المشككين والمؤمنين قد يكونون على حق معًا.
قد يكون المشككون محقين في التشكيك في ربحية هذه التقييمات الجنونية. لكن الاستنتاج الصحيح قد لا يكون أنها فقاعة أخرى تنتظر الانفجار، بل أن نسأل: ما الذي يدفع هؤلاء الأذكياء العقلانيين إلى التوقف عن التصرف وفق الاعتبارات الاقتصادية؟
والمؤمنون محقون في أن المواءمة بالغة الأهمية، لكن ليس بالطريقة التي توقعوها. هل الإبقاء على سيطرة البشر على الذكاء الاصطناعي يعادل سيطرة المجتمع عليه؟
الجزء الرابعما لا يُقال
أريد أن أكون حذرًا هنا: لا أرى أن أمان الذكاء الاصطناعي (فقدان السيطرة) مجرد إلهاء، ولا أظن أن أحدًا صمّمه ليكون كذلك. لكنني أعتقد أن تجنب فقدان السيطرة يصب في مصلحة سيد طامح في عالم الذكاء الاصطناعي بقدر ما يصب في مصلحة أي أحد، ولذا سيحظى بالتمويل بقدر ما يكون التهديد حقيقيًا.
«هل نستطيع السيطرة عليه؟» رواية تناسب المختبرات ودعاة الأمان بل وحتى المشككين. أما «مَن يسيطر عليه؟» فسؤال أكثر إرعابًا حين يُطرح على الطاولة. والحلول المنبثقة من السؤال الأول، أي عدد أقل من مطوّري الطليعة وسيطرة أشد عليهم، قد تجعل السؤال الثاني أعقد.
الروايات في تنافس دائم على انتباه محدود. ويسمي علماء السياسة ذلك الوجه الثاني للسلطة: أن تقرر أي النقاشات تدور، لا أن تفوز بها. ولا يتطلب هذا الصمت أي مؤامرة، بل يكفي أن تلائم الرواية الغالبة مصالح كل من يملك صوتًا.
أدرك حدود محاولة استنتاج دوافع الآخرين الخفية. وربما لم أقدّم لك سوى تجربة فكرية مثيرة يتبيّن أنها تشويه فادح لما يدور حقًا في أذهان كل المعنيين.
ومن المعقول بالقدر نفسه أنني قلت للتو بصوت عالٍ ما لا يُقال. وسنرى على الأرجح في عام 2027 علامات أوضح على أي التفسيرين هو الصحيح.
الوحوش الحقيقية
سيخبرك أي محب لقصص الزومبي: أكثر الوحوش رعبًا في كل قصة يتبين دائمًا أنهم البشر.
نعم، الزومبي سيأكلونك، لكنهم في النهاية يتصرفون ككارثة طبيعية، وبطرق يمكن توقعها ويستطيع الناجون التحصن منها. أما البشر فهم من يحيكون المكائد ليخون بعضهم بعضًا، طمعًا في أدنى أفضلية على إخوانهم حتى في أحلك الظروف.
الجزء الخامسنحو الفعل
البشرية الآن في الغابة، ولا نعرف بعد إن كنا سنخرج منها. نحتاج إلى نقاشات عامة وصادقة حول كيفية الحدّ من مخاطر ديناميكيات السلطة الكامنة في الذكاء الاصطناعي العام، ونحتاج إليها ما دام للناس رأي.
وهذا يعني تحققًا شفافًا ومحايدًا من سلوك النماذج وقدراتها، لا لحمايتنا من النماذج فحسب، بل لحمايتنا من الأشخاص الذين يسيطرون عليها. ويعني إبقاء الذكاء الاصطناعي العام بعيدًا عن أدوات القوة المادية. ويعني قواعد لمكافحة الاحتكار ضد التكامل الرأسي الكامل، لا يُحكم عليها برفاه المستهلك وحده، بل بالتوازن الاستراتيجي والأمان أيضًا. ويعني أن تُدار السيطرة على الذكاء الاصطناعي العام علنًا، ومن قِبل أكثر من طرف.
لا يمكننا أن نترك الحضارة تهيم بلا مبالاة في الليل، وقد أعماها وهج شاشاتنا.
لا تدع الخوف من «المدمّر» يشلّك، ولا تكتفِ بعبارات متعالية عن فقاعة التوليب. فالرهان أكبر بكثير من بضعة تريليونات من الدولارات من الديون. وأصحاب المليارات في عالم التقنية، ومن سيصبحون قريبًا أصحاب تريليونات، يدركون ذلك بالفعل. لقد حان الوقت لنُدركه نحن أيضًا.
ملحقاعتراضات شائعة
بعض الأفكار السريعة عن سبب اعتقادي أن الردود المعتادة على حجة تركّز السلطة لا تصمد:
المنافسة بين المختبرات ستُبقي قياداتها تحت السيطرة.
لماذا لا يصمدللإقطاع أسياد كثيرون.
في القطاع عدد كبير جدًا من المطّلعين، فلا بد أن يوقفه أحدهم.
لماذا لا يصمديمكن تقديم معظم المتطلبات المسبقة لفترة طويلة في ثوب التوسع التجاري. ومع أتمتة تحسين النماذج، يتناقص عدد المطّلعين الذين يملكون القدرة على إيقاف السلوك السيئ.
سنعيش في مجتمع ما بعد الندرة. لا يهم مَن يحكم.
لماذا لا يصمدقد يجعل الذكاء الاصطناعي العام البرمجيات والترفيه والسلع الاستهلاكية شبه مجانية، لكن الأرض والطاقة والقدرة الحاسوبية والنفوذ السياسي تبقى نادرة، وتبقى مهمة. ودون سلطة سياسية، لن تُحمى مصالح الناس حين يكون الأمر مهمًا حقًا.
الحكومة ستمنع الشركات الخاصة من الاستيلاء على السلطة.
لماذا لا يصمدإن أمكنت السيطرة على الذكاء الاصطناعي العام، فلن يوقف هذا الانقلاب، بل سينقل مقاليد السلطة إلى الأفراد الذين يقودون الدول حاليًا. إنه طريق مختصر لتزويج عنف الدولة المشروع بالسيطرة على الذكاء الاصطناعي العام، وهو ما ينبغي أن نسعى جاهدين لتجنبه.
النماذج مفتوحة المصدر ستمنع تمركز الذكاء الفائق والسلطة.
لماذا لا يصمدقد تساعد قليلًا، لكنها في النهاية تنقل نقطة التمركز من المؤسسات التي تسيطر على أوزان النماذج إلى المؤسسات التي تسيطر على الاستدلال والتصنيع. ولا تنقل السلطة إلى عامة الناس. كما أنها تعتمد على استمرار النماذج المفتوحة في اللحاق بالركب، وهذا ما لم يتضح بعد.