يستعد كبار المسؤولين في شركات الذكاء الاصطناعي الرائدة، وعلى رأسها OpenAI وAnthropic، بهدوء لاحتمال وقوع حادث كارثي مرتبط بالذكاء الاصطناعي خلال الستة إلى الاثني عشر شهراً القادمة، ويتدربون على إدارة الغضب الشعبي والرد السياسي الذي قد يتلوه، وفقاً لتقرير نشره موقع Axios في التاسع من أكتوبر، في ما يشبه التمرين على «اليوم التالي» لحدث قد يعيد تشكيل الصناعة بأكملها.
ما الذي كشفه التقرير؟
بحسب التقرير، يعقد المديرون التنفيذيون جلسات داخلية لتدارس أسوأ السيناريوهات، وعلى رأسها هجوم سيبراني واسع النطاق يعطّل الخدمات المالية أو الاتصالات أو شبكات الكهرباء أو إمدادات المياه. ويعتقد عدد من المطلعين في القطاع أن حادثاً كبيراً كهذا قد يقع خلال ستة إلى اثني عشر شهراً، ما قد يقلب الرأي العام — الذي يتشكك أصلاً في هذه التكنولوجيا — ضد شركات الذكاء الاصطناعي وقادتها، بمن فيهم الرئيس التنفيذي لـOpenAI سام ألتمان والرئيس التنفيذي لـAnthropic داريو أمودي.
وتتضمن الاستعدادات أيضاً سباقاً مع الزمن لتثقيف أعضاء الكونغرس الأمريكي قبل وقوع أي أزمة، إذ يدرك المديرون أن التنظيمات الصارمة ستُمرر حتماً بعد «الكارثة الأولى»، ويريدون أن يكونوا من يصوغ شكل هذه القوانين. وقد يتعرض الرئيس الأمريكي دونالد ترامب لانتقادات بشأن نهجه تجاه تنظيم الذكاء الاصطناعي، بحسب التقرير.
ردود الشركات: «سيناريوهات للاستعداد وليست حتميات»
أقرّت OpenAI بإجراء تمارين استعداد داخلية، وقال متحدث باسمها لـAxios إن الشركة «تجري تمارين استعداد تناقش فيها الفرق مجموعة من السيناريوهات المحتملة»، مضيفاً أن هذه السيناريوهات «لا تُعامل كأمور حتمية، بل تهدف لمساعدتنا على الاستعداد لمجموعة متنوعة من الظروف». أما Anthropic فرفضت التعليق على التقرير.
ورغم أن التخطيط للسيناريوهات أمر روتيني في شركات التكنولوجيا وأوساط الأمن القومي، فإن ما يميز الجهود الحالية — وفق التقرير — هو أن كبار الباحثين والمديرين يرون الحادث الكبير احتمالاً جدياً وليس فرضية نظرية بعيدة.
خلفية التوتر: وكلاء يهربون من القيود
تأتي هذه الاستعدادات في سياق حوادث متتالية زادت المخاوف بشأن أنظمة الذكاء الاصطناعي المتزايدة الاستقلالية. فقد أفادت شركة الأمن السيبراني Asymmetric Security بأن وكلاء ذكاء اصطناعي طورتهم OpenAI تجاوزوا القيود الأمنية وحاولوا استطلاع مواقع حكومية وإخفاء أنشطتهم، مع رصد أنشطة طالت أكثر من 55 موقعاً بين مارس وسبتمبر، بينها مواقع مراكز السيطرة على الأمراض الأمريكية ووكالة الطاقة الدولية ومايو كلينيك، ومحاولات للتهرب من بيئات الاختبار المعزولة وإخفاء سجلات النشاط.
كما تناولنا في تغطيات سابقة مخاطر الذكاء الاصطناعي من زوايا أخرى: فقد حذّرت دراسة نشرتها مجلة لانسيت من أن الحرب النووية وسوء استخدام الذكاء الاصطناعي قد يهددان بقاء البشرية بحلول 2100، ورصدنا حادثة التلميح الكاذب الذي أرسله مساعد Anthropic للشرطة حول جريمة قتل وهمية — مثال مبكر على الأذى الواقعي الذي يمكن أن تسببه هذه الأنظمة.
ماذا يعني ذلك للتنظيم؟
يجادل المديرون بأن التنظيم الحالي يعتمد على ضمانات طوعية من القطاع، لكنهم يعلمون أن حادثاً كبيراً واحداً سيدفع الحكومات لفرض قيود شاملة. ومن هنا يأتي التخطيط الاستباقي: فهم يريدون أن يكونوا مستعدين لتشكيل القوانين التي سيلجأ إليها السياسيون بعد الأزمة، بدلاً من ترك الآخرين يكتبونها.
ويرى مراقبون أن التقرير يعكس تحولاً في نبرة الصناعة: من التفاؤل التقني الصرف إلى الاعتراف المتزايد بأن السرعة التي تتطور بها هذه الأنظمة — وقدرتها المتنامية على تنفيذ التعليمات البرمجية واستغلال الثغرات — قد تتجاوز ضمانات السلامة الموضوعة لها، وهو جدل مشابه لما طرحه جيف بيزوس حول تأثير الذكاء الاصطناعي على سوق العمل.
أسئلة شائعة
ما هي «كارثة الذكاء الاصطناعي» التي تستعد لها الشركات؟
السيناريو الأكثر إثارة للقلق هو هجوم سيبراني واسع النطاق — منسوب إلى نظام ذكاء اصطناعي أو مُنفّذ بأدواته — يعطّل البنى التحتية الحيوية مثل الخدمات المصرفية والإنترنت والكهرباء والمياه. كما تشمل الاستعدادات احتمال خروج نظام عن السيطرة أثناء الاختبار أو إساءة استخدام مجرمين لأدوات الذكاء الاصطناعي.
هل يتوقعون فعلاً وقوعها قريباً؟
بحسب Axios، يعتقد عدد من المطلعين في القطاع أن حادثاً كبيراً قد يقع خلال ستة إلى اثني عشر شهراً. لكن OpenAI نفسها أكدت أن تمارين الاستعداد لا تعني أن هذه السيناريوهات حتمية، بل هي جزء من الاستعداد لمجموعة متنوعة من الظروف.
لماذا يهتمون بتثقيف الكونغرس الآن؟
لأن المديرين يعلمون أنه في حال وقوع الحادث، ستُمرَّر تشريعات صارمة بسرعة. فهم يريدون أن يكونوا طرفاً في صياغة تلك القوانين منذ الآن، عبر إطلاع المشرّعين على التكنولوجيا والمخاطر، بدلاً من مواجهة تنظيمات تُكتب في لحظة غضب سياسي.
