أعلنت شركة أوبن إيه آي يوم الخميس عن حظر عمليتي نفوذ سريتين، واحدة مصدرها روسيا وأخرى من إيران، استخدمتا نماذج الذكاء الاصطناعي التابعة للشركة لدعم ما وصفته بـ"واجهات مزيفة" تعمل على غسل رسائل جيوسياسية ومتعلقة بالنزاعات وتسريبها إلى الجمهور المستهدف. وصنّفت الشركة العملية الروسية عند المستوى الخامس على مقياس "IO Breakout"، وهي المرة الأولى التي تصف فيها عملية بهذا المستوى المرتفع، فيما وضعت العملية الإيرانية عند المستوى الرابع.

وكشفت الشركة، في تقرير أمان نُشر يوم 8 أكتوبر، أن الحملة الإيرانية أنشأت سبع شخصيات صحفية مزيفة قدّمت مقالات طويلة إلى وسائل إعلام إلكترونية صغيرة ومتوسطة حول العالم، بينما يُعتقد أن العملية الروسية جنّدت أشخاصاً غير مدركين في أميركا اللاتينية لتشغيل منصة بحثية مزيفة على الأرض، وفق ما نقل موقع Unite.AI.

جدول المحتويات

  1. كيف عملت الشبكتان؟
  2. لماذا يهم هذا التقرير؟
  3. 30 عملية خلال عامين ونصف
  4. النقاط الرئيسية
  5. أسئلة شائعة
  6. المصادر
  7. قراءة ذات صلة

كيف عملت الشبكتان؟

اعتمدت العمليتان على أسلوب "الواجهات المزيفة"، أي إنشاء كيانات تبدو شرعية — صحفيين أو منصات بحثية — لتقديم المحتوى الدعائي إلى وسائل إعلام حقيقية بدلاً من الاكتفاء بتوزيعه عبر حسابات مزيفة على وسائل التواصل. وقالت أوبن إيه آي إن العمليات التي تنجح في إيصال محتواها إلى منافذ إعلامية فعلية، بدل الاعتماد على توزيع مزيف عبر الشبكات الاجتماعية، هي الأعلى قدرة على الوصول والتأثير.

وبحسب التقرير، أنتجت العملية الإيرانية تعليقات على وسائل التواصل مرتبطة بالحرب الأميركية الإيرانية، بينما استخدمت العملية الروسية وثائق مزيفة ونصوصاً صوتية لتجنيد متعاونين محليين في أميركا اللاتينية. وعلّقت الشركة بأن "اللافت في هذه العمليات أنها تشبه إلى حد كبير عمليات النفوذ المعقدة في عصر ما قبل الذكاء الاصطناعي، لكن الذكاء الاصطناعي جعل بعض سير العمل أسهل".

لماذا يهم هذا التقرير؟

قارنت أوبن إيه آي الشبكتين بواجهات كلاسيكية سبقت عصر الذكاء الاصطناعي، مثل شخصية "أليس دونوفان" الصحفية المزيفة التي وُصفت بأنها واجهة للمخابرات العسكرية الروسية ونُشرت مقالاتها في وسائل إعلام غربية عامي 2016 و2017، ومنصة "PeaceData" الإخبارية المزيفة التي كشفتها شركة ميتا عام 2020 وكانت تجنّد صحفيين غير مدركين. وفي الحالتين، توقف النشاط بعد الكشف عنه، وهو ما تراهن عليه أوبن إيه آي في استراتيجية الكشف العلني.

30 عملية خلال عامين ونصف

قالت الشركة إنها كشفت 30 عملية نفوذ سرية خلال العامين والنصف الماضيين، في مؤشر على تحوّل مكافحة إساءة استخدام نماذج الذكاء الاصطناعي إلى جبهة دائمة. ويأتي هذا الإعلان في أسبوع شهد تحركات متزامنة من كبرى مختبرات الذكاء الاصطناعي لتشديد مكافحة الاستخدام الضار، إذ أعلنت أنثروبيك بدورها أدوات جديدة لمكافحة المراقبة غير القانونية وإساءة الاستخدام، وفق ما نقل موقع The Deep View.

النقاط الرئيسية

  • أوبن إيه آي حظرت عمليتي نفوذ سريتين من روسيا وإيران استخدمتا تشات جي بي تي لبناء "واجهات مزيفة".
  • العملية الروسية صُنّفت عند المستوى 5 من 6 على مقياس الشركة، وهو أعلى تصنيف تمنحه لعملية روسية حتى الآن.
  • الحملة الإيرانية أنشأت سبع شخصيات صحفية مزيفة استهدفت وسائل إعلام صغيرة حول العالم.
  • الشركة كشفت 30 عملية نفوذ سرية خلال عامين ونصف، وتقول إن اختراق وسائل الإعلام الحقيقية أخطر من الحسابات المزيفة.

أسئلة شائعة

ما هي "الواجهات المزيفة" التي تتحدث عنها أوبن إيه آي؟

هي كيانات تبدو شرعية — مثل صحفيين مزيفين أو منصات بحثية وهمية — تُستخدم لغسل رسائل جيوسياسية وتمريرها إلى الجمهور المستهدف عبر منافذ إعلامية حقيقية، بدلاً من الاعتماد على حسابات مزيفة في وسائل التواصل الاجتماعي.

كيف قيّمت أوبن إيه آي خطورة العمليتين؟

وضعت الشركة العملية الروسية عند المستوى 5 على مقياس "IO Breakout" الذي يصنّف عمليات النفوذ من 1 إلى 6، وهي المرة الأولى التي تمنح فيها هذا التصنيف المرتفع لعملية، بينما وضعت العملية الإيرانية عند المستوى 4.

ماذا فعلت العملية الإيرانية تحديداً؟

أنشأت سبع شخصيات صحفية مزيفة قدّمت مقالات طويلة إلى وسائل إعلام إلكترونية صغيرة ومتوسطة حول العالم، وأنتجت تعليقات على وسائل التواصل الاجتماعي مرتبطة بالحرب الأميركية الإيرانية.

وماذا عن العملية الروسية؟

يُعتقد أنها جنّدت أشخاصاً غير مدركين في أميركا اللاتينية لتشغيل منصة بحثية مزيفة على الأرض، مستخدمة وثائق مزيفة ونصوصاً صوتية مولّدة بمساعدة الذكاء الاصطناعي.

كم عدد عمليات النفوذ التي كشفتها أوبن إيه آي؟

قالت الشركة إنها كشفت 30 عملية نفوذ سرية خلال العامين والنصف الماضيين.

المصادر

قراءة ذات صلة