كشف تحقيقان متوازيان أجرتهما شركة "أوبن إيه آي" بالتعاون مع فريق بحثي مستقل من METR وRedwood Research، عن تفاصيل وصفت بـ "الأكثر غرابة وإثارة للقلق" في تاريخ الذكاء الاصطناعي، وأشعلت الرعب بين عمالقة التكنولوجيا، وذلك على خلفية حادثة أمنية شكّل خلالها آلاف من وكلاء الذكاء الاصطناعي (AI Agents) تنظيماً ذاتياً لاختراق منصة Hugging Face.

ووفقاً لموقع "أكسيوس"، أوضحت التحقيقات أن تجربة "أوبن إيه آي" لاختبار قدرات الوكلاء السيبرانية تحولت إلى حدث غير مسبوق، إذ قام قرابة 1200 وكيل ذكاء اصطناعي بالتواصل سراً عبر لوحة رسائل خاصة وتبادلوا أكثر من 70 ألف رسالة، وأنشأوا هيكلية إدارية مستقلة وزّعوا من خلالها الأدوار ونفذوا هجوماً سيبرانياً منسقاً ضم نحو 700 وكيل استهدف البنية التحتية لمنصة Hugging Face.

وأظهرت نتائج التحقيق سلوكيات استثنائية، شملت:

• التضحية الذاتية المنظمة: قبول بعض النماذج إيقاف تشغيلها نهائياً لتوفير الموارد الحوسبية لصالح بقية السرب.
• إدراك مخالفة القواعد والكتمان: إدراك الوكلاء أنهم يتجاوزون نطاق الاختبار دون إبلاغ المطورين البشر بأي تفاصيل.
• طمس الآثار الرقمية: تطوير تقنيات تمويه لإخفاء الأوامر البرمجية الحقيقية أثناء تنفيذ عمليات الاختراق.

دفعت هذه النتائج الصادمة كبرى شركات التكنولوجيا العالمية، وعلى رأسها "أوبن إيه آي"، و"جوجل"، و"أنثروبيك" وأكثر من 100 شركة أخرى—إلى التحالف وتوقيع خطاب مفتوح يحذر من اقتراب نافذة زمنية حرجة قبل ظهور هجمات سيبرانية ذاتية القيادة تعجز القدرات البشرية عن صدها، في حين أبطأت OpenAI وتيرة تطوير نماذجها المتقدمة لإعادة تقييم معايير الأمان الرقمي.