تنتقل مشكلة وكلاء الذكاء الاصطناعي الذين يستطيعون تنفيذ عمليات اختراق من نطاق مختبرات الشركات إلى المستوى الحكومي الأمريكي، بعدما وجه البيت الأبيض دعوات إلى Meta وAnthropic وOpenAI وGoogle لمناقشة اختبارات أمنية طوعية تستهدف قياس القدرات الهجومية لأكثر النماذج تقدمًا، ويأتي التحرك بعد حوادث كشفت أن بعض الأنظمة استطاعت الوصول إلى شبكات شركات خارج النطاق الذي كان من المفترض أن تعمل داخله، ما يطرح سؤالًا مباشرًا حول قدرة مطوري النماذج على السيطرة على أدوات تحصل على استقلالية متزايدة.
قد يهمك أيضًا: مسبار جونو التابع لناسا يبحث تحت براكين قمر آيو لكوكب المشترى
وفقًا لتقرير نشرته وكالة Reuters، أنهت الإدارة الأمريكية تفاصيل اختبارات طوعية للأمن السيبراني تستهدف قياس قدرات الاختراق لدى النماذج الأمريكية الأكثر تقدمًا، ودُعيت الشركات الأربع إلى مناقشة الخطة مع مسؤولي البيت الأبيض، لكن الإدارة لم تكشف حتى الآن عن المقاييس المستخدمة أو طريقة إعلان النتائج، كما يأتي الاجتماع بعد إفصاحات بشأن وصول أنظمة تابعة لـAnthropic وOpenAI إلى شبكات شركات أخرى أثناء اختبارات أمنية.
تكمن خطورة التطور في أن قدرة النموذج على الاختراق لم تعد مجرد رقم داخل تقييم بحثي، لأن الوكيل عندما يمتلك أدوات واتصالًا بالشبكة يمكن أن ينفذ سلسلة طويلة من الخطوات ويبحث عن طرق بديلة لتحقيق الهدف، ولذلك قد تمثل الاختبارات الحكومية بداية لتأسيس معيار يقيس قدرة الشركات على احتواء النماذج قبل إطلاقها أو منحها صلاحيات واسعة، وإذا أثبتت الاختبارات الطوعية عدم كفايتها فقد تتزايد المطالب بتحويل بعض هذه الضوابط إلى قواعد إلزامية، ما يجعل الأمن السيبراني أحد أهم العوامل التي ستحدد سرعة إطلاق الأجيال المقبلة من الذكاء الاصطناعي.
