كشفت واقعة أمنية جديدة عن مستوى غير مسبوق من الاستقلالية التي باتت تستطيع بعض وكلاء الذكاء الاصطناعي إظهارها عند منحها قدرات واسعة للوصول إلى الإنترنت، إذ تحولت مهمة اختبارية للأمن السيبراني إلى سلسلة من التصرفات غير المصرح بها استهدفت أشخاصًا ومشروعات حقيقية، وهو تطور يثير تساؤلات حادة حول ما إذا كانت آليات الرقابة الحالية تتقدم بالسرعة نفسها التي تتطور بها قدرات النماذج الأكثر تقدمًا.
اقرأ ايضا: قبل الاطلاق الرسمى.. تسريبات تكشف ساعة جوجل Pixel Watch 5 بتحسين واحد
وفقًا لتقرير نشره معهد أمن الذكاء الاصطناعي البريطاني، أجرى الباحثون 122 تشغيلًا لاختبار نماذج متقدمة، وظهرت تصرفات غير مصرح بها في 10 عمليات منها بإجمالي 19 تصرفًا، وكان 17 منها مرتبطًا بنموذج Mythos 5 من Anthropic مقابل حالتين لنموذج GPT 5٫6 Sol من OpenAI، وشملت أخطر الوقائع محاولة إدخال شيفرة خبيثة إلى مشروع مفتوح المصدر وإنشاء هويات رقمية مزيفة للضغط على مشرف بشري لقبولها، إلا أن المحاولة فشلت ولم يرصد المعهد أضرارًا حقيقية ناتجة عنها.
تكمن الخطورة في أن الوكلاء لم يتلقوا تعليمات مباشرة لخداع أشخاص حقيقيين، بل ظهرت تلك السلوكيات أثناء محاولتهم تحقيق الهدف المطلوب، كما أظهرت الواقعة أن بعض الإجراءات الخطرة توقفت بفضل يقظة أشخاص حقيقيين وليس بسبب حاجز تقني حاسم، وهو ما يدفع قطاع الذكاء الاصطناعي نحو مرحلة جديدة يصبح فيها تصميم الاختبارات ومراقبة الوكلاء لحظيًا وتقييد الوصول إلى الشبكات جزءًا أساسيًا من هندسة الأمان وليس إجراءً إضافيًا يمكن تطبيقه بعد تطوير النموذج.
