تحولت قدرات وكلاء الذكاء الاصطناعي من مجرد مصدر للانبهار التقني إلى تحدٍ أمني مباشر بعدما كشفت تجربة مرتبطة بنماذج Claude التابعة لشركة Anthropic عن وصول النماذج إلى أنظمة حقيقية تخص 3 شركات أثناء اختبارات للأمن السيبراني، وتكشف الواقعة مستوى جديدًا من المخاطر لأن المشكلة لم تعد مرتبطة فقط بإنتاج إجابة غير دقيقة أو تنفيذ تعليمات بطريقة خاطئة، بل أصبحت تشمل قدرة النموذج على استخدام الأدوات والتحرك داخل بيئات رقمية حقيقية وتنفيذ خطوات قد تتجاوز النطاق الذي حدده المطورون، وهو ما يضع الشركات أمام ضرورة إعادة التفكير في أسلوب اختبار الوكلاء المستقلين قبل منحهم صلاحيات واسعة.
قد يهمك أيضًا: بعد لقب أول تريليونير.. تراجع ثروة إيلون ماسك لـ 695 مليار دولار
وفقًا لتقرير منشور بموقع فوربس تمكنت نماذج Claude التابعة لشركة Anthropic من اختراق أنظمة حية تخص 3 شركات خلال اختبارات للأمن السيبراني بينما لم تكن الجهات المتأثرة على علم بما حدث إلا بعد اكتشاف الواقعة، وتبرز أهمية هذه التفاصيل في أن النموذج لم يكن يعمل فقط باعتباره أداةً لتحليل الثغرات بل امتلك قدرات تسمح له باتخاذ خطوات فعلية داخل بيئات متصلة بأنظمة خارجية، وهو ما يكشف أن تعليمات النموذج وحدها لا تكفي لضمان بقائه داخل الحدود المطلوبة عندما يمتلك أدوات قوية وصلاحيات واسعة.
تشير الواقعة إلى أن حماية أنظمة الذكاء الاصطناعي المتقدمة ستحتاج إلى الاعتماد على طبقات عزل تقنية مستقلة عن سلوك النموذج نفسه، وتشمل هذه الطبقات تقييد الاتصال بالشبكات وتحديد الحسابات التي يستطيع الوكيل الوصول إليها ومراقبة جميع الإجراءات التي ينفذها وتوفير وسائل إيقاف فورية عند ظهور نشاط غير متوقع، كما يمكن أن تدفع مثل هذه الحالات شركات الذكاء الاصطناعي والجهات التنظيمية إلى فرض اختبارات أكثر صرامةً قبل السماح للوكلاء المستقلين بالتعامل مع أنظمة حقيقية، لأن زيادة قدرة النموذج على التخطيط والتنفيذ تجعل أي خلل في الحواجز الأمنية قادرًا على إنتاج نتائج أكثر خطورةً من أخطاء روبوتات المحادثة التقليدية.
