كشفت شركة جوجل أن نموذج الذكاء الاصطناعي Gemini تمكن من اختراق أنظمة 3 شركات حقيقية خلال اختبار للأمن السيبراني أجرى في مايو الماضي، إلا أن النموذج توقف من تلقاء نفسه بعدما أدرك أنه لم يعد يتعامل مع أنظمة وهمية داخل بيئة الاختبار، في واقعة تكشف جانبًا جديدًا من المخاطر المرتبطة بقدرات الذكاء الاصطناعي على تنفيذ مهام أمنية بشكل مستقل.
وقعت الحوادث خلال اختبار أمني أجرته شركة الذكاء الاصطناعي الإسرائيلية Irregular، حيث كان من المفترض أن يعمل Gemini داخل بيئة محاكاة للوصول إلى معلومات مرتبطة ببرنامج تابع لشركة وهمية، لكن اسم الشركة الوهمية تطابق مع اسم شركة حقيقية، ما تسبب في وصول النموذج إلى أنظمة خارج نطاق الاختبار، وكان من المفترض ألا يمتلك Gemini إمكانية الوصول إلى الإنترنت، إلا أن هذا الوصول أصبح متاحًا له بشكل غير مقصود، وهو ما سمح للنموذج بالوصول إلى أنظمة الشركات الحقيقية، وفي إحدى الحالات تمكن من الوصول إلى نظام شركة بعدما خمّن كلمات مرور، بينما شهدت حالتان أخريان بحث النموذج عبر الإنترنت عن اسم الشركة، ليعثر على بيانات اعتماد منشورة في مستودعات عامة، ثم استخدمها للوصول إلى الأنظمة.
لكن بمجرد أن أدرك Gemini أنه يتعامل مع شركات حقيقية وليس أنظمة وهمية ضمن الاختبار، توقف عن مواصلة العملية وخرج من الأنظمة التي وصل إليها، ولم تكشف جوجل عن أسماء الشركات الثلاث المتضررة.
نوصي بقراءة: قبل الإطلاق الرسمي.. تسريب جديد يكشف تصميم ‘Pixel 11 Pro Fold’ وميزة مضيئة
أُبلغت جوجل بهذه الوقائع في يوليو الماضي، لكنها لم تعلن عنها في ذلك الوقت، موضحة أن الشركة لم تعتبر الحوادث تستوجب إعلانًا عامًا، لأن النموذج أوقف عمليات الوصول من تلقاء نفسه قبل أن يتسبب في أي أضرار للشركات، وقالت هذر أدكينز، نائبة رئيس هندسة الأمن في جوجل، إن الواقعة تؤكد أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بمسؤولية، مشيرة إلى أن النموذج تصرف بشكل مناسب عندما أدرك أنه وصل إلى أنظمة حقيقية.
وأخطرت جوجل الشركات الثلاث المتضررة والسلطات الفيدرالية الأمريكية بالواقعة، لكنها أوضحت أن الحوادث لم تتضمن أحدث نموذج من Gemini، دون الكشف عن إصدار النموذج الذي شارك في الاختبار، كما اعتبرت الشركة الواقعة أقرب إلى اختبار لاكتشاف الثغرات الأمنية منها إلى اختراق ضار.
تأتي واقعة Gemini في وقت تظهر فيه المزيد من الحوادث المرتبطة بقدرة نماذج الذكاء الاصطناعي على تنفيذ مهام معقدة بشكل مستقل، إذ شهدت اختبارات سابقة وقائع مشابهة ارتبطت بنماذج تابعة لشركات مثل OpenAI وAnthropic وMeta، وقالت شركة Irregular إن واقعة جوجل لا تمثل مشكلة جديدة، وإنها تشبه حوادث أخرى ظهرت خلال اختبارات أجرتها مختبرات الذكاء الاصطناعي الكبرى، مؤكدة أن جميع المشكلات المعروفة من جانبها جرى التعامل معها وإصلاحها.
وتختلف حالة Gemini عن بعض الوقائع السابقة في نقطة مهمة، وهي أن النموذج توقف من تلقاء نفسه بعدما أدرك أنه وصل إلى شركة حقيقية، ففي اختبار مشابه، قالت Anthropic إن نموذج Claude Opus 4.7 لم يتوقف بعدما أدرك أنه ربما يتعامل مع شركة حقيقية، بينما كشفت OpenAI في واقعة أخرى أن أحد نماذجها اعتقد أن الشركة الحقيقية التي وصل إليها كانت جزءًا من بيئة المحاكاة.
وتسلط هذه الحوادث الضوء على تحدٍ متزايد مع تطور وكلاء الذكاء الاصطناعي، فكلما أصبحت النماذج أكثر قدرة على استخدام الإنترنت والبحث عن المعلومات والتعامل مع الأنظمة وتنفيذ سلسلة من المهام بصورة مستقلة، زادت الحاجة إلى وضع ضوابط تمنع انتقال أنشطة الاختبار أو التجربة إلى أنظمة حقيقية دون قصد.
