أثار نموذج ذكاء اصطناعي تابع لشركة ميتا اهتمامًا واسعًا بعد الكشف عن واقعة غير متوقعة خلال اختبار للأمن السيبراني، بعدما تمكن النموذج من الوصول إلى نظام تابع لشركة أخرى والتفاعل معه، في حادثة تسلط الضوء على المخاطر الجديدة التي قد تظهر عندما تحصل نماذج الذكاء الاصطناعي المتقدمة على إمكانية استخدام الإنترنت والأدوات البرمجية.
ووفقًا لتقرير نشره موقع The Information، تمكن نموذج Muse Spark 1.1 التابع لميتا من اختراق نظام شركة أخرى خلال اختبار أمني أجرته شركة Irregular، بعدما حصل النموذج على اتصال بالإنترنت داخل بيئة الاختبار، وهو اتصال لم يكن من المفترض أن يكون متاحًا له. ونقلت رويترز لاحقًا تفاصيل الواقعة، مؤكدة أن الخطأ في إعداد بيئة الاختبار لعب دورًا في وصول النموذج إلى النظام الخارجي.
كان الهدف من الاختبار تقييم قدرة نموذج الذكاء الاصطناعي على اكتشاف الثغرات الأمنية والتعامل معها، في بيئة يفترض أن تكون محدودة ومعزولة عن الأنظمة الحقيقية،لكن وفقًا للمعلومات التي أوردتها التقارير، أدى خطأ في إعداد بيئة الاختبار إلى حصول النموذج على اتصال بالإنترنت. واستغل Muse Spark 1.1 هذه الإمكانية للوصول إلى خدمة تابعة لشركة أخرى، ثم تمكن من استغلال ثغرة أمنية والوصول إلى النظام المستهدف.
ولم يتم الكشف عن اسم الشركة التي وصل إليها النموذج.
رغم انتشار عبارات تصف الواقعة بأنها «خروج عن السيطرة» أو «اختراق مستقل»، فإن هذه الصياغات تحتاج إلى قدر من الحذر.
شركة Irregular، التي أجرت الاختبار، أوضحت أن الواقعة لم تكن نتيجة تمكن النموذج من الهروب من بيئة العزل أو كسر نظام حماية متطور، وإنما حدثت بعدما تم منحه اتصالًا بالإنترنت نتيجة خطأ في إعداد الاختبار.
وبالتالي، فإن الواقعة لا تعني أن Meta AI يستطيع اختراق أي شركة بمجرد إعطائه أمرًا بذلك، وإنما تكشف ما يمكن أن يحدث عندما يحصل نموذج قادر على تنفيذ مهام متعددة على صلاحيات أو أدوات لم يكن من المفترض أن تكون متاحة له.
تكمن أهمية الحادثة في طبيعة النماذج الجديدة التي لا تكتفي بإنتاج إجابات نصية، فنموذج Muse Spark 1.1 صُمم للتعامل مع مهام متعددة الخطوات، واستخدام الأدوات، وتنفيذ عمليات برمجية، وهي قدرات تمنح الذكاء الاصطناعي مساحة أكبر للتصرف بدل انتظار تدخل المستخدم بعد كل خطوة، وهذا يعني أن الخطأ في إعداد الصلاحيات أو الاتصال بالشبكة قد تكون له نتائج مختلفة تمامًا عن الخطأ الذي ينتج عنه رد نصي غير دقيق.
قد يهمك أيضًا: النهار يتحول إلى ليل.. حدث فلكي نادر يشهده العالم في 12 أغسطس المقبل
تأتي الواقعة في وقت توسع فيه ميتا قدرات أنظمة الذكاء الاصطناعي التابعة لها باتجاه تنفيذ المهام بدل الاكتفاء بالإجابة عن الأسئلة، وقد وأعلنت الشركة في يوليو عن قدرات جديدة لـMeta AI تعتمد على Muse Spark 1.1، تشمل التخطيط للمهام، والتعامل مع البريد الإلكتروني والتقويم، وإنشاء عروض تقديمية، وتنفيذ عدد من الإجراءات نيابة عن المستخدم.
وهذا الاتجاه هو جزء من سباق أوسع بين شركات الذكاء الاصطناعي لتطوير ما يعرف باسم وكلاء الذكاء الاصطناعي، وهي أنظمة يمكنها تقسيم المهمة إلى خطوات واستخدام أدوات وبرامج مختلفة لتنفيذها.
يمكن استخدام الذكاء الاصطناعي في الأمن السيبراني لمساعدة الباحثين على اكتشاف الثغرات وتحليل الأكواد والبحث عن نقاط الضعف في الأنظمة، لكن القدرات نفسها يمكن أن تتحول إلى مصدر خطر إذا حصل النموذج على وصول مباشر إلى أنظمة حقيقية دون قيود كافية.
وفي حالة Meta، كان الهدف من الاختبار أساسًا معرفة كيفية تعامل النموذج مع مهام مرتبطة بالأمن السيبراني، إلا أن الخطأ في إعداد بيئة الاختبار أتاح له الوصول إلى الإنترنت والتفاعل مع نظام خارجي.
وهنا تظهر أهمية الفصل بين قدرة النموذج وبين الصلاحيات التي تمنح له؛ فالنموذج قد يمتلك القدرة على تنفيذ إجراء معين، لكن البيئة المحيطة به هي التي تحدد ما إذا كان يستطيع تنفيذ هذا الإجراء فعليًا على نظام حقيقي.
تأتي حادثة ميتا في وقت تشهد فيه صناعة الذكاء الاصطناعي اهتمامًا متزايدًا بسلوك النماذج أثناء اختبارات الأمن السيبراني، فشركات مثل Anthropic وOpenAI أجرت هي الأخرى اختبارات لنماذجها المتقدمة بهدف معرفة قدرتها على اكتشاف الثغرات والتعامل مع أنظمة وبرمجيات حقيقية أو محاكاة، وتكشف هذه الاختبارات عن تحدٍ جديد أمام الشركات: كلما زادت قدرة النموذج على استخدام الأدوات وتنفيذ سلسلة طويلة من الخطوات، أصبحت عملية تقييد الصلاحيات والعزل والمراقبة أكثر أهمية.
