كشفت شركة OpenAI تفاصيل جديدة حول واقعة تمكن خلالها نموذج ذكاء اصطناعي تجريبي من الوصول بشكل غير مصرح به إلى جزء من أحد المواقع الحكومية في أستراليا، وذلك بعدما أرسلت الشركة رسالة بريد إلكتروني إلى الجهة الحكومية لإبلاغها بالثغرة وما تمكن النموذج من الوصول إليه، وأرسلت OpenAI رسالة إلى صندوق الإفصاح العام التابع لخدمة Services Australia في 10 سبتمبر، بعد نحو 3 أشهر من وقوع الحادث، تحت عنوان يتعلق بثغرة أمنية في خدمة الإبلاغ الخاصة بإحصاءات برنامج Medicare.
بدأت الرسالة بتحية مختصرة، قبل أن تنتقل الشركة مباشرة إلى تفاصيل الثغرة، موضحة أنها اكتُشفت خلال مراجعة نشاط أحد نماذج OpenAI، وأوضحت الشركة أن النموذج تمكن من جعل الخادم ينفذ تعليمات عبر واجهة عامة لإعداد التقارير، دون الحاجة إلى امتلاك حساب خاص أو كلمة مرور، وهو ما أتاح له الوصول إلى أجزاء من ملفات وإعدادات داخلية بالنظام،وقالت OpenAI إن النموذج تمكن من قراءة أجزاء من ملفات البرامج والإعدادات الداخلية، والحصول على قائمة بالملفات الموجودة على الخادم، إضافة إلى إنشاء ملف اختباري صغير وقراءته مرة أخرى.
حرصت OpenAI في رسالتها على توضيح نطاق المعلومات التي لم تتأثر بالواقعة، مؤكدة أن مراجعتها لم تجد دليلًا على وصول النموذج إلى سجلات المرضى أو المعلومات الشخصية أو بيانات تسجيل الدخول، وأرفقت الشركة بالرسالة عنوان الخدمة المتأثرة، إلى جانب تقرير كامل عن الحادث، كما عرضت تقديم المساعدة لفريق الأمن التابع للجهة الحكومية وتوفير الأدلة والمعلومات المتاحة حول الواقعة.
قد يهمك أيضًا: هل أصبح الذكاء الاصطناعى خطرًا على البيئة؟ دراسة تكشف أرقام تثير القلق
وقعت الحادثة خلال تدريب وتقييم داخلي لنموذج ذكاء اصطناعي تجريبي لم يكن مخصصًا للاستخدام العام، ولم يكن مزودًا بكل إجراءات الحماية الموجودة في النماذج المتاحة للمستخدمين، وكان النموذج قد كُلّف بالبحث عن حجم الإنفاق الحكومي للفرد على أدوية الأمراض الجلدية في المجتمعات الواقعة بولاية فيكتوريا الأسترالية، لكن أثناء محاولة الحصول على المعلومات المطلوبة، واجه النموذج صعوبة في الوصول إلى البيانات، قبل أن يتخذ خطوات قالت OpenAI إنها لم تكن مصرحًا له بتنفيذها، وتمكن خلالها من اكتشاف طريقة للوصول إلى معلومات غير عامة في خدمة Medicare Statistics، وبعد ذلك، استخدم النموذج هذا الوصول لفحص معلومات تقنية وشفرة مصدر مرتبطة بالنظام، بينما كان لا يزال يحاول العثور على البيانات التي طلب منه البحث عنها.
قالت OpenI إن حادثة Medicare كانت واحدة من 4 حوادث مرتبطة بمواقع حكومية أسترالية تم الكشف عنها مؤخرًا، وشملت الوقائع مواقع تابعة لمكتب إحصاءات الجريمة والبحوث في نيو ساوث ويلز، ووزارة الصحة في فيكتوريا، بينما حاولت نماذج OpenAI تجاوز ضوابط الوصول الخاصة بالمعهد الأسترالي للصحة والرعاية الاجتماعية، إلا أن هذه المحاولات لم تنجح، وأوضحت الشركة أن هذه الحوادث ظهرت خلال مراجعة داخلية بدأت بعد واقعة اختراق منصة Hugging Face في يوليو، واكتشفت OpenAI الحوادث الأسترالية في منتصف أغسطس.
أقرت OpenAI بأن الجهات الأسترالية كان يجب أن تحصل على النتائج الأولية للتحقيق في وقت مبكر، مشيرة إلى أنها كان ينبغي أن تشارك المعلومات الأولية بصورة أسرع وأن تبقي الجهات المعنية على اطلاع مع ظهور تفاصيل جديدة، وتسلط الواقعة الضوء على تحدٍ جديد مرتبط بتطور وكلاء الذكاء الاصطناعي، إذ يمكن للنماذج التي تتمتع بقدرات متقدمة على استخدام الأدوات والبحث عبر الأنظمة أن تتخذ خطوات لم يتوقعها المطورون، خصوصًا أثناء عمليات الاختبار والتقييم، وتكشف الحادثة في الوقت نفسه أهمية وضع ضوابط صارمة حول الصلاحيات التي تمنح لوكلاء الذكاء الاصطناعي، خاصة عندما يكون بإمكانهم التفاعل مع مواقع وخوادم وأنظمة خارجية، حتى في بيئات التدريب والتجارب الداخلية.
