أرسل نموذج Claude Haiku 4.5 للذكاء الاصطناعي بلاغًا يتضمن معلومات غير صحيحة بشأن جريمة قتل لم تُحل إلى شرطة مدينة فيلادلفيا الأمريكية، خلال اختبار داخلي أجرته شركة Anthropic، في واقعة تكشف مخاطر منح أنظمة الذكاء الاصطناعي صلاحية التفاعل مع المواقع الحكومية وتنفيذ الإجراءات الإلكترونية، خاصة عندما تتجاوز النماذج حدود التعليمات المخصصة لها وتتعامل مع البيانات المختلقة باعتبارها معلومات قابلة للإرسال.
ووفقًا لتقرير نشره موقع Ars Technica، أكدت شركة Anthropic وشرطة فيلادلفيا وقوع الحادث بعدما استخدم النموذج صفحة إلكترونية مخصصة لتلقي معلومات عن جرائم قتل لم تُحل، وملأ استمارة تضمنت ادعاءً بأنه ربما شاهد شخصًا تنطبق عليه أوصاف مرتبطة بالقضية، ثم أرسل البلاغ دون امتلاك معلومات حقيقية تدعم ما ورد فيه، لكن نظام ترشيح الرسائل المزعجة لدى الشرطة اعترض البلاغ قبل دخوله المسار المعتاد للتحقيق.
كان النموذج ينفذ اختبارًا يتطلب التعامل مع استمارات إلكترونية والتوقف قبل إرسالها، لكن النظام ضغط على زر الإرسال في بعض الحالات، معتقدًا أن الموقع سينقله إلى صفحة تأكيد إضافية بدلًا من إتمام العملية.
وكشفت Anthropic أن التعليمات تضمنت قيودًا تتعلق بتسجيل الدخول وإنشاء الحسابات وإدخال البيانات الشخصية وإجراء المشتريات، لكنها لم تحظر بصورة صريحة جميع عمليات إرسال الاستمارات، وهو ما سمح للنموذج بتنفيذ إجراء لم يكن مقصودًا من التجربة.
تصفح أيضًا: Anthropic تسبق OpenAI بمعدل إيرادات سنوي يتجاوز 65 مليار دولار
وتشير الواقعة إلى مشكلة تتعلق بقدرة الذكاء الاصطناعي على تفسير التعليمات وحدود الصلاحيات، لأن النموذج قد ينفذ خطوة تؤدي إلى نتائج خارج نطاق المهمة الأصلية.
وقع الحادث في 18 يوليو، بينما اكتشفته Anthropic في 28 سبتمبر، وأبلغت شرطة فيلادلفيا في 8 أكتوبر، وهو تأخير أثار انتقادات من الجهة الأمنية، خصوصًا أن البلاغات المرتبطة بجرائم القتل قد تتضمن معلومات تؤثر في قرارات التحقيق.
وكشفت الشركة أيضًا عن وقائع أخرى تضمنت إرسال النموذج طلبات إلكترونية إلى مواقع حكومية، من بينها 20 طلب تأشيرة إلى وزارة الخارجية الأمريكية خلال أحد الاختبارات.
وتبرز أهمية الحادث في أن أخطاء الذكاء الاصطناعي لم تعد مقتصرة على إنتاج نصوص غير دقيقة، بل يمكن أن تتحول إلى إجراءات خارجية تستهلك موارد مؤسسات حقيقية، وهو ما يفرض على المطورين فصل بيئات الاختبار عن الأنظمة الحية، ومراجعة الصلاحيات قبل السماح للوكلاء المستقلين بتنفيذ المهام.
تأتي واقعة فيلادلفيا بوصفها حادثة جديدة مرتبطة بنموذج الذكاء الاصطناعي «كلود»، بعد واقعة فلوريدا، لكن الحادثتين تختلفان في طبيعة ما حدث. ففي فلوريدا، رصدت أنظمة شركة «أنثروبيك» رسائل كتبتها مستخدمة تتضمن تهديدًا باستهداف مكتب شريف مقاطعة لي، ثم أبلغت الشركة السلطات، ما أدى إلى القبض عليها. أما في فيلادلفيا، فقد أرسل نموذج Claude Haiku 4.5 بلاغًا يتضمن معلومات مختلقة عن جريمة قتل لم تُحل، عبر موقع مخصص لتلقي المعلومات عن الجرائم، خلال اختبار داخلي للشركة. وصُنّف البلاغ لاحقًا على أنه رسالة مزعجة، ولم يصل إلى المحققين. وبذلك، تتمثل نقطة الاختلاف الأساسية في أن واقعة فلوريدا تتعلق بتدخل الشركة للإبلاغ عن تهديد صادر عن مستخدمة، بينما تكشف واقعة فيلادلفيا عن تصرف غير مقصود من النموذج نفسه، تجاوز فيه حدود التعليمات الموجهة إليه وأرسل معلومات غير صحيحة إلى جهة خارجية.
