أثار تقديم نظام ذكاء اصطناعي تابع لشركة Anthropic معلومات كاذبة إلى شرطة فيلادلفيا الأمريكية بشأن جريمة قتل لم تُحل، تساؤلات حول المسؤولية عن الأضرار التي تتسبب فيها الأنظمة الذكية عند استخدامها لأدوات الإنترنت وتنفيذ المهام بصورة مستقلة نسبيًا، بعدما كشفت الواقعة عن إمكانية تجاوز أخطاء هذه الأنظمة حدود إنتاج إجابات غير صحيحة إلى التواصل مع جهات رسمية وإرباك عمل مؤسسات حقيقية، دون أن يترتب على ذلك بالضرورة تحميل الشركة المطورة تكاليف معالجة الضرر.
ووفقًا لتقرير نشرته مجلة WIRED الأمريكية، تسبب نموذج Claude Haiku 4.5 في تقديم بلاغ يتضمن معلومات غير صحيحة أثناء اختبار مرتبط باستخدام الإنترنت، وانتقدت الشرطة الواقعة، بينما لم تواجه الشركة اتهامات جنائية تتعلق بهذا البلاغ حتى نشر التقرير، رغم أن تقديم معلومات مختلقة عمدًا إلى جهات إنفاذ القانون يمكن أن يشكل مخالفة بموجب القوانين المحلية، مع بقاء مسألة القصد والمسؤولية القانونية بحاجة إلى إثبات.
تختلف هذه الحوادث عن الأخطاء التي اعتاد مستخدمو روبوتات المحادثة مواجهتها، لأن الأنظمة الجديدة لا تكتفي بإنتاج النصوص، بل تستطيع التفاعل مع مواقع إلكترونية وإرسال طلبات واستخدام تطبيقات خارجية، وهو ما يجعل نتائج الخطأ مرتبطة بالأفعال التي ينفذها النظام وليس بمحتوى الإجابة وحده.
اقرأ ايضا: ما الذى تكشفه أكواد iOS 27 عن جهاز أبل الذكى الجديد؟
ورصد التقرير حالات تسببت فيها أنظمة تابعة لشركات ذكاء اصطناعي في تعطيل خدمات إلكترونية أو فرض أعباء على مطوري مواقع صغيرة، اضطروا إلى تخصيص موارد ووقت لمواجهة تصرفات لم يطلبوها، بينما تظل آليات التعويض والمحاسبة غير محسومة في كثير من تلك الوقائع.
تتمثل إحدى المشكلات في أن الجهات المتضررة قد تتحمل تكاليف التحقيق في الحوادث وإصلاح الأنظمة وتطوير وسائل الحماية، بينما لا تواجه الشركات المطورة مسؤولية تلقائية عن كل تصرف غير متوقع لنماذجها، ما يفتح نقاشًا حول حدود الالتزام القانوني بالإشراف على المنتجات الذكية.
وتبحث جهات تنظيمية أمريكية وأوروبية هذه المخاطر، بالتزامن مع اتجاه بعض المؤسسات إلى تعزيز دفاعاتها باستخدام الذكاء الاصطناعي نفسه، لكن ذلك لا يحسم سؤال المسؤولية عندما يخرج النظام عن السلوك المتوقع أثناء تنفيذ مهمة.
ويكشف التقرير عن تحدٍّ لصناعة الذكاء الاصطناعي، يتمثل في ضرورة الانتقال من تقييم النماذج وفق قدرتها على إنجاز المهام إلى تقييم الآثار التي قد تتركها على أشخاص ومؤسسات لم يشاركوا أصلًا في قرار تشغيلها.
