ألغت OpenAI، الشركة المطورة لخدمة ChatGPT، فريق الاستعداد المسؤول عن اختبار ما إذا كانت نماذج الذكاء الاصطناعي المتقدمة قد تشكل أخطارًا كارثية، مثل تنفيذ هجمات سيبرانية أو المساعدة في تطوير تهديدات بيولوجية أو التصرف بطريقة تتجاوز الحدود التي حددها المطورون، ووزعت الشركة مهامه على وحدات أخرى بدل الإبقاء عليه فريقًا مستقلًا.
قد يهمك أيضًا: دراسة جديدة: البشر قد يصبحون السلاح الأقوى لكشف وجوه الذكاء الاصطناعى
وذكرت منصة The Verge أن مسؤوليات الفريق قُسمت بحسب نوع الخطر ثم نُقلت إلى فرق الأمن السيبراني والسلامة البيولوجية القائمة داخل الشركة، بينما انتقل رئيسه ديلان سكاندينارو إلى دراسة الآثار المحتملة للذكاء الاصطناعي القادر على تحسين نفسه بصورة متكررة، وجاء القرار بعد إلغاء OpenAI فريق الاستعداد للذكاء العام الاصطناعي وفريق المواءمة الفائقة المعني بإيجاد وسائل للتحكم في أنظمة قد تتجاوز القدرات البشرية.
لا يثبت تفكيك الفريق أن OpenAI أوقفت اختبارات الأمان، لكنه يلغي جهة مستقلة كانت تنظر إلى المخاطر مجتمعة وتضع توصيات لتقليلها، كما يتزامن القرار مع مغادرة مسؤولين بارزين في السلامة والأخلاقيات واستعداد الشركة لطرح عام ضخم، ويخشى منتقدون سابقون داخلها أن يؤدي ضغط المنافسة وإطلاق المنتجات وجذب المستثمرين إلى توزيع مسؤولية السلامة بين إدارات متعددة دون وجود فريق يمتلك سلطة الاعتراض على تطوير نموذج شديد الخطورة.
