قدرات نماذج الذكاء الاصطناعي في البيولوجيا تضع الشركات أمام معادلة شديدة الحساسية، فالنظام القادر على مساعدة باحث في فهم مركب دوائي أو تحليل مشكلة جزيئية يمكن أن يمتلك في الوقت نفسه معلومات يمكن إساءة استخدامها، ولهذا أطلقت Anthropic نموذج Claude Fable 5 بقيود قوية على الأسئلة البيولوجية، لكنها أعلنت الآن تعديل منظومة الحماية بعد أن تبين أن عددًا كبيرًا من الطلبات المشروعة كان يُعامل باعتباره خطرًا محتملًا.
تصفح أيضًا: رغم تراجع الإيرادات 10%.. مايكروسوفت تراهن على عودة Xbox للنمو بحلول 2027
وفقًا لإعلان رسمي نشرته Anthropic، عدلت الشركة أدوات الحماية الخاصة بالبيولوجيا في Claude Fable 5 بما خفض حالات تحويل الأسئلة إلى نموذج أقل قدرة بنحو 85% في اختباراتها، وتقول الشركة إن المستخدمين سيشاهدون تدخلات أقل عند طرح أسئلة صحية وتعليمية يومية مثل فهم نتائج التحاليل أو الأعراض أو موضوعات البيولوجيا، كما يمكن للعاملين في الرعاية الصحية الحصول على مساعدة أكبر في المهام السريرية، وتعتمد منظومة الحماية على مصنفات آلية تكتشف الطلبات الحساسة وتعيد توجيهها عند الحاجة إلى نموذج Opus 5 الأقل قدرة في هذا المجال.
لم تفتح Anthropic القدرات البيولوجية بالكامل، فما زال Fable 5 يحول الطلبات التي تعتبرها الشركة مزدوجة الاستخدام مثل بعض موضوعات علم الفيروسات والسموم والتصميم الجزيئي إلى Opus 5، وتقول الشركة إن النموذج قادر بالفعل على التفوق على الخبراء في بعض المهام البيولوجية المعقدة ويمكن أن يوفر دعمًا عمليًا في مجالات أخرى، وهو ما يفسر حذرها، فالهدف أصبح تقليل رفض الأسئلة المشروعة دون إزالة الحواجز أمام الطلبات التي يمكن أن تمنح مستخدمًا ضارًا قدرات يصعب الحصول عليها بطرق أخرى، لتصبح دقة أنظمة الحماية نفسها جزءًا أساسيًا من المنافسة على نماذج الذكاء الاصطناعي العلمية.
