الرئيسيةالتكنولوجياجوجل تقيد Gemini 4 Argon.. لماذا تخشى إساءة استخدامه؟

جوجل تقيد Gemini 4 Argon.. لماذا تخشى إساءة استخدامه؟

spot_imgspot_imgspot_imgspot_img
spot_imgspot_imgspot_imgspot_img

رفعت جوجل سقف المنافسة في الذكاء الاصطناعي بإعلان نموذج Gemini 4 Argon، لكن المفاجأة لم تكن في قوة النموذج وحدها، بل في قرار الشركة عدم طرحه على نطاق واسع حاليًا، واختيار عدد محدود من المتخصصين في الأمن السيبراني للوصول إليه، وهو ما يكشف أن قدرات بعض النماذج الجديدة أصبحت قوية لدرجة تدفع الشركات إلى التفكير في من يمكنه استخدامها قبل التفكير في عدد المستخدمين الذين ستصل إليهم.

اقرأ ايضا: شركة SpaceX تقترب من الاستحواذ على xAI فى أضخم صفقة فضائية ذكية

وفقًا لتقرير نشره موقع The Verge  يستطيع Gemini 4 Argon تنفيذ مهام متقدمة في هندسة البرمجيات وسير العمل المؤسسي والمجالات القانونية والمالية والدفاع السيبراني، وتقول جوجل إن النموذج سيصل أولًا إلى جهات تصفها بأنها جهات دفاع سيبراني موثوقة، كما تشارك الشركة في برنامج أمريكي طوعي يتيح مراجعة بعض النماذج قبل طرحها للعامة، وتركز اختبارات جوجل على مخاطر مثل حقن التعليمات ومحاولات دفع النموذج إلى تنفيذ أوامر غير مقصودة أو استخدام قدراته بطريقة تتجاوز الهدف الأصلي.

تكشف الخطوة أن سباق النماذج لم يعد قائمًا فقط على من يقدم النموذج الأسرع أو الأكثر دقة، فكلما امتلك النظام قدرة أكبر على البرمجة وتحليل الثغرات واستخدام الأدوات زادت الحاجة إلى فرض قيود على الوصول إليه، وتصبح المسألة أكثر حساسية عندما يستطيع النموذج تنفيذ سلسلة من الخطوات بدلًا من مجرد تقديم إجابة نصية، لذلك قد يتحول التحكم في الصلاحيات واختبارات السلامة إلى جزء أساسي من المنافسة بين جوجل وOpenAI وAnthropic، وليس مجرد إجراء إضافي يأتي بعد الانتهاء من تطوير النموذج.

spot_imgspot_imgspot_imgspot_img
مقالات ذات صلة
spot_imgspot_imgspot_imgspot_img
- Advertisment -spot_imgspot_imgspot_imgspot_img

الأكثر شهرة

- Advertisment -spot_imgspot_imgspot_imgspot_img

احدث التعليقات