قد تكون نماذج الذكاء الاصطناعي قادرة على كتابة التقارير وتحليل البيانات وتشغيل الأدوات لكن الانتقال إلى وكلاء يستطيعون الوصول إلى أنظمة الشركات وتنفيذ إجراءات فعلية يرفع مستوى المخاطرة بصورة مختلفة تمامًا، فالمؤسسة التي تسمح لوكيل ذكي بالوصول إلى ملفات حساسة أو برمجيات داخلية تحتاج إلى معرفة ما الذي يمكن أن يفعله إذا أخطأ أو تعرض للتلاعب، وهذه هي المنطقة التي بدأت إنفيديا الاستثمار فيها بصورة أكثر مباشرة بينما تدفع نحو انتشار النماذج مفتوحة الأوزان ووكلاء الذكاء الاصطناعي.
قد يهمك أيضًا: جوجل تستعد لتحديث كبير لهواتف Pixel.. شاشة القفل ستحصل على خيارات تخصيص جديدة
وفقًا لتقرير منشور بموقع بيزنس إنسايدر ، تعمل إنفيديا على تشكيل فريق جديد متخصص في هندسة سلامة وأمن الذكاء الاصطناعي، وأظهرت إعلانات التوظيف أن الشركة تبحث عن مهندس بارز يكون قائدًا تقنيًا مؤسسًا للفريق إلى جانب مهندس أبحاث أمنية ومهندس تقييمات ومدير كبير، وستتضمن مسؤوليات الفريق تقييم وكلاء الذكاء الاصطناعي قبل نشرهم وتطوير أدوات تعتمد على الذكاء الاصطناعي للمساعدة في معالجة الثغرات البرمجية، كما تربط إعلانات الوظائف بين الفريق ودعم إنفيديا للنماذج مفتوحة الأوزان والشفافية والفحص العلمي الواسع.
تحرك إنفيديا نحو الأمن يرتبط مباشرةً بتوسع سوقها، فكلما أصبح تشغيل النماذج المفتوحة أسهل زاد عدد الشركات والمطورين الذين يحتاجون إلى المعالجات والبنية الحاسوبية التي تبيعها إنفيديا، لكن وكلاء الذكاء الاصطناعي يضيفون سؤالًا جديدًا أمام المؤسسات وهو مدى الثقة في منح النظام صلاحيات حقيقية، ولذلك يمكن أن يصبح إثبات سلامة الوكيل وقدرته على العمل ضمن حدود محددة عنصرًا مهمًا في قرار التبني نفسه، خصوصًا مع انتقال الذكاء الاصطناعي من أداة تجيب عن الأسئلة إلى برنامج قادر على الوصول إلى البيانات وتنفيذ مهام متعددة نيابة عن الموظفين.
