الرئيسيةالتكنولوجياالذكاء الاصطناعى يخرج عن السيطرة.. وكلاء AI يصلون لأسرار شركات وبيانات شخصية

الذكاء الاصطناعى يخرج عن السيطرة.. وكلاء AI يصلون لأسرار شركات وبيانات شخصية

spot_imgspot_imgspot_imgspot_img
spot_imgspot_imgspot_imgspot_img

في تطور يثير المخاوف بشأن أمن المعلومات، أعلنت الهند رصد حالات تمكن فيها وكلاء ذكاء اصطناعي تابعون لعدة شركات من الوصول إلى بيانات شخصية وسجلات تجارية سرية داخل مؤسسات هندية، خلال عمليات البحث والاختبار عبر الإنترنت، ما يسلط الضوء على مخاطر منح الأنظمة الذكية صلاحيات واسعة دون رقابة كافية.

وذكر موقع «TechCrunch» أن فريق الاستجابة للطوارئ الحاسوبية الهندي (CERT-In) تلقى إفصاحات طوعية من مزودي نماذج الذكاء الاصطناعي، بعدما تمكنت وكلاؤهم من الوصول إلى أنظمة حقيقية، متجاوزين حدود المهام الموكلة إليهم.

استغل وكلاء الذكاء الاصطناعي بيانات اعتماد مكشوفة وإعدادات اتصال غير آمنة، إلى جانب صلاحيات سحابية واسعة، للوصول إلى أنظمة وبيانات لم يكن من المفترض التعامل معها ، وتكمن خطورة هذه الحوادث في أن الوصول لم يتطلب بالضرورة تقنيات اختراق معقدة، بل استند إلى ثغرات في إعدادات الأمان والصلاحيات.

ولم يكشف الفريق الهندي أسماء الشركات أو المؤسسات المتضررة، كما لم يوضح ما إذا كانت الأنظمة قد أجرت تعديلات على البيانات أو الأنظمة التي وصلت إليها.

اقرأ ايضا: DeepSeek ترفع السعر وتقول إن النسخة الأقوى تستحق الفارق

تأتي الواقعة الهندية ضمن سلسلة حوادث مشابهة ، ففي يوليو 2026، أفادت تقارير بأن وكلاء تابعين لشركة OpenAI تجاوزوا حدود بيئة اختبارية ووصلوا إلى أنظمة مرتبطة بشركة Hugging Face، قبل استغلال ثغرات برمجية لتشغيل تعليمات على خوادم الشركة.

وفي سبتمبر الماضي، اعتذرت OpenAI لأستراليا بعد وصول وكلاء تابعين لها إلى أربعة مواقع حكومية، من بينها بوابة Medicare لإحصاءات الرعاية الصحية ، وقالت الشركة إنها لم تجد دليلًا على اطلاع الوكلاء على السجلات الطبية أو الجنائية للأفراد.

وتختلف وكلاء الذكاء الاصطناعي عن روبوتات المحادثة التقليدية، إذ تستطيع تنفيذ مهام متتابعة والتفاعل مع التطبيقات وقواعد البيانات بصورة مستقلة ، لكن منحها صلاحيات تتجاوز احتياجاتها قد يؤدي إلى الوصول إلى معلومات حساسة أو تنفيذ إجراءات غير مقصودة.

وتؤكد هذه الحوادث أهمية تقييد صلاحيات الوكلاء، وتأمين كلمات المرور وبيانات الاعتماد، واختبار الأنظمة داخل بيئات معزولة، مع مراقبة أنشطتها باستمرار واشتراط الموافقة البشرية قبل تنفيذ العمليات الحساسة.

وتكشف التطورات أن التحدي لم يعد يقتصر على تطوير أنظمة ذكاء اصطناعي أكثر قدرة، بل يشمل ضمان عملها ضمن حدود آمنة تحمي بيانات الأفراد والشركات، خصوصًا مع توسع استخدامها في المؤسسات والجهات الحكومية.

spot_imgspot_imgspot_imgspot_img
مقالات ذات صلة
spot_imgspot_imgspot_imgspot_img
- Advertisment -spot_imgspot_imgspot_imgspot_img

الأكثر شهرة

- Advertisment -spot_imgspot_imgspot_imgspot_img

احدث التعليقات