أعلنت شركة ميتا عن إطلاق ميزة جديدة تعتمد على الذكاء الاصطناعي لإخطار أولياء الأمور إذا أشارت محادثات أبنائهم المراهقين مع Meta AI إلى وجود مؤشرات على التفكير في إيذاء النفس أو الانتحار، وذلك في إطار توسيع إجراءات السلامة المخصصة للمستخدمين صغار السن على منصاتها.
وأوضحت ميتا، أن مساعدها الذكي يوجه المراهقين تلقائيًا إلى جهات الدعم المختصة عند اكتشاف محادثات تتعلق بإيذاء النفس أو الانتحار، كما يشجعهم على التواصل مع شخص بالغ موثوق للحصول على المساندة.
ومع التحديث الجديد، سيحصل أولياء الأمور أو الأوصياء على إشعار استباقي يفيد بأن المراهق قد يكون معرضًا للخطر، إلى جانب مجموعة من الإرشادات والموارد التي تساعدهم على التعامل مع الموقف ودعم أبنائهم بالشكل المناسب.
تصفح أيضًا: هونج كونج تفرض قواعد أمنية جديدة على منصات العملات المشفرة
وأكدت الشركة ، أنها طورت نظامًا يعتمد على الذكاء الاصطناعي لرصد هذه المحادثات، إلا أن جميع الحالات التي يحددها النظام ستخضع لمراجعة بشرية قبل إرسال أي تنبيه، بهدف تقليل احتمالات الإنذارات الخاطئة ، ومع ذلك ستفضل الشركة إرسال الإشعار إذا ظل هناك شك في وجود خطر محتمل.
وتتوفر الميزة حاليًا للمستخدمين الذين يعتمدون على خاصية الإشراف الأبوي عبر إنستجرام في الولايات المتحدة والمملكة المتحدة وكندا وأستراليا، على أن يتم توسيعها عالميًا قبل نهاية العام.
كشفت ميتا أيضًا ، أنها تعمل على تطوير ميزة تتيح الاتصال بخدمات الطوارئ إذا أظهرت محادثات المستخدم مع Meta AI وجود خطر وشيك لإيذاء النفس، سواء كان المستخدم قاصرًا أو بالغًا.
كما وسعت الشركة نطاق إعداد “المحتوى المحدود” ليشمل تفاعلات الذكاء الاصطناعي، بحيث يؤدي تفعيل هذا الخيار من قبل أولياء الأمور إلى الحد من استجابة المساعد الذكي للموضوعات الحساسة، مثل المحتوى المرتبط بإيذاء النفس أو المواد غير الملائمة، بما يوفر مستوى إضافيًا من الحماية للمراهقين.
