لسنوات، كان سباق الذكاء الاصطناعي العالمي يُقاس بحجم النماذج وقوة الحوسبة وكميات البيانات والقدرة على تطوير أنظمة أكثر كفاءة. لكن مع انتقال هذه التقنيات من المختبرات إلى المستشفيات والمدارس والمؤسسات الحكومية، ظهر سؤال أكثر تعقيداً: كيف نضمن أن تعمل هذه القوة بصورة آمنة ومسؤولة؟
من هنا، تكتسب موافقة مجلس الوزراء السعودي على النظام الأساس لـ«المركز الدولي لأبحاث وأخلاقيات الذكاء الاصطناعي» في الرياض أهمية تتجاوز إنشاء مؤسسة بحثية جديدة. ويعمل المركز تحت رعاية منظمة الأمم المتحدة للتربية والعلم والثقافة (يونيسكو)، بصفته مركزاً من الفئة الثانية، مع دور يمتد إلى البحث وبناء القدرات وتعزيز التعاون، ولا سيما في المنطقة العربية.
لكن أهمية الخطوة تكمن أيضاً في توقيتها؛ فالعالم ينتقل تدريجياً من السؤال عما تستطيع الخوارزميات فعله إلى السؤال عن الحدود التي ينبغي أن تحكم استخدامها.
حين تصبح أخلاقيات الذكاء الاصطناعي قابلة للقياس
من المبادئ إلى التطبيق
> أخلاقيات قابلة للقياس. في نوفمبر (تشرين الثاني) 2021، تبنت الدول الأعضاء في «يونيسكو» أول إطار معياري عالمي لأخلاقيات الذكاء الاصطناعي، واضعةً حقوق الإنسان والكرامة البشرية في قلب العلاقة بين الإنسان والخوارزمية.
لكن التحدي العلمي بدأ بعد ذلك: كيف يمكن تحويل مبدأ أخلاقي إلى شيء يمكن قياسه واختباره؟
فالقول إن نظاماً ما منصف لا يكفي علمياً؛ إذ تجب مقارنة أدائه بين مجموعات مختلفة، وقياس معدلات الخطأ والنتائج الإيجابية والسلبية الكاذبة، والتحقق من تأثير العمر أو الجنس أو الخلفية السكانية في نتائجه. ولهذا؛ طورت «يونيسكو» عام 2023 «منهجية تقييم الجاهزية» (RAM)، التي تضم 195 سؤالاً تغطي خمسة أبعاد: القانون والتنظيم، والمجتمع والثقافة، والعلوم والتعليم، والاقتصاد، والبنية التقنية، والتحتية. وطُبقت المنهجية في أكثر من 75 دولة.
وتكشف النتائج عن حجم الفجوة بين المبدأ والتطبيق. فقد بلغت تغطية الأسئلة المتعلقة بترتيبات الحوكمة نحو 71 في المائة، لكنها انخفضت إلى 48 في المائة في البعد التقني والبنية التحتية، و41 في المائة في الجانب القانوني والتنظيمي. وفي المقابل، حددت 96 في المائة من الدول المشمولة وزارات أو جهات مسؤولة. وهكذا لم يعد السؤال: ما القيم التي نريدها؟ بل كيف نعرف أن الأنظمة تلتزم بها فعلاً؟
منصة عالمية لأخلاقيات الذكاء الاصطناعي
نوصي بقراءة: الأهلي يعزز جهاز بوسيتش بأربعة أسماء أوروبية
> الاختبار الأصعب… في المستشفى. وتصبح الإجابة أكثر إلحاحاً داخل المستشفى، حيث يمكن أن تتحول النتيجة الخاطئة من رقم في دراسة إلى قرار يمس حياة مريض. فقد يحقق نموذج لقراءة الأشعة أداءً مرتفعاً إجمالاً، لكنه يفشل بصورة أكبر لدى فئة سكانية لم تكن ممثلة بما يكفي في بيانات التدريب. كما أن تغيير عتبة الإنذار في نظام للتنبؤ السريري قد يزيد قدرته على اكتشاف الحالات، لكنه قد يرفع أيضاً عدد الإنذارات الكاذبة وما يتبعها من فحوص أو تدخلات غير ضرورية.
وتزداد الحساسية مع النماذج التوليدية؛ فالجواب قد يبدو مقنعاً لغوياً حتى عندما تكون المعلومة الطبية غير دقيقة.
وتظهر المعضلة عندما يختلف الطبيب والنظام. فإذا صنّف برنامج للأشعة آفةً بأنها منخفضة الخطورة، في حين يرى الاختصاصي ما يستدعي مزيداً من الفحص، فلا ينبغي أن يتحول التفوق الحسابي سلطةً تلغي الحكم السريري.
لهذا؛ يجب ألا ينتهي تقييم التقنيات الطبية عند إدخالها إلى المستشفى؛ فقد يتغير أداؤها باختلاف السكان والأجهزة وأنماط المرض. وهنا يصبح السؤال: متى نثق بالنتيجة، ومتى نراجعها، ومتى نتوقف عن استخدام النظام؟
من مواكبة الثورة إلى المشاركة في صياغة مستقبلها
سبتمبر… اختبار للدور الجديد
> لماذا الرياض؟ يأتي اختيار الرياض في بيئة تشهد توسعاً سريعاً في البنية الوطنية للبيانات والتقنيات الذكية ضمن التحول الرقمي الذي تقوده «رؤية السعودية 2030».
فالمملكة طورت استراتيجيتها الوطنية للبيانات والذكاء الاصطناعي، واستثمرت في مراكز البيانات والحوسبة السحابية والبنية التحتية الرقمية، بالتوازي مع تطوير نماذج عربية مثل «علّام» (ALLaM).
ويمنح تركيز المركز على منطقة الدول العربية مهمته بعداً إضافياً؛ فالأنظمة الذكية لا تعمل في فراغ. واللغة والبيانات والتركيبة السكانية والبيئة الصحية والتعليمية كلها متغيرات يمكن أن تؤثر في النتائج.
فنموذج دُرّب أساساً على بيانات من مجتمعات أخرى قد لا يلتقط الخصائص العربية اللغوية أو السكانية أو السريرية بالدقة نفسها. ولذلك؛ فإن نقل التقنية من بيئة إلى أخرى لا يعني انتقال صلاحيتها تلقائياً معها.
> منتدى عالمي. وسيأتي اختبار مبكر لهذا الدور عندما تستضيف الرياض، من 14 إلى 17 سبتمبر (أيلول) 2026، النسخة الرابعة من «منتدى يونيسكو العالمي لأخلاقيات الذكاء الاصطناعي»، بالشراكة بين «يونيسكو» والمملكة ممثلة في الهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا) والمركز الدولي. وبعد خمس سنوات من اعتماد توصية 2021، يمكن للنقاش أن ينتقل من صياغة المبادئ إلى مقارنة ما حدث عند تطبيقها في عشرات الدول: ما الذي نجح؟ وأين ظهرت الفجوات؟ وما الذي يمكن نقله بين المجتمعات؟
