قال عصام يونس، رئيس مركز الميزان لحقوق الإنسان، إن استخدام أنظمة الذكاء الاصطناعي في الحرب على قطاع غزة يثير تداعيات قانونية وإنسانية خطيرة، موضحًا أن الجيش الإسرائيلي استخدم عددًا من الأنظمة والبرامج التي تعتمد على تقنيات الذكاء الاصطناعي في تحديد الأهداف، من بينها أنظمة “جوسبل” و”لافندر” و”أين أبي”، مضيفا أن هذه الأنظمة تعتمد على معالجة كميات ضخمة من البيانات والمعلومات الاستخباراتية، بما يثير تساؤلات حول مدى دقة المعلومات التي تستند إليها عمليات تصنيف الأشخاص والمباني باعتبارها أهدافًا عسكرية، ومدى كفاية المراجعة البشرية للقرارات التي تنتجها تلك الأنظمة.
جاء ذلك خلال مداخلته في الجلسة الافتتاحية للندوة الإقليمية حول “حقوق الإنسان العربي في العصر الرقمي.. الفرص والمخاطر”، التي نظمتها المنظمة العربية لحقوق الإنسان ضمن فعاليات الجمعية العمومية الثانية عشرة للمنظمة، “دورة سعاد الصباح”، بمشاركة نخبة من الخبراء الحقوقيين والأكاديميين والمسؤولين، لمناقشة انعكاسات التطور التكنولوجي والذكاء الاصطناعي على واقع ومستقبل الحقوق والحريات في المنطقة العربية.
وأشار إلى تصريحات منسوبة إلى رئيس أركان الجيش الإسرائيلي السابق أفيف كوخافي بشأن قدرات أنظمة الذكاء الاصطناعي على إنتاج أعداد كبيرة من الأهداف، موضحًا أن استخدام هذه التقنيات أدى إلى زيادة كبيرة في سرعة إنتاج قوائم الأهداف مقارنة بالطرق التقليدية التي تعتمد على العمل البشري في جمع وتحليل المعلومات.
وأوضح رئيس مركز الميزان لحقوق الإنسان، أن نظام “جوسبل” يستخدم، وفق ما أوردته تقارير وتحقيقات صحفية، في معالجة بيانات متنوعة، بينها صور الأقمار الصناعية ولقطات الطائرات المسيرة واعتراضات الاتصالات ومصادر المعلومات المفتوحة، بهدف تحديد مبانٍ أو مواقع يمكن تصنيفها باعتبارها مرتبطة بعمليات عسكرية، لافتا إلى أن الاعتماد المتزايد على الأنظمة الآلية في تحديد الأهداف يطرح إشكالية تتعلق بالمسؤولية، خاصة عندما تكون المعلومات المستخدمة في تصنيف الأفراد أو المواقع غير دقيقة أو قابلة للخطأ، مؤكدًا أن استخدام التكنولوجيا لا يلغي مسؤولية الأطراف القائمة على العمليات العسكرية عن الالتزام بقواعد القانون الدولي الإنساني.
وتابع يونس أن نظام “لافندر” يمثل جانبًا آخر من هذه المنظومة، إذ أشارت تقارير صحفية إلى استخدامه في تحليل بيانات عن سكان قطاع غزة وتصنيف احتمالية ارتباط بعض الأفراد بأجنحة عسكرية، وهو ما يثير، بحسب قوله، أسئلة بشأن مدى ملاءمة الاعتماد على التقييمات الخوارزمية لاتخاذ قرارات ذات آثار مباشرة على حياة البشر.
وأضاف أن تقارير صحفية، بينها تحقيق نشرته مجلة”972+ “في أبريل 2024، تحدثت عن استخدام قوائم ناتجة عن نظام “لافندر” في عمليات الاستهداف، ونقلت عن مصادر لم تكشف عن أسمائها ادعاءات بشأن أعداد المدنيين الذين قُتلوا خلال استهداف أشخاص جرى تصنيفهم كأهداف عسكرية، وهي معلومات تحتاج إلى نسبتها بوضوح إلى مصادرها ولا تمثل بذاتها حكمًا قضائيًا مستقلًا.
تصفح أيضًا: نقيب الصحفيين يخاطب الجهات المختصة ضد مؤسسات تستغل المتدربين
وأشار رئيس مركز الميزان إلى ما أوردته تقارير أخرى بشأن نظام “أين أبي”، الذي قيل إنه يستخدم لتتبع الأفراد المستهدفين وتحديد وجودهم داخل منازلهم، معتبرًا أن ما أثير حول هذا النظام يفتح نقاشًا واسعًا حول مدى مراعاة قواعد حماية المدنيين والأعيان المدنية أثناء تنفيذ عمليات الاستهداف.
وقال يونس إن حجم العمليات العسكرية وكثافة الاستهداف في قطاع غزة يفرضان ضرورة فحص آليات اتخاذ القرار العسكري، ومدى الالتزام بمبادئ القانون الدولي الإنساني، وفي مقدمتها التمييز بين المدنيين والمقاتلين، والتناسب، واتخاذ الاحتياطات اللازمة لحماية المدنيين.
وأوضح أن مبدأ التمييز يفرض على أطراف النزاع التفرقة بين الأهداف العسكرية والأشخاص والأعيان المدنية، بينما يهدف مبدأ التناسب إلى منع الهجمات التي يتوقع أن تسبب خسائر في أرواح المدنيين أو أضرارًا بالأعيان المدنية تكون مفرطة مقارنة بالميزة العسكرية المتوقعة.
وأكد أن إدخال الذكاء الاصطناعي والخوارزميات في العمليات العسكرية لا يعني انتقال المسؤولية من الإنسان إلى الآلة، مشددًا على ضرورة وجود رقابة بشرية فعالة وآليات واضحة للمساءلة عن القرارات التي تتخذ باستخدام هذه الأنظمة.
وأضاف يونس أن التطور التكنولوجي في مجال الأسلحة وأنظمة الاستهداف يفرض تحديًا جديدًا أمام القانون الدولي الإنساني، خاصة مع تزايد قدرة الأنظمة الرقمية على تحليل البيانات وتحديد الأهداف بسرعة كبيرة، داعيًا إلى تعزيز القواعد والضوابط التي تضمن عدم تحول التكنولوجيا إلى وسيلة لتوسيع نطاق الأضرار التي تلحق بالمدنيين.
وأشار إلى أن النقاش حول الذكاء الاصطناعي في النزاعات المسلحة لم يعد قضية تقنية فقط، وإنما أصبح مرتبطًا بصورة مباشرة بحماية الحق في الحياة، وحماية المدنيين، والمسؤولية القانونية عن القرارات التي تؤدي إلى استخدام القوة، مؤكدًا أهمية إخضاع هذه التقنيات لقواعد القانون الدولي الإنساني ومبادئ المساءلة والرقابة.
