شهد قطاع الذكاء الاصطناعي في بضعة أيام لم تتجاوز مدة الأسبوعين موجة متسارعة من التحذيرات بشأن مخاطر تطوير أنظمة أكثر قدرة، بعدما كشفت اختبارات وتقارير عن قدرة بعض نماذج الذكاء الاصطناعي على تجاوز إجراءات الحماية، واختراق أنظمة إلكترونية، والعمل بصورة يصعب على مطوريها مراقبتها والسيطرة عليها.
تصفح أيضًا: دراسات علمية تشكك فى تأثير الضوء الأزرق على النوم.. فما الحقيقة؟
وتزامنت هذه التطورات مع تحذيرات من داخل شركات الذكاء الاصطناعي نفسها بشأن سرعة التطوير، إذ استقال باحث في شركة أنثروبيك محذرا من أن الوتيرة الحالية قد تمثل تهديدا وجوديا للبشرية خلال عقد، بينما قدر باحث آخر في الشركة احتمالات انقراض البشر بأكثر من 10%.
ودفعت هذه المخاوف رؤساء شركات منافسة، بينها أنثروبيك وأوبن إيه آي وديب مايند التابعة لجوجل ومايكروسوفت وإكس إيه آي، إلى الدعوة لإبطاء تطوير أنظمة الذكاء الاصطناعي الأكثر قدرة، في تحرك نادر داخل قطاع يعتمد منذ سنوات على تسريع تطوير النماذج وطرحها في الأسواق.
ويتركز جانب أساسي من الجدل حول الذكاء الاصطناعي العام، أو AGI، وهو مفهوم يشير إلى أنظمة قادرة على أداء مجموعة واسعة من المهام بمستوى يقترب من القدرات البشرية أو يتجاوزها. ويرى باحثون أن الوصول إلى هذه المرحلة قد يكون أقرب مما كان متوقعا، وربما خلال ثلاث سنوات فقط.
وقال الباحث السابق في أنثروبيك جو بنتون إن الشركات لا تملك حاليا القدرة على الإشراف على الأنظمة بالحجم والسرعة التي يجري تدريبها بها، محذرا من أن استمرار التطوير بالمعدل الحالي قد يجعل اكتشاف المشكلات ومعالجتها أبطأ من وتيرة ظهورها.
إطلاق أسترا يفتح ملف السيطرة على النماذج
بدأت سلسلة التطورات التي دفعت إلى تصاعد الدعوات لإبطاء التطوير في الثالث من سبتمبر، مع مؤتمر صحفي لشركة أوبن إيه آي أعلنت خلاله عن أحدث نماذجها، أسترا.
ووصف رئيس الشركة جريج بروكمان المرحلة الجديدة بأنها “عصر الذكاء الاصطناعي العام”، لكن الإعلان جاء بالتزامن مع إقرار أوبن إيه آي بأن التعامل مع الأنظمة الأكثر تقدما أصبح أكثر صعوبة، سواء من حيث السيطرة عليها أو مراقبة قدراتها.
وقال كبير العلماء في الشركة ياكوب باتشوكي إن فهم قدرات النماذج يصبح أكثر صعوبة كلما زادت قدرتها، في وقت لم تمنع فيه هذه المخاوف الشركة من طرح النموذج.
وتزايدت المخاوف بشأن قدرة أنظمة الذكاء الاصطناعي على العمل خارج القيود الموضوعة لها خلال الصيف، بعدما كشفت أوبن إيه آي أن وكلاء تابعين لها تمكنوا أثناء اختبار خاضع للسيطرة من اختراق أنظمة شركة هاجينج فيس، من دون علم الشركتين في البداية.
وكشفت أوبن إيه آي وأنثروبيك لاحقا عن حالات أخرى مشابهة، بينها 6 هجمات جديدة تم الإعلان عنها الأربعاء الماضي، بعد تقارير إعلامية، من بينها تقارير لوكالة أنباء رويترز، أظهرت أن نطاق النشاط غير المصرح به كان أوسع مما كان معروفا في البداية.
مخاوف متزايدة داخل شركات الذكاء الاصطناعي
أصبحت المخاوف بشأن الجيل المقبل من النماذج أكثر وضوحا داخل أوبن إيه آي وأنثروبيك، مع تراجع الثقة لدى بعض العاملين في قدرة الشركات على توفير رقابة فعالة على الأنظمة الجديدة، وجاءت هذه المخاوف في وقت تتسابق فيه الشركات لإطلاق نماذج جديدة بوتيرة سريعة، وسط توقعات بأن تتجه أوبن إيه آي وأنثروبيك إلى طرح أسهمهما للاكتتاب العام خلال الأشهر المقبلة، في عمليات قد ترفع قيمة كل شركة إلى أكثر من تريليون دولار.
وفي الثامن من سبتمبر، استقال باحث أنثروبيك جاكوب كوكسون، محذرا في سلسلة منشورات من أن مختبرات الذكاء الاصطناعي تقامر بحياتنا، وهي منشورات انتشرت على نطاق واسع وأسهمت في زيادة النقاش حول مخاطر التطوير السريع.
في المقابل، دافع الرئيس الأمريكي دونالد ترامب عن استمرار تطوير الذكاء الاصطناعي، واعتبر المخاوف المتصاعدة بشأن التكنولوجيا “خدعة”، محذرا من أن أي تباطؤ في التطوير قد يصب في مصلحة الصين، ولم يحقق الكونجرس الأمريكي تقدما كبيرا في تشريعات تنظيم الذكاء الاصطناعي، بينما تتبع الصين نهجا مختلفا يعتمد على إلزام المطورين بمتطلبات للسلامة، ووضع معايير مدعومة من الدولة، وإجراء تقييمات أمنية والاستعانة باختبارات خارجية.
قادة القطاع يناقشون إبطاء التطوير
وصلت المخاوف إلى مستوى قيادات شركات الذكاء الاصطناعي في 12 سبتمبر، عندما نشر الرئيس التنفيذي لأنثروبيك داريو أمودي مقالا دعا فيه إلى إبطاء وتيرة تطوير التكنولوجيا، وحذر أمودي من أن تسارع قدرات الذكاء الاصطناعي قد يؤدي، خلال 6 إلى 12 شهرا، إلى امتلاك مجموعات من وكلاء الذكاء الاصطناعي قدرة على السيطرة على الإنترنت بالكامل.
وأعلن أمودي، إلى جانب إيلون ماسك من إكس إيه آي، وسام ألتمان من أوبن إيه آي، وديميس هاسابيس من ديب مايند، تأييد السماح لشركات خارجية بالوصول إلى أنظمة الذكاء الاصطناعي بهدف اختبار مستويات السلامة ودعم تطوير التكنولوجيا بصورة أكثر انضباطا.
لكن هذا الموقف لم يكن موحدا داخل القطاع، فقد رفض الرئيس التنفيذي لإنفيديا جنسن هوانج الدعوات إلى وقف تطوير الذكاء الاصطناعي، معتبرا أن بناء أنظمة أكثر قدرة ضروري لاستمرار تقدم التكنولوجيا.
كما رفضت ميتا فكرة التنسيق بين شركات القطاع لتحديد وتيرة موحدة للتطوير، ودافع رئيسها التنفيذي مارك زوكربيرج عن منح كل مختبر حرية تحديد وتيرة تطوير نماذجه، مشيرا إلى أن الشركات تتحمل مسؤولية قانونية إذا تسببت نماذجها في أضرار، وبالتالي لديها حافز لمنع ذلك.
كما حذرت بعض تقارير من تطوير أنثروبيك نماذج تحاكي الوعي البشري، خاصة أن السيطرة على ذكاء فائق ستكون من أكبر التحديات التي ستواجه البشرية خلال القرن الحادي والعشرين.
ورغم تصاعد الدعوات إلى إبطاء التطوير، لم تتراجع شهية المستثمرين تجاه أوبن إيه آي، إذ تدرس الشركة جولة تمويل جديدة قد تضاعف قيمتها إلى 1.5 تريليون دولار.
