لسنوات متتالية، حذَّرت منظمات سلامة الذكاء الاصطناعي من أن المختبرات الكبرى تتسابق لتطوير أنظمة أكثر ذكاءً واستقلالية، دون استراتيجية واضحة وواقعية لإدارة المخاطر. وأكد باحثون مستقلون أن الاستثمارات في السلامة والتوافق تتخلف كثيراً عن الاستثمارات في القدرات. وقد استقال موظفون، وتوقع بعض الخبراء وقوع كارثة، ولم يُسهم أي من ذلك في إبطاء هذا السباق.
لكن خلال الأسابيع القليلة الماضية، بدأت التحذيرات تتخذ منحى مختلفاً؛ إذ باتت تصدر بشكل متزايد من العاملين داخل المختبرات. في الأسبوع الماضي، أعلن باحث الذكاء الاصطناعي جاكوب كوكسون استقالته من شركة «أنثروبيك» في منشور حصد أكثر من 171 مليون مشاهدة على منصة «إكس». وبعد ذلك بوقت قصير، أيَّد إيفان هوبينغر، رئيس قسم علوم التوافق في «أنثروبيك» كوكسون علناً، وكذلك فعل إيثان بيريز، باحث التوافق في «أنثروبيك»، وسامويل ماركس، باحث الإشراف القابل للتوسع. كما أيَّدته جولي ستيل وجاسمين وانغ، باحثتا السلامة في شركة «أوبن إيه آي».
لماذا الآن؟ يُشير كوكسون في تغريدته إلى جزءٍ واضح من الإجابة: «إنهم يتسابقون نحو الذكاء الخارق المُتطور ذاتياً، ويُقامرون بحياتنا». ويُشير كوكسون هنا إلى مفهوم تقني يُسمى «التحسين الذاتي المُتكرر» (recursive self-improvement)، أو استخدام نماذج الذكاء الاصطناعي الحالية لبناء نماذج جديدة وتحسينها.
ويُمكن للباحثين الآن استخدام نماذج الذكاء الاصطناعي في مراحل كثيرة من عملية تطوير النماذج. يُمكنهم استخدامها لتصميم بنية تحتية حاسوبية جديدة تُوفر قوة حاسوبية وكفاءة وسرعة معالجة أكبر. كما يُمكن استخدامها لإنشاء بيانات تدريب أكثر وأفضل، أو لإدارة وتحسين إطار البرمجيات الذي يُنظم تدريب النموذج. أو يُمكن استخدام الذكاء الاصطناعي لكتابة وتحسين الشفرة البرمجية التي تُحدد النموذج وتُنفذه.
بعبارة أخرى، لا تكتفي نماذج الذكاء الاصطناعي بالتحسن فحسب؛ بل بدأت تتولى زمام العمل اللازم لتطوير الجيل القادم من الذكاء الاصطناعي.
على سبيل المثال، صرَّحت شركة «أوبن إيه آي» أخيراً بأن برامجها تُساهم بالفعل في «تسريع وتيرة البحث العلمي» داخل الشركة. وبحلول منتصف أغسطس (آب) كانت مؤسستها البحثية تستخدم 3.1 يوم عمل للوكلاء الأذكياء لكل يوم عمل بشري، وقالت الشركة إنها وصلت إلى ما تسميه «متدربَ بحث آلياً».
وأكدت شركة «أنثروبيك» بالمثل أن نماذج الذكاء الاصطناعي الرائدة تُسهم الآن في تطوير النماذج اللاحقة لها.
يُعدُّ ابتكار نماذج ذكاء اصطناعي قادرة على تولي هذه المهام أحد الأسباب التي دفعت «أنثروبيك» و«أوبن إيه آي»، و«غوغل» إلى التركيز على تطوير مساعدي برمجة الذكاء الاصطناعي، مثل «كلود كود»، و«كوديكس»، و«أنتيغرافيتي». وقد استغلت أقسام الهندسة في مختلف المؤسسات هذه الأدوات لتسريع تطوير برامجها، ما وفَّر مصدر دخل بالغ الأهمية لمختبرات الذكاء الاصطناعي. ولكن داخل هذه المختبرات، يُمكن استخدام الأنظمة نفسها لتسريع تطوير نماذج ذكاء اصطناعي جديدة.
ومع ازدياد قدرة الذكاء الاصطناعي على أداء مهامه، تتراكم التحسينات والكفاءات، ما يُؤدي في النهاية إلى نموذج أكثر ذكاءً. ويمكن استخدام هذا النموذج، أو وكلاء الذكاء الاصطناعي التي يُشغّلها، لتطوير البنية التحتية وكتابة الشيفرة المستخدمة في الجيل التالي من النماذج.
وقد تبدأ هذه الحلقة المتكررة بالعمل بوتيرة أسرع فأسرع، مع تولي الذكاء الاصطناعي مزيداً من مراحل عملية التطوير. وبذلك، يُمكن أن يُصبح تطوير النماذج مع التحسين الذاتي المتكرر عملية مستمرة. قد تتحقق المكاسب في مجال الذكاء بشكل أسرع وأوسع، ما يمهد الطريق نحو ذكاء اصطناعي فائق.
قد يهمك أيضًا: الطماطم بين الفوائد الصحية والارتجاع الحمضي… ما التوقيت الأنسب لتناولها؟
وقد أثارت الحادثة التي وقعت لـشركة «هاغنغ فيس» هذا الصيف مخاوف كبيرة، ومهدت الطريق لإعلان كوكسون الذي انتشر كالنار في الهشيم. فقد خرجت أسراب من وكلاء «أوبن أيه آي» عن السيطرة، وخرجت من بيئة التدريب، ووصلت إلى الإنترنت، واخترقت خوادم الشركة؛ بل واخترقت خوادم «أوبن إيه آي» نفسها. وقد نبهت هذه الحادثة الناس إلى أن نماذج الذكاء الاصطناعي قد تطورت إلى درجة يمكنها معها العمل خارج الإشراف البشري؛ بل وضد مصالح البشر.
بعد 4 أيام من استقالة كوكسون، نشر داريو أمودي، الرئيس التنفيذي لشركة «أنثروبيك»، مقالاً جديداً بعنوان «يجب علينا ضبط وتيرة التقدم في التقنيات الرائدة» We Must Pace the Frontier)) دعا فيه إلى إبطاء وتيرة تطوير أنظمة الذكاء الاصطناعي الأكثر تقدماً.
ومن جانبها، صرَّحت شركة «أوبن إيه آي» بأنها ستقوم «بإبطاء أو إيقاف» عمليات التطوير أو النشر، في حال كانت مخاطر السلامة غير مقبولة. كما أعرب كبير العلماء في الشركة، جاكوب باتشوك، عن أمله في أن يصبح التباطؤ الطوعي ممارسة شائعة.
وقد دعت «أوبن إيه آي» و«أنثروبيك» الحكومات إلى التدخل وضبط «وتيرة» تطوير الذكاء الاصطناعي.
ومع ذلك، لم تلتزم أي من الشركتين بإبطاء تطوير ونشر النماذج الجديدة بشكل مستمر. فبالنسبة لهذه المختبرات، لا تُعد عملية الإبطاء أمراً بسيطاً؛ إذ يبرز تساؤل مفاده: ماذا لو أبطأت المختبرات «أ» وتيرتها بينما واصلت المختبرات «ب» السباق نحو الأمام؟
وفي هذا السياق، يدعو ديفيد ساكس -الذي شغل سابقاً منصب مسؤول ملف الذكاء الاصطناعي في إدارة ترمب- مختبرات الذكاء الاصطناعي إلى ضبط وتيرة عملها ذاتياً. وفي المقابل، يرى الرئيس دونالد ترمب أنه لا مجال لإبطاء وتيرة الذكاء الاصطناعي، نظراً للمنافسة القائمة مع الصين؛ حيث كتب على منصة «تروث سوشيال» يقول: «من يفوز في سباق الذكاء الاصطناعي، يفوز بكل شيء!».
وفي مقاله، دعا أمودي أيضاً إلى «دمج» جهات تقييم مستقلة -مثل مؤسسات: «METR» و«Apollo Research» و«Redwood Research»- داخل هذه المختبرات. وقد أيد سام ألتمان -الرئيس التنفيذي لشركة «أوبن إيه آي»- هذه الفكرة، وأكد أن شركته ستشارك فيها. وفي الوقت نفسه، يعكف المشرعون -ومعظمهم من الديمقراطيين- على اقتراح تشريعات من شأنها تعزيز دور الحكومة في الإشراف على تطوير نماذج الذكاء الاصطناعي الرائدة.
إن فهم توقيت هذه التحركات ليس بالأمر الصعب؛ فأنظمة الذكاء الاصطناعي تزداد كفاءة في العمل بأقل قدر من الإشراف البشري، وفي الوقت ذاته، باتت تتولى جزءاً متزايداً من المهام المتعلقة بتطوير الجيل القادم من تقنيات الذكاء الاصطناعي.
ولا تكمن المخاوف ببساطة في استمرار ازدياد ذكاء نماذج الذكاء الاصطناعي؛ بل في أن عملية جعلها أكثر ذكاءً قد تتسارع لدرجة تفقد معها البشرية قدرتها -أكثر فأكثر- على مراقبة ما يحدث، أو إبطاء وتيرته، أو فرض معايير السلامة والمواءمة.
* مجلة «فاست كومباني».
