كشفت شركة Anthropic تفاصيل إضافية حول تقنية العلامة المائية التي تستعد لاستخدامها مع النصوص التي ينتجها روبوت الذكاء الاصطناعي Claude، موضحة كيفية عمل التقنية، ومدى إمكانية إزالتها من النصوص بعد تعديلها، وتأثيرها المحتمل على الأكواد البرمجية.
وتأتي هذه الخطوة بعد إعلان الشركة في وقت سابق من الأسبوع أنها ستبدأ وضع علامات مائية على النصوص التي تنتجها نماذج Claude، في إطار الالتزام بـقانون الذكاء الاصطناعي الأوروبي EU AI Act وقواعد الشفافية المرتبطة به، والتي تتطلب أنظمة تساعد على تحديد المحتوى المُنشأ بالذكاء الاصطناعي.
أوضحت Anthropic أن تقنية العلامة المائية تعتمد على استغلال ما وصفته بـ”الاختيارات منخفضة الأهمية” أثناء توليد النص، فعندما يختار Claude بين كلمات متقاربة في المعنى، مثل استخدام كلمة “غائم” بدلًا من “رمادي” لوصف حالة الطقس، يمكن للنموذج إنشاء نمط معين داخل النص لا يمكن للقارئ ملاحظته، لكنه يصبح قابلًا للاكتشاف باستخدام مفتاح التشفير أو المفتاح الذي يحمل المعلومات اللازمة للتعرف على العلامة المائية، وتؤكد الشركة أن هذه العملية لن تؤثر في جودة النص الناتج، إذ سيبدو النص الذي يحمل العلامة المائية للقارئ مطابقًا تقريبًا لنص عادي غير مميز.
أكدت الشركة أنها ستعتمد على تقنية SynthID-Text التي قدمها فريق Google DeepMind في عام 2024، كما تخطط Anthropic لإطلاق واجهة برمجة تطبيقات API مخصصة لاكتشاف العلامة المائية، ما قد يتيح لجهات مختلفة التحقق من النصوص ومعرفة ما إذا كانت مولدة بواسطة Claude، وتختلف هذه التقنية عن أدوات اكتشاف النصوص المكتوبة بالذكاء الاصطناعي التي تبحث عن أنماط لغوية مميزة داخل الكتابة، مثل تكرار تراكيب أو أساليب معينة، وبحسب Anthropic، فإن تحليل هذه السمات اللغوية يختلف جوهريًا عن البحث عن علامة مائية مشفرة داخل النص نفسه.
تصفح أيضًا: ثريدز يعزز حماية المراهقين.. ميتا تطلق أدوات رقابة أبوية جديدة
نعم، لكن ذلك يعتمد على حجم التعديل، وتقول Anthropic إن التعديلات البسيطة على النص لن تزيل العلامة المائية بالكامل على الأرجح، بينما يمكن لإعادة كتابة النص بالكامل، بحيث يتم استبدال كل كلمة تقريبًا، أن تزيل العلامة المائية، لكن الشركة ترى أن هناك نقطة مهمة هنا، وهي أنه في حالة إعادة كتابة النص بالكامل، يمكن التساؤل أصلًا عما إذا كان من المناسب وصف النسخة الجديدة بأنها نص مولد بالذكاء الاصطناعي، طالما أن جميع الكلمات تمت إعادة صياغتها.
في حالة استخدام Claude لإجراء مراجعة لغوية أو تعديلات محدودة على نص كتبه شخص بشري، فإن قدرة العلامة المائية على الظهور ستعتمد على طول النص وحجم التعديلات التي أجراها Claude، فإذا كانت التعديلات محدودة، فإن معظم الكلمات ستظل من كتابة المؤلف البشري، وبالتالي لن يكون هناك قدر كبير من النص الذي يمكن للعلامة المائية أن ترتبط به، وبعبارة أخرى، لا يعني مرور نص بشري على Claude للتدقيق اللغوي تلقائيًا أن النص بأكمله سيحمل علامة مائية قوية يمكن اكتشافها.
وتقول Anthropic إن العلامة المائية ستكون أضعف في الأكواد البرمجية مقارنة بالنصوص العادية، والسبب أن كتابة الكود لا تمنح النموذج دائمًا حرية الاختيار بين عدد كبير من الكلمات أو الصياغات المختلفة؛ ففي كثير من الحالات، يجب أن ينتج النموذج كودًا يعمل بطريقة صحيحة، ما يقلل من الخيارات المتاحة لإدخال نمط مائي دون التأثير في الوظيفة، لكن هذا لا يعني غياب العلامة المائية تمامًا، ففي الأجزاء التي توجد فيها اختيارات عشوائية أو متعددة داخل الكود، مثل التعليقات البرمجية واختيار بعض المصطلحات، يمكن استخدام العلامة المائية، ومع ذلك، تؤكد Anthropic أن تأثير ذلك على الكود الفعلي سيكون ضئيلًا للغاية.
أشارت Anthropic أيضًا إلى أن استخدام العلامات المائية لن يقتصر على Claude، وقالت الشركة إن مطوري نماذج ذكاء اصطناعي كبارًا آخرين وقعوا على نفس مدونة الممارسات المرتبطة بالشفافية، ومن المتوقع أن يطبقوا أنظمة خاصة بهم لوضع علامات مائية على المحتوى الذي تنتجه نماذجهم، وهذا يعني أن العلامات المائية قد تصبح مع مرور الوقت إحدى الأدوات الأساسية التي تستخدمها شركات الذكاء الاصطناعي للمساعدة في التمييز بين النصوص التي كتبها البشر وتلك التي أنشأتها نماذج الذكاء الاصطناعي.
أثارت خطة Anthropic جدلًا بين بعض مستخدمي Claude منذ الإعلان عنها، حيث رأى بعض المستخدمين أن العلامة المائية قد تستخدم في تتبعهم أو كشف استخدامهم للذكاء الاصطناعي، بينما اعتبر آخرون أن وجودها ضروري لزيادة الشفافية ومنع استخدام النصوص المولدة بالذكاء الاصطناعي بشكل مضلل، وتأتي الخطوة في وقت أصبح فيه من الصعب بشكل متزايد التمييز بين النص الذي كتبه الإنسان والنص الذي أنتجته نماذج الذكاء الاصطناعي، وهو ما يدفع شركات التكنولوجيا إلى البحث عن وسائل تقنية أكثر موثوقية لإثبات مصدر المحتوى.
