لم تعد مراقبة نسبة محدودة من سلوك أنظمة الذكاء الاصطناعي كافية عندما تصبح هذه الأنظمة قادرة على اتخاذ قرارات وتنفيذ إجراءات فعلية داخل المؤسسات. فالتطبيق التقليدي يمكن اختباره قبل إطلاقه، ومراقبة أدائه بعد دخوله مرحلة التشغيل، لكن وكيل الذكاء الاصطناعي قد يسلك مسارات مختلفة من مهمة إلى أخرى، ويستدعي أدوات متعددة، ويصل إلى بيانات أو أنظمة مختلفة أثناء محاولته تحقيق الهدف المطلوب منه.
هذا التحول هو ما يدفع بشركة «سبلانك»، التابعة لـ«سيسكو»، إلى إعادة تعريف جانب من عملها التاريخي في مراقبة الأنظمة والتطبيقات. فبدلاً من الاكتفاء بمعرفة ما إذا كان الخادم أو التطبيق أو الشبكة يعمل بصورة طبيعية، يصبح السؤال في عصر الوكلاء: ماذا فعل نظام الذكاء الاصطناعي؟ لماذا اتخذ هذا المسار؟ هل تجاوز ما هو مسموح له؟ وما التكلفة التي ترتبت على قراراته؟
يقول كمال هاثي، نائب الرئيس الأول والمدير العام لـ«سبلانك»، إن التعامل مع هذه الأنظمة يتطلب تقييماً مستمراً أثناء التشغيل، وليس مجرد اختبارها قبل إطلاقها. وفي لقاء حصري مع «الشرق الأوسط» على هامش مؤتمر «Splunk.conf 26» في مدينة دنفر الأميركية، أوضح أن الشركة تستهدف تقييم ومراقبة 100 في المائة من إجراءات وكلاء الذكاء الاصطناعي بدلاً من الاكتفاء بعينات محدودة من نشاطهم.
ويأتي ذلك فيما تحاول «سيسكو» و«سبلانك» دفع مفهوم «المؤسسة الوكيلية»، حيث لا تستخدم الشركات الذكاء الاصطناعي فقط لتوليد النصوص أو الإجابة عن الأسئلة، بل تمنحه صلاحيات للوصول إلى الأدوات والبيانات وتنفيذ أجزاء من سير العمل بصورة أكثر استقلالية.
كمال هاثي نائب الرئيس الأول والمدير العام لـ«سبلانك» التابعة لـ«سيسكو» (الشرق الأوسط)
أحد أكثر التحولات وضوحاً في رؤية هاثي هو التعامل مع وكلاء الذكاء الاصطناعي بوصفهم فئة جديدة من التطبيقات داخل المؤسسة، لكن مع فارق أساسي يتمثل في أن سلوكهم ليس ثابتاً بالطريقة نفسها التي يعمل بها البرنامج التقليدي. وعندما سألته «الشرق الأوسط» عن معنى الاعتمادية في بيئة لم يعد فيها التطبيق ينفذ تعليمات محددة فقط، بل أصبح قادراً على الاستدلال واتخاذ القرار، قال إن الاختبار لمرة واحدة قبل إدخال النظام إلى بيئة الإنتاج لم يعد كافياً.
ففي هذا النموذج، تحتاج المؤسسة إلى مجموعة من التقييمات التي تستمر طوال فترة عمل الوكيل، وتقارن بصورة دائمة بين ما كان من المفترض أن يفعله وبين ما فعله فعلياً.
ويشير هاثي إلى أن بعض الأساليب المستخدمة حالياً تعتمد على نموذج لغوي كبير لتقييم مخرجات نموذج أو وكيل آخر، وهو ما يعرف في الصناعة بفكرة استخدام «النموذج كحَكم». لكنه يرى أن هذه العملية يمكن أن تصبح مكلفة وبطيئة إذا كان المطلوب تطبيقها على كل قرار أو إجراء، مما يدفع بعض الأنظمة إلى أخذ عينات محدودة فقط من النشاط.
وقال إن تلك النسبة قد تبلغ في بعض الحالات 10 أو 20 في المائة من الإجراءات، بينما تعتمد «سبلانك»، كما يقول، على نموذج أصغر يتيح تقييم كل إجراء تقريباً أثناء التشغيل وتطبيق الضوابط عليه.
وتذكر «سيسكو» أن «Splunk Agent Observability» باتت قادرة على تقييم سلوك الوكلاء والنماذج ومراقبة أدائهم عبر مكونات البنية المختلفة، إلى جانب تطبيق ضوابط أثناء التشغيل لمنع بعض الإجراءات أو المخرجات غير الآمنة.
يطرح ذلك سؤالاً يتجاوز مفهوم المراقبة التقليدية. فإذا كانت المنصة تستطيع معرفة ما يفعله الوكيل، وتقييم السلوك، ثم فرض حدود على ما يسمح له بتنفيذه، فإن الخط الفاصل بين «المراقبة» و«الحوكمة» يصبح أقل وضوحاً. وهذا ما أقر به هاثي، قائلاً إن المسافة بين المجالين أصبحت «قريبة جداً».
فالمراقبة، بحسب وصفه، تخبر المؤسسة بما يحدث، بينما يبدأ الجانب المتعلق بالحوكمة عندما تحدد الشركة مسبقاً السلوك المقبول للوكيل ثم تقارن به ما يحدث فعلياً، وتضع «حواجز حماية» إذا خرج الأداء عن النطاق المحدد. ولا تتوقف هذه الحوكمة عند السلوك. فمع ازدياد عدد الخطوات التي يستطيع الوكيل تنفيذها، يتحول استهلاك موارد الذكاء الاصطناعي إلى متغير يصعب التنبؤ به أيضاً.
وقد ينفذ الوكيل في مهمة معينة عدداً قليلاً من استدعاءات النماذج أو الأدوات، ثم يحتاج في مهمة أخرى تبدو مشابهة إلى سلسلة أطول بكثير للوصول إلى النتيجة. وهكذا يصبح استخدام الذكاء الاصطناعي، وفق هاثي، «غير حتمي» من ناحية السلوك والتكلفة في آن واحد.
ومن هنا جاءت إحدى القدرات الجديدة التي أعلنتها الشركة تحت اسم «Tokenomics»، والتي تهدف إلى إظهار حجم استهلاك الرموز وتكلفة تشغيل الوكلاء وأدوات البرمجة المدعومة بالذكاء الاصطناعي، وربط ذلك بالاستخدام والإنتاجية والنتائج التجارية. وتقول «سيسكو» إن النظام يستطيع أيضاً توقع اتجاه الإنفاق قبل نهاية دورة الفوترة.
ويرى هاثي أن الجمع بين معرفة ما يفعله الوكيل وكم يكلف المؤسسة يتيح الانتقال إلى مستوى آخر من الحوكمة، حيث لا تسأل الشركة فقط ما إذا كان النظام يعمل بصورة صحيحة، بل ما إذا كانت تكلفة هذا السلوك تتناسب مع القيمة التي ينتجها.
«سبلانك» تستهدف تقييم جميع إجراءات الوكلاء بدلاً من الاكتفاء بعينات محدودة من نشاطهم (الشرق الأوسط)
ورغم أن جزءاً كبيراً من النقاش العالمي حول وكلاء الذكاء الاصطناعي يتمحور حول فقدان السيطرة، فإن هاثي يتحفظ على وصف موقف المؤسسات بأنه «خوف». فعندما سألته «الشرق الأوسط» عما تخشى الشركات فقدان السيطرة عليه مع بدء الوكلاء تنفيذ المهام، قال إن المسألة تتعلق بدرجة أكبر بـ«السيطرة والحوكمة والرؤية».
وتابع أن المؤسسات لا تشغل تطبيقاً أو شبكة أو بنية حاسوبية من دون معرفة ما يحدث داخلها، ويرى أن الذكاء الاصطناعي لن يكون مختلفاً في هذا الجانب، وإن كان أكثر تعقيداً.
ووفقاً له، تحتاج المؤسسة إلى رؤية تمتد من البنية الحاسوبية التي تعمل عليها النماذج، مروراً بمكونات مثل قواعد البيانات المستخدمة في ذاكرة الذكاء الاصطناعي، وصولاً إلى النماذج والوكلاء أنفسهم وسلوكهم، ثم إلى التكلفة التي يولدها هذا النشاط. وبذلك تصبح القضية بالنسبة إليه أقل ارتباطاً بالسؤال عما إذا كان يجب «الثقة» بالذكاء الاصطناعي بصورة مجردة، وأكثر ارتباطاً بإمكانية رؤية ما يقوم به النظام وفرض قواعد واضحة عليه.
لا يقتصر التغيير على مراقبة الذكاء الاصطناعي الذي تستخدمه المؤسسة داخلياً، إذ يرى هاثي أن استخدام المهاجمين للتقنيات نفسها يفرض تغييراً موازياً في الأمن السيبراني. ووضع «الدفاع بسرعة الآلة» ضمن ثلاثة اتجاهات رئيسية تحاول «سبلانك» تطويرها حالياً، إلى جانب التعامل مع كميات أكبر من البيانات ومراقبة الذكاء الاصطناعي نفسه.
وتقول «سيسكو» إن الهجمات المدعومة بالذكاء الاصطناعي يمكن أن تتحرك بوتيرة تتجاوز عمليات الاستجابة البشرية التقليدية، ولذلك تعمل على توسيع ما تسميه «مركز العمليات الأمنية الوكيلي»، حيث تستخدم وكلاء متخصصين في مهام مثل البحث عن التهديدات والتحقيق والاستجابة.
اقرأ ايضا: 4 ملايين دولار تنقل «كانتي» من ميدلزبره للاتفاق
ولا يعني ذلك، وفق ما أعلنته الشركة، الاستغناء عن الرقابة البشرية، إذ تفيد بأن الهدف هو زيادة سرعة التحليل والاستجابة مع الاحتفاظ بالحكم البشري والضوابط المناسبة في القرارات الحساسة.
وبالنسبة إلى هاثي، تصبح المسألة سباق سرعة أيضاً. فإذا كان الهجوم يستطيع استخدام الذكاء الاصطناعي لاكتشاف نقاط الضعف وتنفيذ عدد أكبر من المحاولات في وقت أقصر، فإن المؤسسات تحتاج إلى قدرات تستطيع اكتشاف الأنماط غير الطبيعية والاستجابة لها بالسرعة نفسها تقريباً.
يأخذ هذا التحول بعداً إضافياً في السعودية، حيث تتوسع الاستثمارات في مراكز البيانات والحوسبة والذكاء الاصطناعي والبنى السحابية المحلية. ويعد هاثي أن المملكة تمثل سوقاً سريعة النمو لـ«سيسكو» و«سبلانك»، مشيراً إلى شراكات كبيرة للشركة الأم وإلى وجود عملاء كبار لـ«سبلانك» في قطاعات مثل البنوك والمؤسسات الكبرى، خصوصاً في مجالات الأمن ومراقبة الأنظمة. ولم يكشف خلال المقابلة عن عدد العملاء أو قيمة أعمال الشركة في المملكة. لكن تعريفه للنجاح خلال العامين أو الأعوام الثلاثة المقبلة لم يقتصر على إضافة عملاء جدد.
ويقول إن الهدف هو المساهمة في تمكين السعودية من مواصلة طموحاتها في الذكاء الاصطناعي، مشيراً إلى أن جزءاً أساسياً من ذلك سيكون ضمان عمل هذه الأنظمة ضمن «ضوابط مناسبة» و«حوكمة مناسبة»، مع دور متزايد للأمن والمراقبة. وهذه النقطة تعكس انتقالاً مهماً في النقاش حول البنية التحتية للذكاء الاصطناعي. فبعد بناء القدرة الحاسوبية ومراكز البيانات، يصبح السؤال التالي هو كيف تشغّل المؤسسات تطبيقات ووكلاء فوق تلك البنية على نطاق واسع، خصوصاً في القطاعات المنظمة التي تتعامل مع بيانات حساسة.
وكلاء الذكاء الاصطناعي يحتاجون إلى مراقبة مستمرة أثناء التشغيل وليس إلى اختبار مسبق فقط (أدوبي)
وفي رده عن سؤال «الشرق الأوسط» عن التوازن بين السيادة التقنية والاعتماد على منصات عالمية، ركز هاثي على مرونة مكان تشغيل «سبلانك». وصرح بأن الشركة تتبنى تاريخياً نموذجاً مفتوحاً في النشر، بحيث يستطيع العميل استخدام المنصة في منطقة سحابية عامة محلية، أو تشغيلها داخل مركز بياناته إذا كانت متطلبات المؤسسة تستدعي ذلك.
وأضاف أن «سبلانك» يمكن تشغيلها في بيئات سحابية مختلفة أو محلياً، وهو ما يجعل النموذج مناسباً لمتطلبات الحلول السيادية التي قد تحتاج إليها المؤسسات السعودية، وفق وصفه.
وتدعم الإعلانات الجديدة خلال المؤتمر الذي امتد على مدى ثلاثة أيام هذا الاتجاه. فقد أعلنت «سيسكو» و«إنفيديا» توسيع تعاونهما من خلال «Cisco AI POD for Splunk»، الذي يتيح تشغيل بعض إمكانات الذكاء الاصطناعي الخاصة بـ«سبلانك» داخل مراكز بيانات المؤسسة نفسها أو في سحابة خاصة أو حتى في بيئات معزولة عن الإنترنت.
وتقول «سبلانك» إن هذا النموذج يستهدف تحديداً المؤسسات الحكومية والقطاعات شديدة التنظيم والشركات التي لا تستطيع نقل كميات كبيرة من بياناتها التشغيلية الحساسة إلى بيئة خارجية لأسباب تتعلق بالأمن أو الخصوصية أو السيادة أو الامتثال. وبحسب الشركة، يستطيع العميل تشغيل نماذج مختلفة داخل بيئته، بينها نماذج من «سيسكو» و«غوغل» و«أوبن إيه آي»، مع إضافة نماذج «Nemotron» من «إنفيديا» في مرحلة لاحقة. كما أصبح «Cisco AI POD for Splunk» متاحاً الآن، فيما تخطط الشركة لإتاحة منصة «Agent Launchpad» في وقت لاحق من العام.
هناك جانب آخر حاول هاثي إبرازَه يتعلق بحجم البيانات التي تحتاج المؤسسات إلى تحليلها مع اتساع استخدام الذكاء الاصطناعي. وقال إن أحد التحولات التي تعمل عليها «سبلانك» هو إتاحة التعامل مع كميات أكبر بكثير من البيانات من دون أن ترتفع التكلفة بالنسبة نفسها، مشيراً إلى أن بعض العملاء كانوا يترددون في إدخال مزيد من البيانات إلى منصات المراقبة بسبب التكلفة المتزايدة. واستخدم عبارة «نطاق لا نهائي بتكلفة محدودة» لوصف الاتجاه، قبل أن يوضح بنفسه أن التعبير يحمل قدراً من المبالغة، لكنه يعكس الهدف الاقتصادي الذي تسعى إليه الشركة: رفع نطاق البيانات التي يمكن تحليلها مع تحسين إجمالي تكلفة التشغيل. وهذا الجانب يصبح أكثر أهمية عندما يكون الوكلاء أنفسهم منتجين لكميات جديدة من البيانات، من سجلات القرارات إلى استدعاءات الأدوات واستخدام النماذج والتفاعلات المتبادلة بينهم.
في السعودية يتزايد التركيز على الأمن والحوكمة والسيادة على البيانات بالتوازي مع توسع البنية التحتية للذكاء الاصطناعي (أدوبي)
ورغم اتساع نطاق الأدوات التي أعلنتها «سبلانك»، لم يقدم هاثي صورة تفترض أن الشركات أصبحت قادرة على رؤية كل ما يحدث داخل بيئة الذكاء الاصطناعي. وعندما سألته «الشرق الأوسط» عن أصعب مشكلة لا تستطيع «سبلانك» رؤيتها أو حوكمتها بالكامل حتى الآن، قسم عالم الوكلاء إلى ثلاث فئات. هناك أولاً «المعروف المعروف»: الوكلاء الذين تعرف المؤسسة أنهم موجودون وتعرف طبيعة عملهم.
ثم يأتي «المعروف غير المعروف»: وكلاء قد لا تكون المؤسسة قد عرفت عنهم مسبقاً بصورة مباشرة، لكنهم يستخدمون أدوات أو أنماطاً يمكن اكتشافها وتصنيفها.
أما المشكلة الأصعب فهي ما سماه «المجهول غير المعروف». وهي أنظمة أو وكلاء ربما جرى إنشاؤهم داخلياً من قبل أشخاص من دون موافقة المؤسسة، أو أدوات تستخدم إمكانات ذكاء اصطناعي لم تُسجل ضمن البيئة الرسمية، أو قدرات تأتي من الخارج في سياق تهديد أمني.
ويلفت هاثي إلى أن اكتشاف هذه الفئة يحتاج إلى البحث عن الأنماط الشاذة وربط الأحداث التي قد تبدو منفصلة عن بعضها، وهي وظيفة تقوم بها «سبلانك» تاريخياً من خلال تحليل بيانات الأنظمة.
لكن الصعوبة الجديدة، وفقاً له، هي ضرورة تنفيذ ذلك «بسرعة الآلة» وفي بيئة يكون فيها السلوك نفسه غير حتمي. وأقر بأن العمل في هذا المجال لا يزال مستمراً داخل «سبلانك»، وأن هناك «المزيد الذي سيأتي»، مضيفاً أن المشكلة لم تُحل جيداً بعد على مستوى الصناعة ككل.
يمثل مؤتمر هذا العام أيضاً مرحلة جديدة في علاقة «سبلانك» بـ«سيسكو»، بعد إتمام الاستحواذ عليها في 2024. وعند سؤال «الشرق الأوسط» عن أهم قدرة أُعلنت في المؤتمر ولم يكن من الممكن للشركة تطويرها بالصورة نفسها قبل الانضمام إلى «سيسكو»، قال هاثي إن جميع الإعلانات الحالية جرى بناؤها بعد الاستحواذ، مشيراً إلى أن «سيسكو» لعبت دوراً مباشراً في دعم عمليات التطوير والاستحواذ الجديدة.
وخص بالذكر الاستحواذ على شركة «Galileo» في أبريل (نيسان) الماضي، قائلاً إن تقنيتها أصبحت أساس حل مراقبة وكلاء الذكاء الاصطناعي لدى «سبلانك»، وإن دعم «سيسكو» كان مهماً في إتمام الصفقة.
ويحاول التكامل بين الشركتين أن يجمع في منصة أوسع بيانات الشبكات والتطبيقات والأمن والبنية التحتية مع معلومات الوكلاء والنماذج، وهو اتجاه ظهر بوضوح في إعلانات المؤتمر، من مراقبة الوكلاء إلى تشغيل الذكاء الاصطناعي محلياً والدفاع السيبراني المعتمد على الوكلاء.
يربط هاثي معظم هذه التحولات بسؤال واحد: ما الذي تحتاج إليه المؤسسة قبل أن تتوقف عن تجربة وكلاء الذكاء الاصطناعي في مشاريع محدودة وتسمح لهم بالدخول في العمليات اليومية؟
إجابته تجمع ثلاثة عناصر: القدرة على تحليل نطاق أكبر من البيانات باقتصاديات أكثر ملاءمة، والاستجابة للتهديدات بسرعة أقرب إلى سرعة الأنظمة الآلية، ورؤية سلوك وكلاء الذكاء الاصطناعي وتكلفتهم أثناء التشغيل. ويقول هاثي إنه من دون ذلك، تبقى كثير من المبادرات في نطاق «إثبات المفهوم» بدلاً من أن تتحول إلى أنظمة تعمل فعلياً على نطاق المؤسسة.
لكن المفارقة هي أن اتساع قدرة المؤسسات على مراقبة الوكلاء المعروفين يبرز في الوقت نفسه حدود ما تستطيع رؤيته. فالتحدي التالي قد لا يكون في تقييم وكيل أُنشئ رسمياً ويعمل ضمن نظام معلوم، بل في اكتشاف وكيل لم تكن المؤسسة تعلم أصلاً أنه موجود.
