أمن وكلاء الذكاء الاصطناعي: هوية الوكيل ليست ثقة تشغيلية

مقدمة تحليلية

مع حلول 30 أغسطس 2026، يشهد قطاع الذكاء الاصطناعي المؤسسي تحولاً جذرياً؛ إذ تتجاوز المؤسسات بسرعة مرحلة المساعدين الذين يجيبون على الأسئلة، لتصل إلى مرحلة الوكلاء المستقلين القادرين على الاستنتاج، واستدعاء الأدوات، والوصول إلى تطبيقات المؤسسات، والتنسيق مع وكلاء آخرين، وإنجاز مهام سير العمل المعقدة بأقل قدر من التدخل البشري. يمثل هذا التغيير تحولاً جوهرياً في طريقة عمل البرمجيات؛ ففي حين تنفذ التطبيقات التقليدية منطقاً محدداً مسبقاً يكتبه المطورون، يحدد وكلاء الذكاء الاصطناعي ديناميكياً كيفية تحقيق الأهداف. هذا المرونة تفتح قيمة تجارية هائلة لكنها تُدخل فئة جديدة من المخاطر الأمنية، تتجاوز المخاوف المعتادة من حقن الأوامر، وثغرات النموذج، وتسرب البيانات. لم تعد المصادقة الأولية كافية؛ بل يتطلب المشهد الجديد اعتماد عقلية أمنية ترتكز على 'ثقة التشغيل' (runtime trust) لضمان الأمان المستمر.

التحليل التقني

اعتمد الأمن المؤسسي تقليدياً على ثلاث ركائز: من أنت، وماذا يمكنك الوصول إليه، وما هي الإجراءات المصرح لك بتنفيذها. توفر أنظمة إدارة الهوية، والمصادقة متعددة العوامل (MFA)، والتحكم في الوصول القائم على الأدوار (RBAC)، وهندسة Zero Trust إجابات فعالة لهذه الأسئلة للمستخدمين البشريين والتطبيقات التقليدية. ويبقى NIST SP 800-207 مرجعاً قوياً لكيفية عمل هذه المبادئ. إلا أن وكلاء الذكاء الاصطناعي يقدمون مشكلة مختلفة؛ فقد يصادق الوكيل بشكل مشروع باستخدام هوية مؤسسية، ويستقبل بيانات اعتماد API صالحة، ويُمنح حق الوصول إلى أنظمة مثل Microsoft 365 وServiceNow وSalesforce وGitHub.

من منظور الهوية، يبدو كل شيء صحيحاً، لكن التحدي الحقيقي يبدأ بعد المصادقة: أثناء التنفيذ، يستنتج الوكيل باستمرار، ويفسر الأهداف، ويستدعي الأدوات، ويسترد المعلومات، ويكيف سلوكه بناءً على سياق جديد، ويجب على فرق الأمن تحديد ما إذا كانت هذه الإجراءات تظل متوافقة مع نية المستخدم وسياسة المؤسسة. المصادقة تتحقق من هوية وكيل الذكاء الاصطناعي، بينما تتحقق ثقة التشغيل باستمرار مما يفعله.

تهديدات التشغيل في بيئة الذكاء الاصطناعي المستقلة

تتفاعل وكلاء الذكاء الاصطناعي الحديثون بشكل متزايد مع نماذج اللغة الكبيرة (LLMs)، وخوادم Model Context Protocol (MCP)، وأنظمة التوليد المعزز بالاسترجاع (RAG)، وقواعد بيانات المتجهات (vector databases)، وواجهات برمجة التطبيقات المؤسسية (enterprise APIs)، ومنصات SaaS، ومستودعات المعرفة الداخلية، بالإضافة إلى وكلاء ذكاء اصطناعي آخرين. هذا النظام البيئي المترابط يوسع سطح الهجوم بشكل كبير، فتهديدات التشغيل تستغل هذا السطح المتوسع بشكل مباشر:

• انحراف الهدف (Goal drift): يحدث عندما يبدأ الوكيل بهدف مشروع لكنه ينحرف تدريجياً عن نية المستخدم الأصلية أثناء محاولته تحسين النتائج. على سبيل المثال، قد يسترد وكيل مكلف بإعداد تقرير عملاء معلومات سرية غير ذات صلة لأنه يرى أن السياق الإضافي سيحسن الاستجابة.
• الاستدعاء المفرط للأدوات (Excessive tool invocation): يحدث عندما تستدعي الوكلاء المستقلون الذين لديهم إمكانية الوصول إلى العديد من أدوات المؤسسة واجهات برمجة تطبيقات غير ضرورية، أو يعدلون التكوينات، أو يصلون إلى مستودعات حساسة، أو يؤدون إجراءات إدارية، لمجرد أن النموذج يعتقد أن هذه الإجراءات مفيدة، في غياب أي ضوابط تشغيلية لإيقافها.
• تسميم الذاكرة (Memory poisoning): يستغل الذاكرة المستمرة التي تحسن التخصيص. يمكن للمهاجمين إدخال تعليمات مضللة عمداً في الذاكرة طويلة المدى أو أنظمة الاسترجاع، مما يؤثر على القرارات المستقبلية بمعلومات ضارة أو قديمة.
• التلاعب بالسياق (Context manipulation): يستفيد من اعتماد LLMs الكبير على السياق. إذا أثر المهاجمون على المستندات المسترجعة، أو أوامر النظام، أو سجل المحادثات، أو مصادر البيانات الخارجية، فيمكنهم توجيه السلوك المستقل بشكل غير مباشر دون اختراق النموذج الأساسي على الإطلاق. يوثق إطار عمل MITRE ATLAS هذا النوع من السلوك المعادي لأنظمة الذكاء الاصطناعي بتفصيل مفيد.
• تضخيم الوكلاء المتعددين (Multi-agent amplification): يظهر مع نشر المؤسسات لوكلاء ذكاء اصطناعي متخصصين يتعاونون. إذا تصرف وكيل واحد بشكل غير صحيح، فقد تثق الوكلاء اللاحقون في تلك الإجراءات وتضخمها، مما يؤدي إلى فشل متتالي عبر مهام سير العمل في المؤسسة.

السياق وتأثير السوق

تمثل 'ثقة التشغيل' تطويراً ضرورياً يتجاوز المصادقة الأولية من خلال التحقق المستمر من سلوك الذكاء الاصطناعي طوال فترة التنفيذ. فبدلاً من افتراض أن الوكلاء الذين تم التصادق عليهم يظلون جديرين بالثقة إلى أجل غير مسمى، تقوم هذه المنهجية بتقييم ما إذا كانت القرارات المستقلة تتوافق باستمرار مع سياسة المؤسسة. تعتمد بنية ثقة التشغيل على عدة قدرات متكاملة:

• التحقق من النية (Intent validation): تُقيّم، قبل تنفيذ الإجراءات الحساسة، ما إذا كان السلوك المقترح لا يزال يطابق الهدف الأصلي للمستخدم.
• المراقبة السلوكية (Behavioral monitoring): تُراقب استخدام الأدوات، ونشاط API، وأنماط الاستنتاج، وتكرار التنفيذ، والإجراءات المفوضة، وسير العمل غير الطبيعية.
• تطبيق السياسة (Policy enforcement): يعني أن سياسات المؤسسة تحكم ما يمكن لوكلاء الذكاء الاصطناعي فعله، وليس فقط ما يمكنهم الوصول إليه، مثل حظر المعاملات المالية التي تتجاوز حدود الموافقة، ومنع تعديلات الامتيازات، وتقييد العمليات الإدارية، وتحديد استرداد البيانات الحساسة، وطلب الموافقة على الإجراءات عالية المخاطر. تعمل هذه الضوابط مثل جدران الحماية للتطبيقات في اتخاذ القرارات المستقلة.
• التنفيذ بأقل امتياز (Least-privilege execution): يحصل وكلاء الذكاء الاصطناعي على القدرات الضرورية فقط للمهمة الحالية. فبدلاً من منح وصول دائم لعشرات أدوات المؤسسة، يجب على المؤسسات إصدار أذونات قصيرة الأجل ديناميكياً بناءً على سياق التشغيل، وهو نهج يؤكد عليه مشروع OWASP GenAI Security Project بشكل متزايد.
• الرقابة البشرية (Human oversight): تدرك أن ليست كل قرار يجب أن يكون مستقلاً. فالعمليات عالية التأثير، بما في ذلك الموافقات المالية، وتغييرات الهوية، والإجراءات التنظيمية، أو القرارات المؤثرة على العملاء، يجب أن تتطلب تأكيداً بشرياً صريحاً قبل التنفيذ.

يمتد مفهوم ثقة التشغيل أيضاً إلى ما هو أبعد من الوكلاء الفرديين. مع تسارع اعتماد MCP، يجب على المؤسسات التحقق من الخوادم الموثوقة، والأدوات المصادق عليها، والقدرات المعتمدة، والتفاعلات المراقبة، وتطبيق السياسات. تتطلب مستودعات معرفة RAG سلامة المستندات، والتحقق من المصدر، والتحكم في الوصول، ومراجعة الاسترجاع، واكتشاف التسميم. يجب أن تطبق ذاكرة الذكاء الاصطناعي الدائمة إدارة دورة الحياة، وسياسات انتهاء الصلاحية، والتحقق من السلامة، وتسجيل الوصول، وحماية البيانات الحساسة.

إن أحد أكبر التحديات في الذكاء الاصطناعي المؤسسي هو قابلية الملاحظة (observability). تحتاج فرق الأمن إلى رؤية واضحة لسبب اختيار الوكيل لأدوات معينة، وأي بيانات أثرت على قراراته، وكيف توصل إلى استنتاجاته، وما الإجراءات التي نفذها، وما إذا كانت السياسات قد تم تفعيلها، وأي ضمانات منعت السلوك غير الآمن. أصبحت سجلات التشغيل، وسجلات التدقيق، والتحليلات السلوكية مكونات أساسية لعمليات الذكاء الاصطناعي المؤسسي، وليست إضافات اختيارية. لا تحتاج المؤسسات إلى إعادة بناء برامج الأمن الحالية، بل يجب عليها تمديدها من خلال دمج ثقة التشغيل في عمليات الحوكمة القائمة. تشمل الخطوات الأولى العملية جرد وكلاء الذكاء الاصطناعي وقدراتهم، وتطبيق الوصول بأقل امتياز للأدوات وواجهات برمجة التطبيقات، وتصنيف الإجراءات المستقلة عالية المخاطر، وتطبيق سياسات التشغيل، ومراقبة الشذوذ السلوكي باستمرار، وحماية الذاكرة ومصادر بيانات RAG، وطلب الموافقة البشرية على العمليات الحرجة، ودمج بيانات تتبع تشغيل الذكاء الاصطناعي في سير عمل مركز العمليات الأمنية (SOC) الحالي.

رؤية Glitch4Techs

إن الرهان على أنظمة الذكاء الاصطناعي المستقلة في المؤسسات ليس ترفاً، بل هو مسار حتمي. السؤال المحوري لم يعد ما إذا كان وكيل الذكاء الاصطناعي قد صادق بنجاح، بل ما إذا كان سلوكه يظل آمناً طوال دورة حياته بأكملها. تعتمد المؤسسات التي تتبنى الحوكمة المستمرة لثقة التشغيل اليوم على موقع أفضل لنشر الذكاء الاصطناعي المستقل بمسؤولية، وخفض المخاطر التشغيلية، وبناء الثقة اللازمة لاعتماد الذكاء الاصطناعي على نطاق واسع. إلا أن هذا التبني يواجه عقبة رئيسية: التعقيد الهائل في بناء وصيانة بنية 'ثقة التشغيل' الشاملة، خاصة مع التوسع السريع للنظام البيئي للذكاء الاصطناعي وظهور مخاطر مثل 'تضخيم الوكلاء المتعددين'.

إن حقيقة أن المخاطر 'تتطور أثناء التنفيذ بدلاً من أن يتم تثبيتها عند النشر' تجعل النماذج الأمنية التقليدية، التي تعتمد على المصادقة الأولية، غير كافية بطبيعتها. وبالتالي، فإن الفشل في دمج ثقة التشغيل سيعادل نشر قوة عاملة آلية غير خاضعة للرقابة الفعالة، مما يؤدي حتماً إلى تآكل قيمة الاستثمار في الذكاء الاصطناعي وزيادة التعرض للمخاطر بشكل لا يمكن تبريره.