88% من نماذج الذكاء الاصطناعي تفشل أمام هجمات المحادثات المتعددة

مقدمة تحليلية

في مؤتمر VB Transform 2026، أعلن مسؤول أمن الذكاء الاصطناعي في شركة Cisco عن إحصائية حاسمة، يجب أن تهز أركان الصناعة: 88% من نماذج الذكاء الاصطناعي تخضع لهجمات متعددة الأدوار. هذا الكشف، الذي قدمته إحدى الشركات الرائدة عالمياً في أمن الشبكات، لا يمثل مجرد تحذير أكاديمي؛ بل هو تقييم واقعي ومرير لوضع الأمن السيبراني في أنظمة الذكاء الاصطناعي التوليدي. يكشف هذا الفشل الموثق عن ضعف منهجي في آليات الاختبار الحالية التي تركز حصرياً على التفاعلات أحادية الدور (single-turn interactions)، مما يترك البنى التحتية الحيوية المعتمدة على هذه النماذج عرضة للاستغلال على نطاق واسع.

التحليل التقني

تكمن الثغرة الأساسية التي كشفت عنها Cisco في التباين بين منهجيات الاختبار والتصميم الفعلي لنماذج الذكاء الاصطناعي التخاطبية. تعتمد هجمات الدور الواحد (single-turn attacks) على توجيه استعلام فردي مصمم لاختراق النموذج أو تحريفه. هذه الاختبارات، على الرغم من أهميتها، تفشل في محاكاة التفاعلات المعقدة التي تتضمنها المحادثات البشرية أو التبادلات بين الأنظمة. في المقابل، تستغل الهجمات متعددة الأدوار (multi-turn attacks) السياق التراكمي للتبادل؛ حيث يقوم المهاجم ببناء مطالباته بشكل تدريجي عبر سلسلة من التفاعلات المتسلسلة. هذه الاستراتيجية تستغل قدرة النماذج على الاحتفاظ بالذاكرة والسياق (context and memory)، مما يحول هذه الميزة الأساسية في نماذج الذكاء الاصطناعي إلى ثغرة أمنية حرجة. عندما يُشار إلى أن النماذج "تُكسر" (broke)، فإن ذلك يعني القدرة على دفع النموذج لتنفيذ أوامر ضارة: قد يشمل ذلك الكشف عن معلومات حساسة كان من المفترض أن تبقى سرية، أو تجاوز قيود الأمان لإنشاء محتوى محظور، أو حتى التلاعب بسلوك النموذج في تطبيقات ذات عواقب حقيقية. لم يتم الكشف عن تفاصيل محددة لأنواع النماذج المتأثرة أو الثغرات الفنية (CVEs) المعنية خلال التحذير من Cisco، ولا حتى عن أسماء معينة للنماذج. ومع ذلك، يشير الرقم الصادم البالغ 88% إلى انتشار واسع للمشكلة عبر مجموعة واسعة من النماذج الحالية، مما يعني أن الفشل لا يقتصر على نقطة ضعف معزولة، بل في إدارة وتأمين التفاعل المستمر والسياقي ككل ضمن بنية النموذج.

السياق وتأثير السوق

تتجاوز تداعيات هذا الاكتشاف الأطر النظرية لتمس كل قطاع يعتمد على نماذج الذكاء الاصطناعي التخاطبية، من أنظمة دعم العملاء الآلية إلى واجهات البرمجة اللغوية للنماذج الكبيرة (LLM APIs) التي تشغل تطبيقات الأعمال. الشركات التي تستخدم روبوتات الدردشة، والمساعدين الافتراضيين، وأنظمة دعم العملاء المدعومة بالذكاء الاصطناعي تواجه الآن تهديداً أمنياً منهجياً لا يمكن تجاهله. مقارنة بالحالة الفنية السابقة، حيث كانت غالبية اختبارات الأمان تركز على حقن المطالبات الفردية (single-turn prompt injection) كنهج أساسي، يمثل هذا التحذير من Cisco تحولاً جذرياً في الفهم المطلوب للأمن السيبراني للذكاء الاصطناعي. الأسواق التي تشهد توسعاً سريعاً في اعتماد LLMs، مثل الخدمات المالية والرعاية الصحية والدفاع والتعليم، يجب أن تعيد تقييم بنيتها التحتية الأمنية واستراتيجياتها بالكامل. التأثير المباشر يتمثل في زيادة حتمية لتكاليف تطوير ونشر نماذج الذكاء الاصطناعي، وتباطؤ محتمل في وتيرة التبني ما لم يتم تطوير حلول اختبار أكثر شمولاً وموثوقية قادرة على محاكاة سيناريوهات الاستخدام الحقيقية. المنافسون في مجال أمن الذكاء الاصطناعي سيجدون أنفسهم تحت ضغط هائل لتقديم أدوات ومنهجيات قادرة على الكشف عن الهجمات متعددة الأدوار والتخفيف من حدتها بفعالية. هذا يتطلب استثمارات كبيرة في البحث والتطوير، وسيؤثر على دورات حياة المنتجات.

رؤية Glitch4Techs

البيانات واضحة وغير قابلة للتأويل: نماذج الذكاء الاصطناعي الحالية هشة بشكل خطير ضمن سيناريوهات الاستخدام الواقعية، والادعاءات حول "ذكائها" تتضاءل أمام فشلها الأمني الواضح. نسبة الفشل البالغة 88% أمام الهجمات متعددة الأدوار ليست مجرد رقم إحصائي؛ إنها شهادة إدانة واضحة على قصور منهجي في الفرضيات الأمنية التي تبنى عليها هذه التقنيات. إن الخطر الأكبر لا يكمن في تعقيد هذه الهجمات بحد ذاتها، بل في الإخفاق المنهجي – إن لم يكن المتعمد – في اختبار هذه النماذج ضمن بيئة تفاعلية حقيقية تعكس طبيعة عملها. الاعتماد المستمر على اختبارات الدور الواحد، مع تجاهل طبيعة الذكاء الاصطناعي التخاطبي التي يفترض أن تحاكيها، يضع هذه التكنولوجيا ضمن فئة المنتجات الأمنية المهملة. هذا الوضع سيؤدي حتماً إلى سلسلة من الاختراقات المكلفة وواسعة النطاق، مما يقوض الثقة ويؤخر التقدم الحقيقي. التبني الواسع لهذه النماذج، دون معالجة هذا الضعف الأساسي في الاختبار والتقييم الأمني، هو وصفة لكارثة تشغيلية.