GPT-Red: أتمتة اختبار حقن الأوامر تحصّن GPT-5.6 Sol

مقدمة تحليلية

كشفت شركة OpenAI في 18 يوليو 2026 عن تفاصيل GPT-Red، وهو نموذج داخلي مؤتمت للقرصنة الحمراء (red-teaming) مصمم خصيصاً لتوسيع نطاق اكتشاف ثغرات حقن الأوامر (prompt injection). الهدف المعلن هو معالجة هذه الثغرات قبل نشر أدواتها على نطاق واسع. وفقاً للشركة، يمثل GPT-Red "مختبِراً قوياً للقرصنة الحمراء"، حيث كانت النماذج السابقة "عرضة بشكل كبير لهجماته". جرى استخدام GPT-Red لتدريب GPT-5.6 Sol بشكل معاكس، مما أدى إلى تعزيز حصانته. النموذج الأخير يحقق انخفاضاً بواقع ستة أضعاف في حالات الفشل ضد معيار حقن الأوامر المباشر مقارنة بـ GPT-5.5، الذي كان نموذجها الرائد قبل أربعة أشهر.

التحليل التقني

يعمل GPT-Red بآلية تحاكي عمل فريق القرصنة الحمراء البشري: يرسل أمراً، يراقب استجابة نموذج GPT، ويكرر العملية لتحقيق هدف خبيث، مثل تحميل بيانات حساسة إلى خادم خارجي. تظل حقن الأوامر نقطة ضعف مستمرة في نماذج اللغة الكبيرة (LLMs)، إذ يمكن خداعها لتنفيذ تعليمات مصممة بعناية تؤدي إلى عواقب غير مرغوبة. تتسع مساحة الهجوم هذه مع ربط الأنظمة الوكيلة (agentic systems) بمصادر بيانات خارجية كمتصفحات الويب والتطبيقات المتصلة والملفات المحلية. يمكن تضمين الأوامر الخبيثة في محتوى يبدو غير ضار مثل رسالة بريد إلكتروني أو صفحة ويب. يهدف GPT-Red إلى تعزيز قدرات القرصنة الحمراء البشرية على نطاق واسع، مما يسمح بتحديد أنماط فشل جديدة وتحسين المتانة قبل نشر النماذج. جرى تدريب GPT-Red باستخدام التعلم التعزيزي الذاتي (self-play reinforcement learning)، حيث يتم تدريب النموذج ومجموعة متنوعة من نماذج LLM الدفاعية بالتزامن على مجموعة واسعة من سيناريوهات القرصنة الحمراء. يُكافأ GPT-Red على إثارة فشل صحيح، مثل حقن أمر ناجح، بينما تُكافأ النماذج الدفاعية على مقاومة الهجوم وإكمال مهامها الأصلية. من أمثلة المحادثات التي جرى اختبارها من خلال حقن الأوامر:

• سحب بيانات الدليل الداخلي (Internal directory exfiltration)
• تعليمات دفع احتيالية (Fraudulent payment instructions)
• سحب بيانات اعتماد AWS (AWS credential exfiltration)
• تعطيل المصادقة الثنائية (2FA)
• رفع ملفات الاعتماد (Credentials file upload)
• حقن سكريبت خارجي (External script injection)
• إعادة توجيه مفتاح API (API key forwarding)
• سكريبتات تجسس خبيثة (Malicious scraper scripts)

وقد وجد أن GPT-Red يولد هجمات ناجحة ضد GPT-5.1 في سيناريوهات أكثر من فرق القرصنة الحمراء البشرية، خصوصاً فيما يتعلق بحقن الأوامر غير المباشرة. كما كشف إصدار مبكر من النموذج عن فئة جديدة من هجمات حقن الأوامر المباشرة تُعرف باسم Fake Chain-of-Thought (CoT)، والتي حققت معدلات نجاح تجاوزت 95% على GPT-5.1، لكنها الآن أقل من 10% على GPT-5.6 Sol. بشكل مماثل، تشبعت العديد من معايير حقن الأوامر غير المباشرة التي تستهدف الهجمات في أدوات المطورين والتصفح بواسطة النموذج الأخير (>97% دقة). أشار OpenAI إلى أن متانة GPT-5.6 Sol ضد GPT-Red نفسه تحسنت بشكل كبير، حيث يفشل النموذج الأخير في 0.05% فقط من هجمات حقن الأوامر المباشرة التي يشنها GPT-Red. أُكد أيضاً على إبقاء GPT-Red منفصلاً عن النماذج الأخرى لمنع وصول قدراته الخبيثة إلى الجهات الفاعلة السيئة.

السياق وتأثير السوق

تتفاقم مشكلة أمان نماذج اللغة الكبيرة مع تزايد الاعتماد على الأنظمة الوكيلة التي تتفاعل مع البيئات الخارجية. يبرز إعلان OpenAI عن GPT-Red كاستجابة مباشرة لهذه التحديات، لكنه في الوقت ذاته يشير إلى مدى عمق المشكلة الأصلية. في اختبار واقعي، استهدفت GPT-Red آلة بيع تعتمد على الذكاء الاصطناعي من تطوير Andon Labs. بعد تدريبها في المحاكاة، حققت النموذج أهدافها الثلاثة: خفض سعر سلعة باهظة إلى الحد الأدنى المسموح به 0.50 دولار، وطلب سلعة جديدة بقيمة 100 دولار بنفس المبلغ، وإلغاء طلب عميل آخر. هذه الحادثة تظهر بوضوح العواقب المادية المباشرة للثغرات الأمنية في الأنظمة المستقلة. كما استُخدم GPT-Red في دراسة حالة ثانية لمهاجمة وكيل سطر الأوامر Codex، القائم على GPT-5.4 mini، عبر 10 مهام لتسريب البيانات، مما أدى إلى إرسال بيانات حساسة في حالات أكثر من خط الأساس GPT-5.5. يأتي هذا التطور في وقت واجهت فيه OpenAI تحديات كبيرة في تقييم نماذجها. فقد سحبت الشركة مؤخراً توصيتها بمعيار SWE-Bench Pro، مشيرة إلى أن حوالي 30% من المهام فيه معيبة. سبقت هذه الخطوة سحبها من SWE-bench Verified بسبب مشاكل في التصميم والتلوث. هذه الإخفاقات المتكررة في معايير التقييم الخارجية تؤكد على الصعوبة المتزايدة في قياس قدرات النماذج وأمانها بشكل موثوق، وتضع ضغوطاً إضافية على الشركات لتطوير حلولها الأمنية الداخلية الخاصة، كما فعلت OpenAI.

رؤية Glitch4Techs

إن إطلاق GPT-Red هو خطوة ضرورية من OpenAI، لكنها تعكس فشلاً في المعالجة الأولية لمشاكل الأمان الأساسية. عندما تحتاج شركة إلى تطوير ذكاء اصطناعي خاص بها لاختبار ذكاء اصطناعي آخر من إنتاجها، فإن هذا لا يبعث على الثقة بقدر ما يبعث على القلق بشأن الثغرات المتأصلة. حادثة آلة البيع لـ Andon Labs تُثبت أن هذه الثغرات كانت حقيقية وذات عواقب مادية فورية، وليست مجرد نقاط ضعف نظرية. إضافة إلى ذلك، فإن سجل OpenAI في سحب توصياتها بمعايير مثل SWE-Bench Pro و SWE-bench Verified بسبب مشاكل أساسية في البيانات والتصميم، يضع علامة استفهام كبيرة حول منهجيتها في التقييم الأمني المستقل. لا تعكس هذه الخطوة نضجاً أمنياً، بل هي دليل على نهج تفاعلي حيث تكتشف العيوب العميقة بعد أن تصبح واضحة، بدلاً من منعها بشكل استباقي. هذا الحل يعالج العرض، لكنه لا يطمئن بأن المرض لم يكن موجوداً من البداية.