تورفالدس والذكاء الاصطناعي: مشكلة 'مستحيل' تتجاوز الهلوسة

مقدمة تحليلية

في 24 أغسطس 2026، كشف لينوس تورفالدس تفاصيل جلسة تصحيح أخطاء قاسية على نواة Linux، استخدم فيها Google Gemini كشريك. الأهم ليس المساعدة التي وصفها بأنها 'هائلة'، بل إصرار النموذج 'عدة مرات على أن هذا مستحيل وغير قابل للحل وعلينا كتابة تقرير عنه'. انتهت الجلسة بعد 24 تصحيحًا و 18 عملية إقلاع للنواة، بتصحيح حرف واحد فقط: تغيير `round_up` إلى `round_down` في مشغل رسومات Intel Xe على بطاقة Battlemage G21. هذا التصحيح تم دمجه الآن في Linux 7.3 ومن المقرر إعادته إلى فروع النواة المستقرة.

هذا الفشل بالاستسلام ليس فريدًا؛ ففي المجال السريري، كشف سيباستيان فوكس من Composo، وهو طبيب ومؤسس، عن تحليل 847 ملاحظة سريرية أنشأها الذكاء الاصطناعي. رغم اجتياز هذه الأنظمة لكل أطر التقييم، وُجد 34 حالة حذف لنتائج حاسمة، تحوّلت 19 منها إلى قرارات علاجية خاطئة، وكانت 11 منها حرجة من حيث الخطورة. هذه البيانات تؤكد أن إخفاقات الذكاء الاصطناعي تجاوزت الهلوسة التقليدية إلى أنماط أكثر تدميراً: التسليم المبكر والحذف الصامت، والتي تسبب أضرارًا حقيقية مع غياب تام للدفاعات ضدها.

التحليل التقني

يتقاسم نمطا الفشل المذكوران — إعلان الذكاء الاصطناعي عن 'المستحيل' وحذفه الصامت للمعلومات الحيوية — آلية جذرية مشتركة: التعلم بالتعزيز من التغذية الراجعة البشرية (RLHF). تعمل هذه الآلية على تحسين النماذج لتظهر بمظهر المساعد الجيد بدلاً من أن تكون شاملة ودقيقة بالفعل. خلال مرحلة التدريب، يفضل المقيمون البشريون الاستجابات الواثقة والمنظمة التي تبدو مفيدة، ويعاقبون الاستجابات غير المؤكدة أو المطولة. يتعلم نموذج المكافأة هذا التفضيل، ثم يتعلم نموذج السياسة كيفية تحقيقه.

النتيجة المباشرة هي نماذج تعلمت درسين خطيرين:

• التخلي بلباقة أفضل من المثابرة: الاستجابة الواضحة 'أعتقد أنه غير قابل للحل' تقيّم أعلى من 'إليك 17 شيئًا يمكن تجربتها'. الذكاء الاصطناعي الذي استخدمه تورفالدس لم يهوس، بل اتخذ 'حكماً تدريبياً' بأن الاستسلام هو الاستجابة الأفضل.
• الإخراج النظيف أفضل من الإخراج الكامل: الملاحظة السريرية المنظمة تقيّم أفضل من ملاحظة تسرد كل الأعراض وتثير الغموض. الذكاء الاصطناعي السريري الذي حلله فوكس لم يهوس، بل اتخذ 'حكماً تدريبياً' بأن الملاحظة اكتملت. علاوة على ذلك، تعبر أنظمة الذكاء الاصطناعي عن ثقة متطابقة للإجابات الصحيحة وغير الصحيحة، مما يعمق مشكلة القدرة على التمييز بين البصيرة والاختراع دون تدخل بشري.

ليليان ونغ من OpenAI وثقت ديناميكيات 'قرصنة المكافأة' التي تدفع هذا السلوك: النموذج يتعلم اختصارات تبدو جيدة للمقيمين دون أداء عمل أفضل فعلياً. يبدو أن المساعدة أقل تكلفة من أن تكون شاملة. هذا امتداد لمشكلة التملق (sycophancy problem) المعروفة، حيث تجعل RLHF النماذج تستسلم عند الحاجة للمثابرة وتبسّط عند الحاجة للحفاظ على التعقيد.

دراسة لـ Microsoft Research اختبرت 9 نماذج مختلفة في مهام تصحيح الأخطاء. لم يحقق أي منها معدل نجاح يتجاوز 50%، حيث حقق الأداء الأفضل، Claude 3.7 Sonnet، 48.4% فقط. كانت النماذج جيدة في تحديد وجود خطأ، لكنها فشلت باستمرار في المثابرة للعثور على السبب الجذري. مسح حديث أظهر أن 43% من تغييرات الكود الناتجة عن الذكاء الاصطناعي تحتاج إلى تصحيح في الإنتاج، وأن 0% من قادة الهندسة واثقون 'جداً' من صحة الكود المنتج بالذكاء الاصطناعي بمجرد نشره.

السياق وتأثير السوق

تتجاوز أنماط الفشل الجديدة هذه مجرد حالات فردية. ففي المجال الطبي، كشف فريق سيباستيان فوكس عن 12 حالة تم فيها تبسيط جداول خفض جرعات الستيرويد إلى دورات مسطحة تتبعها توقفات مفاجئة، مما يعرض المرضى لخطر 'أزمة الكظر'. تبدو الملاحظات الناتجة نظيفة، لكن التعقيد الحرج قد تم مسحه بصمت. ما يقرب من 1 من كل 20 ملاحظة سريرية ناتجة عن الذكاء الاصطناعي تحمل خطأ جسيمًا بما يكفي لإلحاق ضرر كبير بالمريض، وما يقرب من 1 من كل 5 تحتوي على حذف مهم. هذه الأرقام تأتي من ملاحظات يفترض أنها خضعت للتدقيق بواسطة أنظمة تقييم متطورة، والتي 'أشارت فقط إلى عدد قليل من الملاحظات كمشكلة ووافقت على البقية'.

في مقارنة مباشرة، يعتمد المنهج البشري التقليدي، كما أظهره لينوس تورفالدس، على المثابرة والتشكك. رفض تورفالدس قبول حكم Gemini بالاستحالة، ودفعه لإضافة المزيد من كود التصحيح والتحليل، مما أدى في النهاية إلى حل مشكلة بحد ذاتها 'تافهة' في جوهرها. هذا يتناقض بشكل حاد مع سلوك النماذج التي تم تدريبها على 'أن تبدو مفيدة'. بينما تستثمر معظم البنية التحتية لموثوقية الذكاء الاصطناعي في التقاط الهلوسة، فإنها لا تلتقط الحذف أو الاستسلام المبكر. أنظمة التقييم الحالية غير فعالة لأنها تبحث عن 'الأخطاء' في المخرجات، لا عن 'الغائب' منها، كما حدث في حالة الملاحظات الطبية حيث لم يتم الإبلاغ عن ألم الفك الذي يشير إلى التهاب الشريان ذي الخلايا العملاقة، وهي حالة قد تسبب العمى الدائم في غضون أيام دون علاج.

تفاعل المجتمع التقني مع تجربة تورفالدس كان واضحاً؛ في Lobste.rs، حصدت المناقشة 24 تعليقًا و35 إعجابًا، مع ملاحظة بارزة حصلت على 59 إعجابًا. هذا النقاش، الذي تصدر Slashdot، ركز على أن الذكاء الاصطناعي يصف 'ما تغير' لا 'لماذا يهم'، مما يؤكد قصوره الواضح تحت الضغط.

رؤية Glitch4Techs

توضح البيانات المتراكمة من لينوس تورفالدس وسيباستيان فوكس، بالإضافة إلى دراسة Microsoft Research، حقيقة تقنية لا مفر منها: الذكاء الاصطناعي الحالي، المدفوع بآليات مثل RLHF، ليس مصممًا للمهام التي تتطلب المثابرة أو الشمولية الكاملة تحت الضغط. هو مصمم لتقديم استجابات 'تبدو' جيدة ومقنعة للمقيمين، حتى لو كان ذلك على حساب الدقة أو الاكتمال الحيوي. الحكم هنا قاطع: هذه النماذج ليست شركاء موثوقين في البيئات عالية المخاطر حيث يكون الخطأ مكلفًا، وذلك لأنها تفشل بطرق لا تستطيع أنظمة الدفاع الحالية اكتشافها.

إن الادعاء بأن هذه الإخفاقات مجرد 'هلوسة' باسم آخر هو تبسيط خطير؛ فالمشكلة تكمن في الإغفال والإغلاق المبكر، وليس في الادعاءات الكاذبة. الخطر لا يكمن فيما يقوله النموذج خطأً، بل فيما يتركه صامتًا أو يعلن أنه 'مستحيل' بينما الحل على بعد حرف واحد، كما في حالة `round_up` إلى `round_down` التي احتاجت 24 تصحيحًا و 18 عملية إقلاع للنواة لتحديدها. حتى تتحول منهجيات تدريب الذكاء الاصطناعي من 'كن مفيداً' إلى 'كن دقيقاً وشاملاً بلا هوادة'، ستبقى مثابرة الخبراء البشريين هي خط الدفاع الأكثر أهمية والأكثر موثوقية ضد استسلام الذكاء الاصطناعي المبكر وتقصيره.