OpenAI تعلن عن مصنف صور جديد وتحذيرات ChatGPT لمكافحة استغلال الأطفال

أعلنت OpenAI عن أدوات جديدة لمكافحة مواد الاعتداء الجنسي على الأطفال (CSAM)، بما في ذلك مصنف صور يقلل أعباء المراجعين بنسبة 48%.
مقدمة تحليلية
في 16 نوفمبر 2026، كشفت OpenAI عن حزمة أدوات جديدة لمكافحة مواد الاعتداء الجنسي على الأطفال (CSAM)، استجابة لتزايد المخاوف الأمنية المحيطة بأدوات الذكاء الاصطناعي. تضمنت هذه الميزات مصنف صور جديد لاكتشاف CSAM، بالإضافة إلى تحذيرات وحظر مؤقت في ChatGPT لمنع المستخدمين من إنشاء أو الوصول إلى محتوى يستغل الأطفال جنسيًا. شملت الحزمة كذلك دليلًا إرشاديًا جديدًا للمطورين ومجموعة أدوات مصممة خصيصًا لوكالات تطبيق القانون. تأتي هذه الخطوات في وقت حرج، حيث واجهت الشركة دعاوى قضائية متعددة وُجِّهت إليها في عام 2025، حملت تقنيتها مسؤولية الإضرار بالمستخدمين، وخاصة الأطفال، مما دفع منظمة Common Sense Media غير الربحية إلى وصف تقنيات OpenAI بأنها تشكل «خطرًا غير مقبول» على المراهقين.
التحليل التقني
تتمحور جهود OpenAI الأخيرة حول آليات متعددة تهدف إلى تعزيز الأمان. العنصر الأبرز هو مصنف الصور الجديد القادر على اكتشاف صور CSAM، بما في ذلك تلك التي يولدها الذكاء الاصطناعي. تتيح الشركة الوصول إلى هذا المصنف لشركات محددة عبر واجهة API الخاصة بها، وبدون تكلفة. يعتمد الأداة على البحث عن «علامات بصرية للاعتداء في صور لم تُشاهد من قبل» وتُعيّن لها درجة توجيهية للمراجعين البشريين للتعامل مع CSAM. طورت OpenAI هذا المصنف بالتعاون مع المركز الوطني للأطفال المفقودين والمستغلين (NCMEC)، وتعمل مع Tech Coalition و ROOST لمشاركة الوصول إلى الأداة.
في اختباراتها الأولية مع الشركاء، أظهر المصنف فعالية ملحوظة؛ فقد حدد 48% صورًا أقل بينما عثر على نفس عدد الصور المسيئة، مما قلل من عبء عمل المراجعين بشكل كبير. إضافة إلى ذلك، الصور التي يحددها المصنف تكون عرضة مرتين أكثر لاحتوائها على محتوى مسيء مقارنة بالصور التي تُراجع دون مساعدة الأداة.
تعزيز الحماية في ChatGPT
بالتوازي مع مصنف الصور، قامت OpenAI بتضمين شاشات تحذير جديدة في ChatGPT لمنع المستخدمين من الوصول إلى مواد تستغل الأطفال جنسيًا. ستعرض المنصة تنبيهًا للمستخدمين الذين يحاولون إدخال مثل هذه المطالبات، وستوجههم نحو دعم متخصص لوقف السلوك الضار، بالإضافة إلى تعليق الحساب لمدة 24 ساعة كتحذير أولي. يُذكر أن التطبيق يحظر بالفعل محتوى CSAM والطلبات المتعلقة به، وأوضحت الشركة أن تكرار المخالفات قد يؤدي إلى الإزالة الدائمة للحساب. صاغت OpenAI رسائلها وإرشاداتها حول هذا السلوك بالتعاون مع منظمات وباحثين، مثل Protect Children ومؤسسة Lucy Faithfull Foundation، بالإضافة إلى جويل سكانلان من جامعة تسمانيا، الذي أجرى تقييمًا مستقلًا لتجربة رسائل الردع.
كما تنشر الشركة إرشادات للمطورين الذين يستخدمون أدوات OpenAI لمنع واكتشاف CSAM ومساعدة المستخدمين في الإبلاغ عنه. في الاختبارات المبكرة، ساعدت هذه الإرشادات عددًا من المطورين على تبني أدوات سلامة الأطفال والتسجيل للإبلاغ عن CSAM إلى NCMEC. أخيرًا، تزود OpenAI وكالات تطبيق القانون التي تتعامل مع سلامة الأطفال بميزات تعمل بالذكاء الاصطناعي، مثل الإضافات المخصصة، وأدوات التحقيق، وتحليل البيانات المعقدة، مع إدارة الوصول من قبل مديري البرامج. كما تقدم تدريبًا للمحققين جنبًا إلى جنب مع دليل ميداني حول كيفية استخدام الذكاء الاصطناعي.
السياق وتأثير السوق
إن إطلاق OpenAI لهذه الأدوات الجديدة لمكافحة CSAM هو جزء من سلسلة من الإجراءات المتأخرة، مدفوعة بتاريخ حافل من الانتقادات والمساءلة. في عام 2025، رفعت عدة دعاوى قضائية ضد الشركة، مؤكدة على مسؤولية تقنيتها في حوادث أدت إلى مأساة أو أوهام لدى المستخدمين، بما في ذلك الأطفال. على سبيل المثال، وصفت منظمة Common Sense Media تقنية OpenAI بأنها تشكل «خطرًا غير مقبول» على المراهقين، مما وضع ضغطًا هائلاً على الشركة لتعزيز إجراءات السلامة. هذه التحركات تأتي أيضًا في سياق سوقي أوسع حيث تعرضت روبوتات الدردشة الأخرى المدعومة بالذكاء الاصطناعي، وبالتحديد Grok، للاستخدام في إنشاء صور جنسية غير توافقية، بما في ذلك صور الأطفال، كما حدث في حادثة موثقة بتاريخ 15 أغسطس 2026.
لم تكن OpenAI غائبة تمامًا عن هذه القضية في الأشهر الـ 12 الماضية. فقد أجرت تعديلات على تقنيتها، شملت إصدار «مخطط أمان» في 8 أبريل 2026، وتحديث إرشادات المحتوى لحظر المحتوى غير اللائق في 19 ديسمبر 2025. كما أعادت ضبط نماذجها لمنع توليد المحتوى الضار في 7 أكتوبر 2026، وأطلقت إصدارًا خاصًا من ChatGPT للمراهقين في 18 أغسطس 2026. تظهر هذه الإجراءات أن الشركة تتبع نهجًا تفاعليًا لتأمين منصاتها بدلاً من دمج تدابير السلامة الشاملة منذ البداية. إن الفجوة الزمنية بين بدء استخدام المراهقين لـ ChatGPT وإطلاق نسخة مخصصة لهم، تؤكد على هذا النمط من الاستجابة المتأخرة.
رؤية Glitch4Techs
تمثل الإجراءات الأخيرة لـ OpenAI ترقيعًا تكتيكيًا ضروريًا، لكنها لا تزال بعيدة عن حل هيكلي شامل. إنها استجابة اضطرارية لضغوط قانونية وأخلاقية متزايدة، وليس تجسيدًا لالتزام أمني أصيل ومتجذر في تصميم التقنية الأساسي. فبينما يُشار إلى أن المصنف الجديد «يُحدِّد 48% صورًا أقل» مع الحفاظ على نفس معدل اكتشاف الصور المسيئة، فهذا يعكس تحسينًا في الكفاءة التشغيلية للمراجعين البشريين وليس القضاء التام على المحتوى الضار أو إزالة الاعتماد على العنصر البشري المعرض للخطأ والإرهاق. كما أن التحذيرات في ChatGPT التي تؤدي إلى «تعليق الحساب لمدة 24 ساعة» للمخالفات الأولى هي إجراء متساهل وغير رادع بالقدر الكافي لجرائم جسيمة مثل استغلال الأطفال.
هذه التدابير هي محاولة لتنظيف الفوضى بعد وقوعها، بدلاً من بناء نظام لا ينتج تلك الفوضى من الأساس.
المصدر:techcrunch.com
يُنتج GlitchNews أخباره آليًا بالذكاء الاصطناعي اعتمادًا على مصادر منشورة، ويذكر مصدر كل خبر. سياسة التحرير
كن أول من يعرف بمستقبل التقنية
أهم الأخبار والتحليلات التقنية مباشرة في بريدك.
مقالات قد تهمك

OpenAI تطلق قفل محادثات ChatGPT: حماية PIN وFace ID

OpenAI تستحوذ على NextSlide: دمج عروض الذكاء الاصطناعي في ChatGPT

فلوريدا تسعى لتصنيف ChatGPT "إزعاجاً عاماً" وOpenAI تقاوم هيئة محلفين
