شبكات بايزي العصبية تُحسن دقة الذكاء الاصطناعي وتُعالج مشكلة عدم اليقين

مقدمة تحليلية

في عام 2023، أصدر كيفن بي. ميرفي كتابه 'التعلم الآلي الاحتمالي: مواضيع متقدمة'، مسلطاً الضوء على التحديات المستمرة في تمثيل عدم اليقين ضمن الشبكات العصبية العميقة. هذه الشبكات، رغم قدرتها الهائلة، تُدرب عادةً باستخدام هدف أقصى الاحتمالية المنتظم لإيجاد مجموعة واحدة من المعايير. لكن النماذج المرنة الكبيرة، مثل الشبكات العصبية، يمكنها تمثيل العديد من الوظائف التي تتوافق مع إعدادات معايير مختلفة، مما يتناسب جيداً مع بيانات التدريب ولكنه يعمم بطرق متباينة. هذه الظاهرة تُعرف باسم 'النقص في التحديد' (underspecification). تُحاول شبكات بايزي العصبية معالجة هذه القيود الجوهرية من خلال دمج نهج احتمالي. تُمكننا هذه الشبكات من تقدير التوزيع الاحتمالي لمعايير النموذج، بدلاً من مجرد إيجاد قيمة نقطية واحدة. هذا التحول يُعد حاسماً لتحسين الدقة وتوفير تمثيل قوي لعدم اليقين في التنبؤات، مما يُعزز موثوقية نماذج الذكاء الاصطناعي في سيناريوهات العالم الحقيقي حيث تكون الثقة في التنبؤات أمراً بالغ الأهمية.

التحليل التقني

تُعد شبكات بايزي العصبية (Bayesian Neural Networks) نموذجًا لتعلم الآلة يُقدر التوزيع الاحتمالي للأوزان لتحسين اليقين والتنبؤات. تُعالج هذه الشبكات مشكلة 'النقص في التحديد' من خلال النظر في جميع النماذج المحتملة معاً، مما يؤدي إلى تحسين الدقة وتمثيل أفضل لعدم اليقين. يتم ذلك بحساب التوزيع التنبؤي الخلفي باستخدام متوسط النموذج البايزي، حيث يتناسب الاحتمال الخلفي للمعايير طردياً مع المرشح (prior) والاحتمالية (likelihood). التحديات الرئيسية في تطبيق الاستدلال البايزي على الشبكات العصبية العميقة تكمن في تحديد أولويات مناسبة وحساب التوزيع الخلفي بكفاءة، وهو أمر صعب بسبب العدد الكبير من المعايير ومجموعات البيانات الضخمة.

• المرشحات الغاوسية المعملة: يُعد الاختيار الأكثر شيوعاً للمرشحات استخدام مرشح غاوسي معمل، حيث تُفترض الأوزان والتحيزات بأنها موزعة بشكل طبيعي حول الصفر بمعاملات تباين محددة.
• حدود الشبكات العصبية اللانهائية: في حدود الشبكات العصبية اللانهائية الاتساع، تُعرّف الشبكة العصبية عملية غاوسية ذات نواة ثابتة يمكن استخدامها لنمذجة هياكل التغاير غير المستقرة.

تُعد طريقة Monte Carlo dropout (MCD) من الطرق البسيطة والمنتشرة لتقريب التوزيع التنبؤي البايزي. تُضاف طبقات الانقطاع (dropout) عادةً كشكل من أشكال التنظيم أثناء التدريب وتُعطل عند الاختبار. ومع ذلك، تقوم فكرة MCD على إجراء أخذ عينات عشوائية أيضاً أثناء الاختبار. تُحذف كل وحدة مخفية وفقاً لتوزيع Bernoulli(p) وتُكرر العملية K مرة لإنشاء K نماذج مميزة، ثم يُنشأ متوسط مرجح بالتساوي للتوزيع التنبؤي لكل نموذج. أحد عيوب MCD أنها بطيئة في وقت الاختبار، لكن يمكن التغلب على ذلك بـ'تقطير' تنبؤات النموذج في شبكة طلابية حتمية.

تقريب آخر أبسط للخلفي هو أن تكون بايزياً فقط بخصوص أوزان الطبقة النهائية. يُعرف هذا بـ'تقريب الطبقة الأخيرة البايزية'. تفصيلياً، تُعد $\mathbf{z} = f (\mathbf{x} ; \mathbf{\theta})$ المخرجات المتوقعة للنموذج قبل أي لاخطية نهائية، حيث تُفترض أن لها الشكل $\mathbf{z} = \mathbf{w}_{L}^{\top} \phi (\mathbf{x} ; \mathbf{\theta})$. يمكن استخدام تقنيات قياسية مثل Monte Carlo لسلسلة ماركوف (MCMC) لحساب $p (\mathbf{w}_{L} \mid \mathcal{D})$، مع افتراض $\phi (\cdot)$.

طرق MCMC مثل Hamiltonian Monte Carlo (HMC) تُعتبر المعيار الذهبي لتقريب الخلفي لأنها لا تُقدم افتراضات قوية حول شكل الخلفي. ومع ذلك، تتطلب إجراءات MCMC القياسية، بما في ذلك HMC، الوصول إلى مجموعة التدريب الكاملة في كل خطوة، مما يحد من قابليتها للتطوير. تُعالج طرق MCMC للتدرج العشوائي، مثل Stochastic gradient Langevin dynamics (SGLD)، هذه المشكلة باستخدام دفعات صغيرة من البيانات، موفرةً بديلاً قابلاً للتطوير.

العديد من طرق الاستدلال التقريبي التقليدية، مثل الاستدلال المتغير، تُركز على تقريب الخلفي في محيط محلي حول أحد الأنماط الخلفية. للشبكات العصبية العميقة الحديثة خلفيات متعددة الأنماط للغاية، مما يجعل التنبؤات المحلية تُقلل من تقدير عدم اليقين وتُعمم بشكل أسوأ.

• 'Deep Ensembles': طريقة بديلة بسيطة هي تدريب نماذج متعددة، ثم تقريب الخلفي باستخدام مزيج مرجح بالتساوي من دالات دلتا، حيث $M$ هو عدد النماذج.

بمجرد الحصول على تقريب $q(\mathbf{\theta} \mid \mathcal{D})$ للخلفي المعياري $p(\mathbf{\theta} \mid \mathcal{D})$، يمكننا استخدامه لتقريب التوزيع التنبؤي الخلفي $p(y \mid \mathbf{x} , \mathcal{D}) = \int p(y \mid \mathbf{x} , \mathbf{\theta}) p(\mathbf{\theta} \mid \mathcal{D}) d \mathbf{\theta}$. غالباً ما تُقرب هذه التكاملات باستخدام طريقة مونت كارلو حيث $\mathbf{\theta}^{s} \sim q(\mathbf{\theta} \mid \mathcal{D})$.

السياق وتأثير السوق

تُمثل شبكات بايزي العصبية تحولاً جذرياً عن النهج التقليدي للشبكات العصبية العميقة التي تعتمد على 'أقصى الاحتمالية' (Maximum Likelihood Estimation). هذا النهج التقليدي، كما يوضح كتاب كيفن بي. ميرفي لعام 2023، يُركز على إيجاد مجموعة واحدة من المعايير التي تتناسب بشكل أفضل مع البيانات، متجاهلاً بذلك حالة 'النقص في التحديد' (underspecification) التي تُعاني منها النماذج الكبيرة.

• الشبكات العصبية التقليدية مقابل شبكات بايزي العصبية:
  • الشبكات التقليدية: تُقدم تنبؤات نقطية دون تقدير لعدم اليقين. تُخفق في التقاط تعقيد المساحات المعيارية متعددة الأنماط، مما يؤدي إلى المبالغة في الثقة وفشل محتمل في سيناريوهات خارج التدريب.
  • شبكات بايزي العصبية: تُوفر تنبؤات وتقديرات موثوقة لعدم اليقين، مما يسمح باتخاذ قرارات أكثر حكمة. تُعد حاسمة في التطبيقات عالية المخاطر كالطب والقيادة الذاتية والمالية.
• Monte Carlo Dropout مقابل طرق MCMC القياسية:
  • Monte Carlo Dropout (MCD): حل عملي وسهل التنفيذ يوفر تقريباً معقولاً لليقين البايزي. يُعد فائزاً في سياقات تتطلب السرعة والكفاءة دون التضحية بالكامل بالدقة البايزية.
  • MCMC (مثل HMC): تُعتبر المعيار الذهبي من حيث الدقة في تقدير التوزيعات الخلفية. لكنها تُعد خاسراً في التطبيقات ذات مجموعات البيانات الكبيرة لأنها تتطلب الوصول إلى مجموعة التدريب الكاملة في كل خطوة.
• Stochastic Gradient MCMC مقابل MCMC القياسية:
  • Stochastic Gradient MCMC (مثل SGLD): تُحل مشكلة قابلية التوسع لـ MCMC القياسية باستخدام دفعات صغيرة من البيانات، مما يجعلها فائزاً واضحاً في سيناريوهات التعلم العميق الحديثة.
  • MCMC القياسية: على الرغم من دقتها النظرية، تُعد خاسراً في بيئات البيانات الضخمة بسبب متطلباتها الحسابية.
• التقريب المحلي للاستدلال المتغير مقابل Deep Ensembles:
  • التقريب المحلي: يُخفق في تقدير عدم اليقين بشكل كافٍ في الخلفيات متعددة الأنماط، مما يُقلل من التعميم ويُقدم ثقة مبالغ فيها. هو خاسر في هذه السيناريوهات المعقدة.
  • Deep Ensembles: تُقدم حلاً فعالاً من خلال تدريب نماذج متعددة ثم دمج تنبؤاتها. هذا النهج فائز لأنه يلتقط نطاقاً أوسع من عدم اليقين ويُعالج مشكلة الخلفيات متعددة الأنماط بشكل أفضل.

بشكل عام، تُقدم شبكات بايزي العصبية، وخاصة أساليبها التقريبية الأكثر كفاءة، ميزة تنافسية واضحة للنماذج التي تحتاج إلى الشفافية والموثوقية في تقديراتها. هي تُعزز قدرة الذكاء الاصطناعي على فهم 'ما لا يعرفه'، وهو أمر بالغ الأهمية للتبني الواسع في الصناعات الحساسة.

رؤية Glitch4Techs

إن الجدل حول شبكات بايزي العصبية ليس مجرد نقاش أكاديمي؛ إنه ضرورة تشغيلية حاسمة. النماذج التقليدية، التي تتبنى ثقة مفرطة في تنبؤاتها النقطية، تُشكل خطراً غير مقبول في التطبيقات التي تتطلب الدقة والمساءلة. الفشل في تقدير عدم اليقين بشكل صحيح ليس مجرد قصور تقني، بل هو نقطة ضعف جوهرية تُقوض الثقة في أنظمة الذكاء الاصطناعي. الحل ليس في التطورات التجميلية، بل في تبني أساسي للنهج الاحتمالي الذي تُقدمه شبكات بايزي العصبية. التقنيات مثل Monte Carlo Dropout و Stochastic Gradient MCMC، وحتى Deep Ensembles، ليست مجرد بدائل، بل هي خطوات لا غنى عنها نحو بناء أنظمة AI تتمتع بالحصانة والذكاء الحقيقي. أي شركة أو باحث لا يدمج تقدير عدم اليقين في نماذجه، لا يُقدم حلاً كاملاً ولا يُدرك المخاطر الحقيقية. هذه ليست خيارات تجميلية للنماذج؛ إنها معايير أساسية للموثوقية يجب أن تُفرض.