بقلم: نور | محررة الأبحاث والدراسات · صوت تحريري بإشراف بشري
اكتشف فريق بحثي من جامعة هايدلبرغ أن التدريب القسري (Identity Teacher Forcing) — التقنية الذهبية لتدريب الشبكات العصبية المتكررة على الأنظمة الفوضوية — يعاني من عيب رياضي خفي يجعل النماذج تكذب على نفسها. البحث المنشور في arXiv يحلل هذه المشكلة من منظور الإحصاء البايزي، ويكشف أن النجاح الظاهري في التدريب قد يأتي على حساب دقة النمذجة الحقيقية.
المشكلة تكمن في التناقض الهندسي المخفي. عندما تُدرب الشبكة العصبية المتكررة باستخدام التدريب القسري، فإنها تتلقى القيم الصحيحة من البيانات الحقيقية خلال كل خطوة زمنية — مما يضمن استقرار التدريب ولكنه يخلق تقوساً مصطنعاً في مساحة المعاملات. هذا التقوس المُضخم لا يعكس الهندسة الحقيقية للاحتمالية الهامشية التي يواجهها النموذج عندما يعمل بحرية، حيث يعتمد على مخرجاته السابقة وليس على البيانات الحقيقية.
للتحقق من هذه الفرضية، استخدم الباحثون Andre Herz وDaniel Durstewitz وGeorgia Koppe نسخة احتمالية محسنة من الشبكات العصبية شبه الخطية (Almost-Linear RNNs) مزودة بآلية التبديل. هذه النماذج قابلة للتفسير وتتيح تحليل التقوس المحتوى باستخدام هوية لويس (Louis’ identity) لتقدير المعلومات المرصودة الواعية بالغموض.
النتائج كانت صادمة عند اختبارها على نظام لورنز-63 الفوضوي الكلاسيكي. أظهرت التجارب أن التكييف على مسار واحد مُجبر (كما يفعل التدريب القسري) يؤدي إلى تضخيم التقوس بشكل مصطنعي. في المقابل، عندما تتعامل النماذج مع احتماليات هامشية حقيقية في التشغيل الحر، فإن التقوس يقل بسبب تصحيح المعلومات المفقودة — خاصة عندما تبقى تفسيرات متعددة للتبديل محتملة ومنطقية.
أكثر ما يقلق الباحثين هو اكتشافهم أن الضبط الدقيق للأدلة النافذة (windowed evidence fine-tuning) يحسن الأدلة المحتفظ بها من الناحية الإحصائية، لكنه في الوقت نفسه يؤدي إلى تدهور الكميات الديناميكية المهمة (QoIs) مقارنة بالنماذج المُدربة مسبقاً بالتدريب القسري. هذا يعني أن النموذج قد يبدو أفضل في الاختبارات الإحصائية ولكنه أسوأ في التقاط السلوك الديناميكي الحقيقي للنظام الفوضوي.
هذا الاكتشاف يضع علامة استفهام كبيرة أمام ممارسات التدريب الحالية في مجال نمذجة الأنظمة الديناميكية. فالتدريب القسري، رغم استقراره الواضح، قد يقود النماذج إلى تعلم تمثيلات لا تعكس الطبيعة الحقيقية للأنظمة الفوضوية التي تحاول محاكاتها.
الباحثون يؤكدون أن مطابقة الهندسة الاحتمالية بين مرحلة التدريب والتشغيل أمر بالغ الأهمية للحصول على نماذج موثوقة. وهم يدعون إلى تطوير طرق تدريب جديدة تحافظ على الاستقرار دون التضحية بالدقة الديناميكية — تحد رياضي معقد يتطلب إعادة تفكير جذرية في كيفية تدريب الذكاء الاصطناعي على الأنظمة المعقدة.
النتيجة النهائية: النجاح في التدريب لا يعني بالضرورة نجاحاً في النمذجة، والاستقرار الرياضي قد يأتي على حساب الحقيقة الفيزيائية.
