بقلم: نور | محررة الأبحاث والدراسات · صوت تحريري بإشراف بشري
مشكلة معروفة في عالم تقطير نماذج اللغة: حين يخطئ النموذج الصغير في الاستدلال مبكراً، يبني كل ما يليه على هذا الخطأ، فينتهي المعلّم إلى توليد إشارات تدريبية مضللة على مسار خاطئ بالكامل. باحثون من جامعة ووهان وعدد من المؤسسات الصينية قدّموا Relay On-Policy Distillation (Relay-OPD) لتجاوز هذه المعضلة بأسلوب يشبه تمرير العصا في سباق التتابع: المعلّم يتدخل لفترة قصيرة عند نقاط الانحراف، ثم يُعيد القيادة للنموذج الطالب.
التقطير القائم على السياسة الذاتية (On-Policy Distillation) كان الإطار السائد لتدريب النماذج الصغيرة، إذ يُبنى فيه الإشراف على مسارات التوليد الخاصة بالنموذج الطالب نفسه لا على مسارات المعلّم. الإشكالية التي وثّقها الفريق تُسمى prefix failure: حين ينتهج الطالب اتجاهاً خاطئاً في الاستدلال منذ البداية، تُصبح كل الرموز اللاحقة مبنيةً على هذا الانحراف، وهو ما يجعل المعلّم يولّد استمرارات مختلفة تماماً عن الطالب — لا لأنه أذكى فحسب، بل لأنه يحاول إصلاح مسار يرفضه الطالب أصلاً. يسمّي الباحثون هذا الفجوة teacher-student continuation asymmetry، وهي النقطة التي انطلقوا منها لبناء Relay-OPD.
الفكرة الجوهرية أن المعلّم لا يُعيد كتابة المسار كله، بل يتدخل عند نقطة الانحراف المكتشفة تلقائياً دون الحاجة لتصنيف يدوي، فيولّد ما يسمّيه الورقة البحثية “الجزء المعلّمي” (teacher leg)، ثم يُسلّم التوليد للطالب مجدداً ليكمل المسار ويُدرَّب عليه. هذا التصميم يُمكّن من تحديد ميزانية تدخل محدودة تُركّز المساعدة على المواضع الحرجة المبكرة في المسار، مع الإبقاء على مسافة قريبة من سياسة الطالب الأصلية حتى لا يتحول التدريب إلى محاكاة للمعلّم. الأثر المباشر لهذا الأسلوب: انخفاض طول مسارات التدريب بأكثر من 50% (وفقاً للورقة البحثية)، مما يعني توفيراً حسابياً ملموساً قبل الحديث عن دقة النتائج.
الاختبارات أُجريت بمعلّم Qwen3-4B-Instruct-2507 وطالبَين بحجمَي Qwen3-0.6B وQwen3-1.7B من فئة Non-Thinking، على ثمانية معايير قياسية للاستدلال الرياضي. النتائج على نموذج 1.7B كانت الأوضح: تقدّم بـ+5.73% على التقطير القائم على السياسة الذاتية القياسي، وبـ+1.49% على أقوى خط أساس بديل وهو FastOPD (وفقاً للورقة البحثية). الأداء جاء ضمن أفضل نتيجتين أو الأفضل على كل معيار من الثمانية، مع مكاسب ثابتة أيضاً على الحجم الأصغر 0.6B — وهو ما يؤكد أن الأثر ليس مرتبطاً بحجم الطالب.
ما يجعل هذا البحث ذا قيمة عملية للمطورين هو أن آلية اكتشاف نقاط الانحراف لا تتطلب تصنيفاً يدوياً للمسارات الخاطئة، فهي مدفوعة بالتباين السلوكي بين المعلّم والطالب مباشرةً، مما يجعل تطبيقها على أزواج نماذج جديدة أمراً قابلاً للتكرار دون تكلفة إضافية في بناء البيانات. في المقابل، تبقى هناك قيود جديرة بالتأمل: الإطار اختُبر على مهام الاستدلال الرياضي تحديداً، وتعميمه على مهام لغوية أو معرفية مختلفة يستلزم تحققاً مستقلاً. كذلك فإن اختيار ميزانية التدخل المثلى ينطوي على توازن دقيق بين تصحيح المسار وعدم إبعاد الطالب عن سياسته — وهو توازن قد يختلف باختلاف المهمة أو الحجم.
يندرج Relay-OPD في سياق اهتمام متزايد بجعل النماذج الصغيرة أكثر قدرة باستدلال مُرشَّد، وهو رهان يكتسب أهمية خاصة مع ارتفاع تكاليف تشغيل النماذج الكبيرة على نطاق واسع. النموذج الذي يتعلم من أخطائه بدلاً من أن يُعيد تعلّم مسار المعلّم بالكامل يُقدّم وعداً حقيقياً — وهذه الورقة تُقدّم له حجةً كمية لا يمكن تجاهلها.
