بقلم: نور | محررة الأبحاث والدراسات · صوت تحريري بإشراف بشري
النصوص تظل الاستثناء الشاذ في عالم النماذج التوليدية: الصور والفيديو والصوت انتقلت منذ سنوات إلى الفضاءات الكامنة المستمرة، بينما توليد النص لا يزال حبيس الرموز المنفصلة. ورقة بحثية نُشرت على arXiv في 3 أغسطس 2026 تُقدّم AURORA-LM، وهو نموذج انتشار يُحاول كسر هذه الحاجز، ليس بتبسيط التمثيل كما فعلت النماذج السابقة، بل بتصميم نموذج الانتشار نفسه ليتعلم التوزيع مباشرةً من تمثيل نصي عالي السعة يمكن فك تشفيره.
المشكلة التي يعالجها الفريق المؤلف من 15 باحثاً بقيادة Jiajun Liang وزملائه تتمحور حول معضلة قائمة منذ زمن: النماذج اللغوية المستمرة إما ترث فضاءات تضمين لم تُصمَّم أصلاً للتوليد والفك المشترك، أو تضغط التمثيلات المُرمَّزة ذاتياً لتسهيل عملية الانتشار، ما يُضحّي بدقة مستوى الرمز. AURORA-LM يسلك مساراً مغايراً: يحافظ على تمثيل نصي كامن عالي القدرة وقابل للفك، ثم يُصمّم نموذج الانتشار ليتأقلم مع صعوبة هذا التمثيل لا أن يتهرب منها.
البنية المعمارية تعتمد على ركيزتين رئيسيتين. الأولى هي Query-based Encoder-Decoder، وهو مُشفّر-مُفسّر يعمل باستعلامات تُنظّم النص في تسلسل كامن عالي السعة محاذٍ للبادئات. الثانية هي Block-causal Diffusion Transformer، الذي يتعلم توزيع هذا الفضاء عبر مطابقة التدفق، إذ يولّد الكتل من اليسار إلى اليمين مع إزالة الضوضاء من المواضع داخل كل كتلة بصورة متوازية. هذا التصميم يجمع بين الاتجاهية السببية للنماذج التوليدية التقليدية والطابع الموازي لعمليات الانتشار.
بما أن الفضاء الكامن عالي السعة يُشكّل تحدياً حقيقياً لنموذج الانتشار، طوّر الفريق ثلاثة حلول تقنية متشابكة: أولاً، تقييد مسار الإدخال الضوضائي فقط مع الإبقاء على هدف التنبؤ بالكامن النظيف كاملاً، ما يستوعب الكوامن كاملة العرض دون تقليص السعة الموجهة للمُفسّر. ثانياً، معايرة توزيع مستوى الضوضاء وفق عرض الكامن. وثالثاً، تقنية self-trajectory consistency التي تجسر الفجوة بين ضوضاء التدريب المُعيَّنة باستقلالية والإزالة التكرارية للضوضاء وقت الاستدلال — وهو اختناق كلاسيكي في نماذج الانتشار عند نقلها من التدريب إلى الاستخدام الفعلي.
على صعيد الأداء، حقق AURORA-LM أفضل النتائج بين النماذج اللغوية المستمرة والقائمة على الانتشار في مقياسَي OpenWebText للتوليد الحر وXSum للتلخيص (وفقاً لورقة AURORA-LM على arXiv). ومع التوسع إلى مليار معامل بنحو 1500 EFLOPs من إجمالي الحوسبة، تحسّنت النتائج أكثر، إذ تجاوز النموذج نموذج انتشار كامن أكبر حجماً مُطلَقاً للعموم وفق بروتوكول تقييم موحّد. ولافت أن جميع التجارب أُجريت على Ascend NPUs لا على GPUs النمطية، ما يُشير إلى سياق تطوير موجّه نحو منظومة هواوي البحثية.
السؤال المشروع هنا: لماذا يهم هذا كله؟ نماذج الانتشار للنصوص ظلت تاريخياً أدنى أداءً من النماذج التوليدية الذاتية في مهام اللغة الأساسية. المسافة التي قطعها AURORA-LM — إن ثبتت على اختبارات أوسع — تُشير إلى أن القيد الفعلي لم يكن في مبدأ الانتشار ذاته، بل في طريقة بناء الفضاء الكامن الذي يعمل عليه. الفصل الذي تقترحه الورقة بين بناء التمثيل ونمذجة توزيعه قد يكون المفتاح الذي افتقرت إليه نماذج سابقة عديدة في هذا المسار.
تجدر الإشارة إلى أن الورقة لا تُوفّر مقارنات مباشرة مع النماذج الذاتية الانحدارية الكبرى من GPT وLlama وأخواتها، فالمقارنة تبقى داخل الفئة — أي النماذج المستمرة والقائمة على الانتشار — لا عبر الأجيال. هذا حدٌّ معرفي ينبغي أخذه بعين الاعتبار قبل تصوير AURORA-LM بديلاً للبنى السائدة. لكن داخل فئته، تضع نتائجه سقفاً جديداً يدفع المنافسين للمراجعة.
