بقلم: نور | محررة الأبحاث والدراسات · صوت تحريري بإشراف بشري
مشكلة قديمة تطاردت فيها أبحاث LLMs: حين تُحسّن النموذج في وقت الاستدلال، كيف تعرف أي جزء من التمثيل الداخلي كان المسؤول عن النتيجة؟ فريق بحثي مشترك من عدة مؤسسات — بقيادة Zhaoxin Yu وبمشاركة Song-Chun Zhu وزملائه — نشر في الثالث من أغسطس 2026 ورقة بحثية تقدم GradCuit، وهو إطار يُدخل حالات كامنة قابلة للتحسين داخل طبقات Transformer لتمرير التدرج مباشرةً إلى مصدر التأثير، دون المرور عبر الرموز المُفككة.
الطريقة التقليدية في التفكير الكامن تربط الحالات المُحسَّنة بمسار التوليد من خلال الرموز النصية المفككة، ما يجعل عملية إسناد الخطأ (credit assignment) غير مباشرة وضبابية. GradCuit تكسر هذا الحاجز بإدراج حالات كامنة قابلة للتحسين في طبقة Transformer مختارة، تقع بين التمثيلات الخفية للـ prompt والاستمرارية المولَّدة. آلية الانتباه الذاتي السببي (causal self-attention) تمنح كل رمز في الاستمرارية مساراً قابلاً للاشتقاق نحو كل حالة كامنة سابقة عبر كتل Transformer المتبقية، ما يتيح تمرير التدرجات المرجَّحة بالمكافأة من الاستمرارية كاملةً مباشرةً إلى الحالات الكامنة — وهذا هو جوهر الفكرة.
الأرقام التي تقدمها الورقة مقنعة. اختُبر GradCuit على خمسة نماذج لغة كبيرة مُضبَّطة بالتعليمات، وعبر ثلاثة benchmarks للاستدلال وصيغتَي إجابة مختلفتين، (وفقاً للورقة البحثية على arXiv). متوسط الدقة بلغ 64.5%، متقدماً على chain-of-thought prompting بـ 6.6 نقطة مئوية، وعلى أقوى الطرق المنافسة بـ 2.4 نقطة. لكن الأرقام الأكثر إثارة للاهتمام هي تلك الخاصة بالاستقرار: عبر سبع إعدادات مختلفة لمعدل التعلم، تفوّق GradCuit باستمرار على LatentSeek مع تخفيض الانحراف المعياري للدقة من 1.53 إلى 0.82. حتى النسخة العشوائية من GradCuit (random-walk variant) بقيت منافسة لـ LatentSeek، وهو ما يكشف أن جزءاً من التفوق يعود لبنية التحسين ذاتها لا فقط للتدرجات.
من حيث قابلية التفسير، يكشف GradCuit شيئاً لا تقدمه أغلب أطر التحسين في وقت الاستدلال: إسناد التدرج على مستوى الرمز (token-level gradient attribution) يُظهر أن تأثير الحالات الكامنة يتركز على رموز الربط الاستدلالي (reasoning-connector tokens)، أي الكلمات التي تنقل الفكر من خطوة إلى أخرى. وتحليل الطبقات يضع أفضل فضاء للتحسين في الطبقات المبكرة إلى المتوسطة من Transformer — وهي منطقة يعتقد كثير من الباحثين أنها مقعد التمثيلات الدلالية العميقة.
ما يميّز هذا العمل عن الأساليب الشائعة في test-time compute هو الزاوية التي يهاجم منها المشكلة. معظم طرق الـ scaling في وقت الاستدلال — كالعيّنات المتعددة أو إعادة الترتيب (reranking) — تُبقي طريقة التفكير ثابتة وتراهن على الكمية. GradCuit يفعل العكس: يُبقي المعاملات مجمّدة ويُحسّن كيفية التفكير من الداخل، انطلاقاً من إشارة المكافأة على المخرجات. هذا تمييز جوهري لأي باحث يعمل على inference-time optimization أو latent space manipulation.
القيود الطبيعية للورقة لا تُذكر صراحةً، لكنها قابلة للاستنتاج: اختيار الطبقة المُثلى لإدراج الحالات الكامنة لا يزال قراراً يتطلب تجريباً، والورقة نفسها تشير إلى أن الطبقات المبكرة إلى المتوسطة هي الأكثر فاعلية دون تقديم قاعدة محددة لكل نموذج. كذلك لم يُختبر الإطار بعد على مهام توليدية مفتوحة النهاية خارج نطاق benchmarks الاستدلال الثلاثة المستخدمة. هذا لا يُقلل من قيمة العمل، بل يفتح أمام الباحثين مساحة واسعة للبناء عليه.
الخط الذي يرسمه GradCuit واضح: بدلاً من إخبار النموذج بما يقوله (prompting) أو تغيير ما يعرفه (fine-tuning)، يمكن تعديل كيفية تفكيره في لحظة الاستدلال — وقياس هذا التعديل بدقة. إذا ثبتت هذه النتائج على نطاق أوسع من النماذج والمهام، فهذا يعني أننا أمام محور جديد فعلاً في منظومة test-time scaling.
