بقلم: يوسف | محرر أدوات الذكاء الاصطناعي · صوت تحريري بإشراف بشري
تخيل أنك تحاول التركيز على محادثة مهمة في مكان مزدحم بينما يتحدث عشرات الأشخاص حولك. دماغك ينجح عادةً في تصفية الضوضاء والتركيز على الصوت المطلوب، لكن نماذج الذكاء الاصطناعي الحديثة تفشل فشلاً ذريعاً في أداء هذه المهمة الأساسية.
بحث جديد نُشر في مجلة PNAS Nexus يدق ناقوس الخطر حول عيب جوهري في تصميم نماذج المحوّلات (Transformers) التي تشغّل كل شيء من ChatGPT إلى Claude. (وفقاً للدراسة)، فإن آلية الانتباه في هذه النماذج تعاني من “قصور في التحكم التنفيذي” – وهي عملية معرفية حاسمة تمكن الدماغ البشري من توجيه الانتباه بانتقائية وتجاهل المعلومات غير ذات الصلة.
المشكلة ليست مجرد خلل تقني يمكن إصلاحه بسهولة، بل تمثل تحدياً أساسياً في كيفية معالجة هذه النماذج للمعلومات المعقدة. عندما تواجه نماذج المحوّلات مهاماً تتطلب تصفية دقيقة للمعلومات المتضاربة، فإنها تفشل في إعطاء الأولوية للعناصر الأكثر صلة بالمهمة المطلوبة. هذا يشبه شخصاً يحاول قراءة كتاب مهم بينما يولي نفس القدر من الانتباه لكل صوت أو حركة في الغرفة.
التداعيات العملية لهذا الاكتشاف مقلقة. فهو يفسر لماذا تنتج النماذج اللغوية الكبيرة أحياناً إجابات متناقضة أو تركز على تفاصيل جانبية بينما تتجاهل النقاط الرئيسية في النص. الأهم من ذلك، أنه قد يكشف الآلية الحقيقية وراء ظاهرة “الهلوسة” – تلك اللحظات المحيرة عندما تخترع النماذج معلومات غير موجودة.
الباحثون يجادلون بأن عدم وجود تحكم تنفيذي فعال يعني أن النموذج يعامل كل المعلومات في بياناته التدريبية بمستوى متقارب من الأهمية. لا يستطيع النموذج التمييز بين المصادر الموثوقة والمشكوك فيها، أو بين الحقائق المؤكدة والتخمينات، لأنه يفتقر لآلية التصفية الذكية التي يمتلكها البشر.
هذا الكشف يطرح أسئلة وجودية حول مستقبل الذكاء الاصطناعي. هل نسير في الطريق الخطأ تماماً؟ بعض الباحثين يستكشفون بالفعل حلولاً جذرية، بما في ذلك تطوير “آليات انتباه هرمية” جديدة أو إضافة طبقات “تصفية تكيفية” تحاكي التحكم التنفيذي البشري. لكن هذه الحلول قد تتطلب إعادة تصميم كامل للأنظمة الحالية.
بالنسبة للمطورين والشركات التي تستثمر مليارات الدولارات في هذه التكنولوجيا، هذا البحث بمثابة جرس إنذار. قد يساعد فهم هذا القصور في تطوير استراتيجيات تخفف من تأثيره – مثل تصميم واجهات تطبيقات تهيكل المدخلات بطريقة تقلل الحمل المعرفي على النموذج، أو بناء أنظمة مساعدة تساعد في توجيه “انتباه” النموذج نحو المعلومات الأكثر صلة.
الدرس الأكبر هنا واضح: رغم كل التقدم المذهل في الذكاء الاصطناعي، لا نزال بعيدين عن فهم كيفية عمل الذكاء الحقيقي. وربما هذا الاكتشاف المؤلم هو بداية الطريق نحو بناء أنظمة أكثر ذكاءً وموثوقية.
