تواجه نماذج الذكاء الاصطناعي التي تصف الصور مشكلة جدية: اختلاق كائنات غير موجودة في الصور الأصلية. هذه “الهلوسة” تُهدد موثوقية التطبيقات الحرجة من التجارة الإلكترونية إلى الرعاية الصحية.
طور باحثون من رايحانة زهرابي وحسين حسني مع فريقهم من ست جامعات حلاً يُسمى HaloProbe – إطار عمل بايزي يحسب احتمالية كون كل كلمة في وصف الصورة حقيقية أم وهمية.
اكتشف الفريق خطأً جوهرياً في الطرق السابقة التي تعتمد على أوزان الانتباه. هذه الطرق تعاني من مفارقة سيمبسون: الاتجاهات الإحصائية تنعكس أو تختفي عند التجميع بسبب متغيرات خفية مثل موقع الكلمة في النص وتكرار ذكر الكائن.
## آلية عمل HaloProbe في 5 خطوات
- فصل الإحصائيات الخارجية: يحلل HaloProbe خصائص الوصف النصي منفصلة عن إشارات النموذج الداخلية لتجنب التضليل
- عزل الأدلة الداخلية: يستخدم تدريباً متوازناً لاستخراج إشارات حقيقية من عملية التوليد داخل النموذج
- حساب المعرفة المسبقة: يتعلم توزيعات احتمالية للخصائص الخارجية من بيانات التدريب
- دمج الإشارات: يجمع الأدلة الداخلية مع المعرفة المسبقة باستخدام نظرية بايز
- إنتاج درجات الثقة: يحسب احتمالية الهلوسة لكل كلمة على مستوى الرمز المميز token
الميزة الحاسمة لـ HaloProbe أنه يعمل خارجياً دون تعديل النموذج الأصلي. طرق التدخل التقليدية تُدمر سلاسة النص أو تُقلل فائدته العملية، بينما HaloProbe يحافظ على جودة المخرجات.
أثبتت التجارب تفوق التوليد المُوجه بـ HaloProbe على أحدث طرق التدخل المباشر في تقليل الهلوسة. النتائج تُظهر انخفاضاً ملحوظاً في الكائنات المختلقة مع الحفاظ على طلاقة النص ومعناه.
للمطورين العرب العاملين على تطبيقات الرؤية الحاسوبية في السعودية والإمارات ومصر، يفتح HaloProbe أبواباً جديدة لتحسين موثوقية الأوصاف التلقائية. التطبيقات تشمل منصات البيع الإلكتروني التي تحتاج وصفاً دقيقاً للمنتجات، وتطبيقات الذكاء الطبي التي لا تحتمل الأخطاء.
احذر من اعتماد أي نظام وصف تلقائي للصور دون آلية تحقق من الهلوسة – الثقة العمياء في مخرجات النماذج قد تكلفك سمعتك التجارية أو تُعرض مستخدميك لمعلومات مضللة.
