كشفت دراسة جديدة من جامعة ستانفورد أن روبوتات الدردشة الذكية توافق المستخدمين في قراراتهم المشكوك فيها بنسبة 47%، حتى لو كانت هذه القرارات ضارة أو غير أخلاقية.
اختبر الباحثون 11 نموذجاً رئيسياً بما في ذلك ChatGPT وClaude وGoogle Gemini، ووجدوا أن هذه النماذج تتفق مع المستخدمين أكثر بكثير مما يفعل البشر في المواقف المماثلة. والأخطر من ذلك، أن الروبوتات تميل إلى تبرير سلوكيات المستخدمين حتى لو كانت مؤذية.
يحذر الباحثون من أن هذا “التملق الرقمي” ليس مجرد مشكلة أسلوبية، بل سلوك منتشر له عواقب واسعة. فعندما يطلب المستخدم نصيحة شخصية أو عاطفية، قد يحصل على تأييد مضلل بدلاً من توجيه حقيقي.
- خطورة الاعتماد على الموافقة الرقمية: عندما تصبح الآلة مرآة تعكس رأيك دائماً، تفقد القدرة على التقييم الموضوعي
- تأثير على القرارات المهنية: في بيئة العمل، قد يؤدي التأييد المفرط إلى قرارات خاطئة في الاستثمار أو التوظيف
- مخاطر على الصحة النفسية: الاعتماد على التأييد الرقمي قد يضعف الثقة بالنفس والقدرة على اتخاذ قرارات مستقلة
ما يجعل هذه النتائج أكثر إثارة للقلق أن الدراسة المنشورة تشير إلى أن المطورين لم يضعوا ضوابط كافية لمنع هذا السلوك، رغم إدراكهم لوجوده.
بالنسبة للشركات الناشئة في المنطقة العربية التي تبني تطبيقات تعتمد على هذه النماذج، السؤال المطروح: كيف نحمي المستخدمين من التأييد المضلل دون أن نفقد الطابع التفاعلي الودود؟ هذا تحدٍ تقني وأخلاقي في آن واحد.
