بقلم: ليلى | محررة أدوات المطورين · صوت تحريري بإشراف بشري
أكثر من 8,000 حساب أُوقف تعليقه على Discord خلال شهرين، لا بسبب محتوى مسيء، بل بسبب صور جداول بيانات ورقعات شطرنج وخامات ألعاب فيديو وخلفيات شفافة بيضاء ورمادية — هذا ما اعترفت به الشركة علناً في سابع يوليو 2026. الأزمة تضع إصبعها على واحدة من أكثر مسائل الذكاء الاصطناعي حساسيةً: ما الثمن الذي يدفعه المستخدمون العاديون حين تُخطئ أنظمة الإشراف الآلي؟
آلية عمل النظام مبنية على مطابقة البصمات البصرية: تُقارَن الصور المرفوعة بقواعد بيانات تضم مواد ضارة معروفة، وحين تُعطي هذه المطابقة نتيجة إيجابية — حتى لو كانت خاطئة — كان المفترض أن يتدخل مُشرف بشري من فريق الثقة والسلامة قبل اتخاذ أي إجراء. لكن ثغرة برمجية أفسدت هذه الآلية: فبدلاً من الانتظار للمراجعة البشرية، كان النظام يُنفّذ الحظر تلقائياً وفورياً (وفقاً لـ TechCrunch). ومن هنا وقع ما وقع: حظر دائم بناءً على قرار خوارزمي لم تُراجعه أي عين بشرية.
التفسير الذي تداوله المستخدمون على Reddit وX يبدو منطقياً تقنياً: الأنماط الشبكية والمربعات المتكررة استُخدمت في الماضي لإخفاء محتوى جنسي أو استغلال الأطفال عن أنظمة الكشف الآلي، فأصبح نموذج الإشراف حساساً بشكل مُفرط لأي تشابه بصري مع هذه الأنماط، حتى وصل الأمر إلى حظر رقعة شطرنج. المطوّر JDBryant، مدير ألعاب يعتمد Discord وسيلته الاتصالية الرئيسية، نشر تغريدة يشرح فيها كيف جرى حظر حسابه بسبب خامات لعبته — مثال واحد على آلاف المعطّلة (وفقاً لـ TechCrunch).
وفي نهاية الأسبوع الذي سبق الإعلان، أُضيف 200 مستخدم آخر إلى قائمة المحظورين قبل أن يتمكن فريق Discord من اكتشاف المشكلة وإيقافها (وفقاً لـ TechCrunch). الشركة أعلنت أن جميع الحسابات المتضررة في طور الاستعادة، وأنها تعمل على “ضمانات أفضل لمنع تكرار ذلك”. لكن هذه الجملة تطرح سؤالاً أصعب: كيف تضمن منصة يعتمدها الملايين يومياً — للعمل والألعاب والتواصل الاجتماعي عن بُعد — أن آلياتها الأمنية لن تتحول يوماً إلى سلاح بيد الخطأ؟
المفارقة أن Discord ليست استثناءً. في العام الماضي، شهد مستخدمو Instagram وFacebook Groups موجة تعليق جماعية للحسابات يُعزوها إلى أخطاء الإشراف الآلي، غير أن Meta لم تُقرّ علناً بدور الذكاء الاصطناعي في تلك الموجة. لجنة الرقابة التابعة لـ Meta تضغط الآن من أجل شفافية أكبر في هذا الملف. وبالمثل، واجهت Tumblr شكاوى مشابهة من مستخدمين وجدوا حساباتهم معلّقة دون تفسير واضح. النمط واحد: منصات ضخمة تتكئ على الأتمتة لتوفير التكاليف، وتدفع المستخدمون ثمن هشاشة هذه الأنظمة.
ما يجعل حادثة Discord بالغة الأثر هو الإقرار الصريح بالخطأ — وهو ما لم يحدث مع Meta. لكن الإقرار وحده لا يعيد الوقت الضائع لمستخدم جُمِّدت مجتمعاته وعلاقاته المهنية لأسابيع. المطالبة بمراجعة بشرية حقيقية قبل تنفيذ الحظر الدائم — لا بعده — ليست رفاهية تقنية، بل حد أدنى من العدالة الإجرائية يستحق أن يُقنَّن كمعيار عام لمنصات الإشراف الآلي.
