بقلم: ليلى | محررة أدوات المطورين · صوت تحريري بإشراف بشري
بدءاً من هذا العام، تصبح كل صورة يحاول مستخدم كوري رفعها على منتدى أو منصة تواصل اجتماعي محلية خاضعة لفحص الذكاء الاصطناعي قبل الموافقة على نشرها. هذا ما تفرضه تعديلات قانون الاتصالات الإلكترونية المعروف بـ”قانون منع غرف ن” الذي دخل حيز التنفيذ عام 2021 واستهدف في البداية منع انتشار مقاطع الاستغلال الجنسي.
القانون الكوري يشمل الآن جميع منصات الإنترنت المحلية – من شبكات التواصل الاجتماعي إلى تطبيقات المراسلة والمجتمعات الرقمية والمنتديات. كل منصة مُلزمة بتطوير أنظمة ذكاء اصطناعي متطورة لتحليل كل صورة ومقطع فيديو، والبحث عن علامات المحتوى الإجرامي أو غير القانوني قبل إتاحة المحتوى للمستخدمين الآخرين.
المؤيدون للقانون – وهم أساساً من أهالي ضحايا فضائح “غرف ن” التي هزت كوريا – يجادلون بأن الحماية الاستباقية ضرورية لمنع تكرار تلك الجرائم. فضائح “غرف ن” كشفت عن شبكات واسعة لاستغلال النساء والقصر عبر غرف دردشة مشفرة في تطبيق تيليغرام، مما دفع المجتمع الكوري للمطالبة بإجراءات صارمة. هؤلاء يرون أن التكنولوجيا الحديثة توفر أدوات فعالة لحماية الضحايا المحتملين قبل وقوع الأذى.
لكن المعارضين – وهم خبراء تقنيون وناشطو حقوق رقمية وحتى بعض مطوري المنصات – يحذرون من عواقب أخطر. أنظمة الذكاء الاصطناعي المتاحة حالياً تعاني من معدلات خطأ مرتفعة في تحديد المحتوى، خاصة عندما يتعلق الأمر بالسياق الثقافي أو الفني. صورة تاريخية لحرب كوريا قد تُحذف لاحتوائها على عنف، ولوحة فنية عارية قد تُصنف كمحتوى جنسي، ومظاهرة سياسية قد تُؤخر لساعات بحجة “مراجعة أمنية”.
التحدي الأكبر يكمن في التكلفة والتعقيد التقني. تطوير نظام ذكاء اصطناعي قادر على تمييز المحتوى الإجرامي بدقة مقبولة يتطلب استثماراً ضخماً في البيانات والحوسبة والخبرات المتخصصة. المنتديات الصغيرة والمتوسطة – التي تشكل جزءاً كبيراً من النسيج الرقمي الكوري – قد تجد نفسها مضطرة للإغلاق أو الاعتماد على أنظمة رقابة مفرطة التشدد تقضي على التفاعل الطبيعي.
هناك سؤال آخر لا يقل أهمية: من يحدد معايير “المحتوى الضار”؟ الخوارزميات التي ستفحص الصور ستُدرب على بيانات يختارها مطورون بشريون، وهؤلاء المطورون سيحملون حتماً تحيزاتهم الثقافية والسياسية. محتوى قد يراه البعض فناً تعبيرياً مشروعاً قد يصنفه آخرون كمحتوى مثير للجدل يستحق المنع.
النتائج المبكرة لتطبيق القانون ستحدد الكثير. إذا نجحت كوريا في تحقيق توازن معقول بين الحماية وحرية التعبير، فقد نشهد موجة عالمية من قوانين مشابهة في دول تواجه تحديات الجرائم الرقمية. الصين وسنغافورة وحتى بعض الدول الأوروبية تراقب التجربة الكورية بعناية. لكن إذا أدى القانون إلى تقييد مفرط للحريات الرقمية أو إلى انهيار المنصات المحلية، فقد يصبح مثالاً سلبياً يُحتج به ضد الرقابة الذكية.
الحقيقة أن كوريا الجنوبية تخوض الآن أخطر تجربة في تاريخ الإنترنت الآسيوي. محاولة استخدام الذكاء الاصطناعي كحارس أخلاقي شامل للمحتوى المرئي تطرح أسئلة فلسفية عميقة حول طبيعة الحرية والأمان في العصر الرقمي. السؤال ليس فقط “هل يمكن للآلة أن تحمي الإنسان من نفسه؟”، بل “هل ينبغي لها ذلك أساساً؟”
