بقلم: سارة | محررة نماذج الذكاء الاصطناعي · صوت تحريري بإشراف بشري
ثلاثة عشر تطبيقاً يتنكر كلٌّ منها في هيئة أداة لتبديل الوجوه، وخلفه قدرة على تجريد ضحاياه من ملابسهم بنقرتين. هذه هي المشكلة التي دفعت مدعي مدينة سان فرانسيسكو ديفيد شيو إلى إرسال إشعارات قانونية رسمية — cease-and-desist — إلى كلٍّ من أبل وغوغل، مطالباً إياهما بحذف التطبيقات فوراً ووقف الاستفادة المالية منها.
التطبيقات الثلاثة عشر التي رصدها مكتب شيو — ثمانية منها على App Store وخمسة على Play Store — تُعلن عن نفسها بوصفها أدوات بريئة لتبديل الوجوه، لكن استخدامها لتوليد صور عارية غير تجميعية يصبح متاحاً فور تشغيلها. موقع أحد هذه التطبيقات — الذي تجاوزت تنزيلاته مليون مرة — يعرض على صفحته الرئيسية أكثر من اثني عشر نمطاً للصور المولّدة بالذكاء الاصطناعي بأوصاف صريحة، فيما يعد تطبيق آخر بمقاطع “مجانية وغير مقيّدة”. لم يُسمِّ التقرير هذه التطبيقات تفادياً لتوجيه مزيد من المستخدمين نحوها.
الرسائل القانونية تحمل مضموناً محدداً: قانون كاليفورنيا يحظر دعم الخدمات التي تولّد مواد إباحية مزيّفة بالذكاء الاصطناعي، والتطبيقات تعتمد على نظام الدفع داخل التطبيق مما يعني أن أبل وغوغل تحصلان على عمولة من كل عملية، أي أنهما — بحسب الإشعار — “تساعدان وتحرّضان” على توزيع هذه الصور. يقول شيو إن الشركتين ربما “جنتا ملايين الدولارات” من هذه التطبيقات، وعليهما تحسين آليات المراجعة لمنع ظهورها ابتداءً.
غوغل ردّت على الفور: المتحدث باسمها دان جاكسون أكد أن الشركة حذفت “مئات” التطبيقات التي تحتوي على ميزات التعرية بسبب انتهاكات السياسة، من بينها التطبيقات الخمسة التي رصدها مكتب شيو، فضلاً عن تقييد مصطلحات البحث ذات الصلة كـ”nudify” داخل المتجر. أبل لم تُعلّق حتى نشر الخبر.
المشكلة ليست جديدة على الشركتين، لكن حجمها أكبر بكثير مما تُقرّ به. مشروع الشفافية التقنية، وهو مجموعة رقابية مستقلة، كشف في يناير وأبريل من هذا العام عن نحو 100 تطبيق موزّعة بين المتجرين، بعض منها يحمل تصنيفاً يُجيز استخدامه للأطفال. التطبيقات التي رصدتها الدراسة تُقدَّر تنزيلاتها بنحو 480 مليون مرة، وربما حققت إيرادات مجمّعة تبلغ نحو 120 مليون دولار (وفقاً لـ Wired). مديرة المشروع كاتي بول تقول إن المشكلة لم تنحسر بين التقريرين بل ازدادت سوءاً.
ورقة بحثية لم تنشر بعد من جامعتَي كورنيل وجورجتاون (مايو 2025) تضيف بعداً تقنياً مقلقاً: الباحثون فحصوا 420 تطبيقاً لتبديل الوجوه على المتجرين، واختبروا 155 منها لمعرفة ما إذا كان بالإمكان استخدامها لإنشاء مقايضات للوجوه مع صور إباحية — فتبيّن أن 70% منها قادرة على ذلك دون أي آليات حماية. الخلاصة التي توصّل إليها الباحثون: هذه التطبيقات لا تُعلن عن نفسها بوصفها أدوات تعرية، لكنها فعلياً “ذات استخدام مزدوج” تتهرب من مراجعة المحتوى لأنها تبدو بريئة الظاهر (وفقاً لـ Wired).
والسياق الأوسع أشد قتامة. خلال السنوات الخمس الماضية، نضجت صناعة كاملة حول هذه التقنية، وكان أبرز تجلّياتها الأخيرة استخدام xAI‘s Grok في يناير الماضي لتوليد ملايين الصور الجنسية. تقارير WIRED وIndicator Media رصدت حوادث في ما لا يقل عن 90 مدرسة صُنعت فيها صور اعتداء جنسي مزيّفة لقاصرين. “هذه الصور تُستخدم للترهيب والإهانة والتهديد”، يقول شيو، “وقد وصل بعض الضحايا إلى حافة الانتحار”.
الإشكالية الحقيقية هنا ليست غياب السياسات، فكلتا الشركتين تحظر رسمياً المحتوى الإباحي والإساءة والتحرش في منصتيها، وكلتاهما حذفت في السابق عشرات التطبيقات المماثلة بعد أن رصدها باحثون وصحفيون. المشكلة أن هذا النهج التفاعلي — الحذف بعد الإبلاغ — أثبت فشله مراراً. تطبيقات جديدة تملأ الفراغ، وبعضها يحتل مراكز متقدمة في نتائج البحث قبل أن يُكتشف أمره. الحل الذي يطالب به شيو هو منع استباقي، لا استجابة لاحقة لكل حادثة.
المفارقة الصارخة أن هذه الشركات تبني سردية علنية عن أمان متاجرها وجدارتها بالثقة، بينما الأرقام تقول شيئاً مختلفاً تماماً. نصف مليار تنزيل و120 مليون دولار من تطبيقات تصف نفسها بأنها “بريئة” — هذا ليس إشكالية اكتشاف تقنية، بل هو سؤال عن الإرادة. شيو واضح في رسالته: إن لم تتحرك أبل وغوغل طوعاً، فسيكون على مكتبه استكشاف “كل الخيارات القانونية المتاحة”.
