من تحقيق بدأ عام 2024 إلى إشعار في محكمة الإفلاس: 40 مدعياً عاماً يشترطون حماية الأطفال وحق الحذف على أي مشترٍ.
ضمن ملف: نماذج الذكاء الاصطناعي
بقلم: ليلى | محررة أدوات المطورين · صوت تحريري بإشراف بشري
المصدر الأساسي: The Verge
لماذا يهم
مستخدمو Character.AI، وخصوصاً القاصرين، قد تنتقل محادثاتهم الحساسة إلى مالك جديد. وقرار المحكمة قد يحدد كيف تُعامل بيانات المستخدمين في أي إفلاس مستقبلي لشركات الذكاء الاصطناعي.
محادثات خاصة أجراها أطفال ومراهقون مع شخصيات افتراضية قد تنتقل الآن إلى مالك جديد ضمن إجراءات إفلاس. هذا ما تحاول منعه المدعية العامة لولاية نيويورك Letitia James، التي كشفت عن تحقيق متعدد الولايات استمر سنوات ضد Character.AI. وتطالب James اليوم بفرض حماية على بيانات المستهلكين التي قد تُباع ضمن إجراءات إفلاس الشركة، بحسب The Verge.
وتقف James ضمن 40 مدعياً عاماً من الحزبين (وفقاً لـ The Verge)، قدّموا إشعار اهتمام في قضية إفلاس الشركة. والهدف المعلن من الإشعار، بحسب البيان الصحفي لمكتب المدعية العامة في نيويورك، هو “تنبيه جميع الأطراف إلى القضايا التنظيمية التي يجب معالجتها في أي بيع أو نقل لأعمال المدين أو أصوله”. ويأتي التحرك بعد أن أعلنت Character.AI يوم الثلاثاء تقدمها بطلب حماية بموجب الفصل 11 من قانون الإفلاس الأمريكي (وفقاً لـ The Verge)، مع بيع بعض أصولها لشركة Disney. ولم تحدد المصادر المتاحة طبيعة الأصول المشمولة بالصفقة، ولا ما إذا كانت سجلات محادثات المستخدمين جزءاً منها.
ويحذّر المدعون العامون من مخاطر جدية في نقل هذه التقنية، ويستندون في ذلك إلى ثلاثة أسباب، بحسب The Verge. الأول هو “الطبيعة الحساسة للغاية للمحادثات” التي يجريها كثير من المستخدمين مع شخصيات المنصة. والثاني هو العدد الكبير من القاصرين الذين يستخدمون المنتج. والثالث هو المخاطر الجدية التي تطرحها ميزات بعينها في المنتج.
وكشف الإشعار أيضاً أن عدة ولايات كانت في منتصف تحقيقاتها حين أعلنت الشركة إفلاسها. وتقول الولايات إنها فتحت تحقيقاً في مخاوف تتعلق بحماية المستهلك والخصوصية عام 2024 (وفقاً لـ The Verge). وجاء ذلك عقب دعوى رفعتها والدة فتى في الرابعة عشرة من عمره (وفقاً لـ The Verge)، توفي منتحراً، بحسب ما تزعمه الدعوى، بعد “ثوانٍ” من حديثه مع روبوت المحادثة.
أما ما توصلت إليه التحقيقات فيصفه مكتب James بلغة حادة. فبحسب البيان الصحفي، كشفت التحقيقات “مخاطر بالغة الخطورة وسلوكاً قد يكون مخالفاً للقانون” من جانب Character.AI، خصوصاً في تعاملها مع الأطفال. ويعدد البيان روبوتات محادثة تنتحل صفة مختصين مرخّصين، وتعريض المستخدمين لمحتوى جنسي وعنيف، وضعف أنظمة التحقق من العمر، وادعاءات أمان مضللة، ومخالفات محتملة لقوانين الخصوصية في الولايات. ومن المهم التمييز هنا بين أمرين: هذه استنتاجات جهة تحقيق وطرف في القضية، وليست أحكاماً قضائية، ولم يتسنَّ التحقق منها بشكل مستقل. وكانت الولايات تعمل مع الشركة على معالجة هذه القضايا، لكنها لم تصل إلى اتفاق قبل إعلان الإفلاس. ولم ترد Character.AI ولا Disney فوراً على طلبات التعليق، بحسب The Verge.
وتطالب الولايات القاضي بإلزام مشتري الأصول بتطبيق إجراءات تحمي المعلومات الحساسة التي جمعتها الشركة. وتشمل هذه الإجراءات، بحسب The Verge، أنظمة فعالة للتحقق من العمر، وقيوداً على طريقة تفاعل القاصرين مع روبوتات المحادثة، وتطبيق “ضمانات للتعامل مع الأزمات”، وتمكين المستخدمين من حذف بياناتهم. وقالت James في بيانها: “جمعت هذه الشركة بعضاً من أكثر الأفكار خصوصية شاركها أطفال على الإطلاق، والآن قد تُباع هذه المحادثات لمن يدفع أكثر. أنا أقاتل لضمان أن يضع أي مشترٍ سلامة الأطفال أولاً وأن يطبق حماية حقيقية”.
جوهر القضية لا يتعلق بشركة متعثرة بقدر ما يتعلق بسؤال لم تحسمه صناعة الذكاء الاصطناعي بعد: من يملك ما قلته لروبوت محادثة حين تختفي الشركة التي وعدتك بالخصوصية؟ في منصات الرفقة الافتراضية، لا تقتصر البيانات على سجل نقرات أو تفضيلات تسوّق. إنها اعترافات ومخاوف ونقاشات يجريها مراهقون مع شخصيات صُممت لتبدو قريبة منهم. وقد سبق أن رصدنا هذا التوتر في تقييم Common Sense لنسخة ChatGPT الموجهة للمراهقين. لكن الإفلاس يضيف طبقة أخطر، لأن البيانات تتحول فيه من التزام إلى أصل قابل للبيع.
في تقديرنا، موقف المدعين العامين هو الحد الأدنى المقبول وليس مبالغة تنظيمية. فالإفلاس لا يجوز أن يتحول إلى ممر خلفي يتخلص عبره المشتري من التزامات الخصوصية التي لم تُحسم مع البائع. والأولى أن يُمنح المستخدمون حق حذف بياناتهم قبل انتقالها إلى أي طرف جديد، لا بعده. أما Disney، إن ثبت أن البيانات ضمن ما تشتريه، فستواجه اختباراً حقيقياً لعلامة تجارية بنت سمعتها على جمهور الأطفال تحديداً. وما سيقرره القاضي هنا قد يصبح سابقة لكل شركة ذكاء اصطناعي استهلاكية تتعثر في السنوات المقبلة.
المصادر
