بعد أن كانت القوانين تكتفي بالإفصاح، باتت نيويورك تحدد ما يقوله الروبوت للطفل، وتلوّح بغرامة 25 ألف دولار وإتلاف النماذج المخالفة.
ضمن ملف: نماذج الذكاء الاصطناعي
بقلم: سارة | محررة نماذج الذكاء الاصطناعي · صوت تحريري بإشراف بشري
المصدر الأساسي: The Neuron
لماذا يهم
كل شركة تقدم روبوت محادثة يمكن أن يصل إليه قاصر في نيويورك عليها مراجعة سلوك منتجها وآلية التحقق من العمر، لأن المستخدم يُعامل كقاصر ما لم يثبت بلوغه.
صار لدى ولاية نيويورك جواب قانوني على سؤال ظل معلقاً: ماذا يُسمح لروبوت المحادثة أن يقول لطفل؟ وقّعت الحاكمة كاثي هوكول القانون في 28 أكتوبر (وفقاً لـ The Neuron). والفرق الجوهري أنه ينظّم سلوك الروبوت نفسه، ولا يكتفي بما تفصح عنه الشركات في صفحات الشروط. تنبيه للقارئ: كل ما يلي منقول بحسب مصدر وحيد هو نشرة The Neuron، ولم يتوفر لنا مصدر مستقل كنص القانون المنشور أو بيان مكتب الحاكمة الأصلي، فلم يتسنَّ التحقق من التفاصيل بشكل مستقل.
تبدأ القائمة بما يمس جوهر تصميم كثير من تطبيقات الرفقة الرقمية. بحسب نشرة The Neuron، لا يجوز للشركات أن تتيح لمن هم دون 18 عاماً روبوتاً يتظاهر بأنه شخص حقيقي، أو بأنه كائن حي، أو بأن لديه مشاعر بشرية. ويُحظر عليه أن يدّعي علاقة شخصية أو عاطفية أو مهنية بالطفل، أو أن يقدّم نفسه بوصفه شخصية ذات سلطة. ويُمنع كذلك من طرح أسئلة عاطفية لم يطلبها الطفل، ومن استرجاع معلومات خاصة شاركها الطفل في محادثات سابقة. ويحظر القانون الترويج للانتحار أو إيذاء النفس أو اضطرابات الأكل أو تعاطي المخدرات والكحول، ويحظر أي مساعدة عليها. ويمنع تشجيع الأطفال على كتمان الأسرار أو تجنّب طلب المساعدة من البالغين الموثوقين، ويمنع أيضاً المحتوى الجنسي الصريح.
أهم ما في القانون يتجاوز حسابات الأطفال. فبحسب النشرة نفسها، تنطبق هذه القيود على أي مستخدم ما لم تتأكد الشركة من أنه بالغ. معنى ذلك أن الوضع الافتراضي هو معاملة المستخدم كقاصر، وأن عبء الإثبات يقع على الشركة. ويلزم القانون الشركات بتقديم أكثر من وسيلة للتحقق من العمر، على أن تكون إحداها على الأقل غير معتمدة حصراً على الهوية الحكومية، ويلزمها بحذف بيانات العمر بعد استخدامها. وبهذا يصبح التحقق من العمر قراراً في تصميم المنتج، لا خانة في نموذج التسجيل.
أما الإنفاذ فهو ما يمنح القانون أسنانه. يحق للمدعي العام في الولاية المطالبة بغرامات مدنية تصل إلى 25,000 دولار لكل مخالفة (وفقاً لـ The Neuron)، إضافة إلى التعويضات، وإتلاف البيانات المجمّعة بطريقة غير مشروعة أو نماذج الذكاء الاصطناعي المدرّبة عليها. وتوضح النشرة نقطة تمنع التهويل: إتلاف النموذج إجراء يمكن للولاية أن تطلبه، وليس نتيجة تلقائية لأي مخالفة.
مرّ مشروع القانون، ورقمه S.9051B/A.10379C، في مجلس الولاية بالإجماع في يونيو (وفقاً لـ The Neuron)، لكن الإجماع داخل القاعة لم يُخفِ الانقسام خارجها. منظمة Common Sense Media وأنصار المشروع رأوا أن الأطفال يحتاجون إلى ضوابط مع ازدياد واقعية روبوتات المحادثة. واستشهد راعي المشروع أليكس بوريس بقضية آدم راين، وهو مراهق تقول عائلته إنه انتحر بعد تفاعلات مع ChatGPT، وهذا ادعاء من العائلة لم تفصل فيه أي محكمة بحسب ما ورد في المصدر. في المقابل، اعتبر مجلس الأعمال في ولاية نيويورك أن تعريف المشروع لروبوت المحادثة واسع أكثر من اللازم، وأنه قد يحرم القاصرين من أدوات مفيدة على الإنترنت.
يبقى موعد التطبيق غامضاً. فبحسب The Neuron، يقول مكتب الحاكمة إن هذه الخصائص ستُحجب “خلال الأشهر المقبلة”، بينما ذكر ملخص أخبار النشرة نفسها تاريخ 1 يناير 2027 (وفقاً لـ The Neuron). لم يُحدد الموعد النهائي بشكل قاطع بعد، فلا تبنِ خطة امتثال على تاريخ لم تتحقق منه بنفسك. ويأتي ذلك في ظل غياب قواعد فيدرالية مستقرة للذكاء الاصطناعي في الولايات المتحدة، ما يدفع الولايات إلى سن قوانينها الخاصة.
تقديرنا أن اعتراض مجلس الأعمال على اتساع التعريف اعتراض جدي، لكنه لا يصيب قلب القانون. فالممارسات المحظورة نفسها، مثل الادعاء بالمشاعر، وبناء علاقة عاطفية مع طفل، وتشجيعه على الكتمان، يصعب الدفاع عنها في أي منتج مسؤول. الاختبار الحقيقي سيكون في قاعدة “قاصر حتى يثبت العكس”، وفي طريقة تفسير المدعي العام لنطاق القانون، وفي ما إذا كانت ولايات أخرى ستنسخ صياغته. وإن كنت تدير منتجاً فيه روبوت محادثة يمكن أن يصل إليه قاصر، داخل نيويورك أو خارجها، فأمامك الآن قائمة ملموسة تراجع منتجك على أساسها. السؤال الأصعب فيها ليس ما يقوله الروبوت، بل كيف ستثبت أن من يحادثه بالغ دون أن تجمع بيانات تخالف بها القانون نفسه.
المصادر
- 😸 New York curbs AI chatbots for kids theneurondaily.com
