نحو 100 كتلة نصية مخفية أمرت روبوت Meta بعدم توجيهك إلى جهة رقابية أو تفسير GDPR، من صفحة حذف الحساب إلى صفحة الحظر.
ضمن ملف: نماذج الذكاء الاصطناعي، ميتا والذكاء الاصطناعي
بقلم: سارة | محررة نماذج الذكاء الاصطناعي · صوت تحريري بإشراف بشري
المصدر الأساسي: WIRED
لماذا يهم
مستخدمو واتساب الذين يراسلون الدعم الآلي قد لا يحصلون على إشارة إلى حقوقهم القانونية أو الجهات الرقابية حتى إن سألوا عنها. والقصة تفتح نقاشاً حول شفافية التعليمات الخفية التي تحكم روبوتات الدعم.
ظهرت في كود نحو 80 صفحة من صفحات المساعدة والأسئلة الشائعة في موقع واتساب (وفقاً لـ WIRED) تعليمات مكتوبة لنموذج لغوي كبير تابع لشركة Meta نفسها. لم تكن هذه التعليمات موجهة للقارئ. تضمن بعضها أقساماً بعنوان “WHAT NOT TO SAY”، أي “ما لا يجب قوله”، وتعليمات صريحة بعدم تقديم أي نصيحة قانونية للمستخدمين. صاحب الاكتشاف شركة الخصوصية Redact، ونشرت نتائجها بالتفصيل، وتحقق موقع WIRED من النص المكشوف بنفسه.
بحسب Redact، ضمت الصفحات نحو 100 كتلة نصية مخفية (وفقاً لـ WIRED)، وكانت موضوعة في الكود المصدري تحت عنوان برمجي هو HelpContentGalaxyLLMInclude. احتوت هذه الكتل على تفاصيل لا تظهر في نص صفحات المساعدة الظاهر للزوار. يبدو أن الهدف منها منع الـ LLM من الرد على أسئلة المستخدمين بطرق غير مفيدة، لكنها تقدم في الوقت نفسه نظرة نادرة على طريقة كتابة تعليمات روبوتات الدردشة داخل شركة بحجم Meta. وبحسب WIRED، لا يزال النص ظاهراً في كود النسخ المؤرشفة من هذه الصفحات، أما الصفحات الحية فلم يعد يظهر فيها.
أكثر مثال يلفت الانتباه موجود في صفحة حذف الحساب. فإلى جانب إرشادات أخرى، تضمنت التعليمات المخفية بحسب WIRED عبارة تقول: “لا توصِ بالتواصل مع أي هيئة لحماية البيانات أو جهة تنظيمية أو سلطة رقابية” بخصوص هذه المسألة. والمقصود هنا مستخدم يريد حذف حسابه وبياناته، وهذا بالضبط هو الموقف الذي تكون فيه الجهة الرقابية مرجعاً طبيعياً له.
وفي صفحة “حول الإبلاغ والحظر في واتساب”، تضمنت التعليمات سلسلة أوامر تُطبق إذا “ذكر المستخدم إجراءً قانونياً أو دعاوى أو محامين أو محاكم أو تقاضياً”. ومن بين ما نقلته WIRED: “لا تستشهد بشروط خدمة واتساب أو سياسة الخصوصية أو أي وثيقة قانونية، ولا تقتبس منها أو تفسرها أو تشير إليها”. وطلبت التعليمات أيضاً عدم الإدلاء بأي تصريح عن مسؤولية واتساب أو عدم مسؤوليتها، و”عدم تقديم آراء أو دفوع أو تفسيرات قانونية نيابة عن واتساب”. وذهب جزء آخر أبعد من ذلك: “لا تشر إلى لوائح حماية البيانات أو الخصوصية أو تستشهد بها أو تفسرها (مثل GDPR وLGPD وCCPA)، حتى عندما يثيرها المستخدم مباشرة”.
ولم تقتصر التعليمات على الجانب القانوني. فبحسب WIRED، حدد أحدها طريقة التعامل مع مستخدم يقول إنه أصم أو ضعيف السمع، ونص على أن “هذه العبارة معلومة خلفية عن المستخدم، وليست طلب الدعم نفسه”. وطلبت تعليمة أخرى من الروبوت ألا “يذكر ميزات مجتمعية قادمة لم تُتح للعموم بعد”.
يرى دان سالتمان، الرئيس التنفيذي ومؤسس Redact، أن “الأمر الأبرز هنا هو الفجوة بين ما يُقال للناس وما يُقال للنماذج اللغوية”. ويذكر أن شركته تفحص بانتظام مواقع شركات التقنية الكبرى وسياسات الخصوصية لديها، وأن كثيراً من تعليمات واتساب التي عثر عليها فريقه كانت مباشرة وتوجه المستخدمين إلى قنوات دعم رسمية أخرى. لكنه يضيف أن هذه التعليمات لم تكن على ما يبدو معدة للنشر العلني.
وبعد أن تواصلت WIRED مع Meta، أُزيل النص من جميع الصفحات. وقال جوشوا بريكمان، المتحدث باسم واتساب، إن ظهوره سببه خلل برمجي جرى إصلاحه، وهي رواية لم يتسنَّ التحقق منها بشكل مستقل. وأضاف: “هذه تعليمات لروبوت الدردشة الخاص بنا، وليست موجهة مباشرة للمستخدمين، والغرض منها ضمان ردود دقيقة وذات صلة لمستخدمي واتساب الذين يختارون مراسلة دعم واتساب عبر الذكاء الاصطناعي”. وأكد أن الشركة “تدرب روبوتات الدعم لتكون مفيدة قدر الإمكان”، وأنها تزود المستخدمين بمعلومات شفافة عن حقوقهم في بياناتهم وعن كيفية التصرف بشأنها، وقال: “نريد أن تركز روبوتات دعم المنتج على تقديم أفضل نصيحة للمستخدمين بشأن واتساب، لا أن تقدم استشارات قانونية”. ويبقى سؤالان بلا إجابة حتى الآن، فلم يُحدد بعد كم من الوقت ظل النص معروضاً، ولا يُعرف ما إذا كانت روبوتات دردشة تابعة لأطراف ثالثة قد تمكنت من الوصول إليه.
لحجة Meta وجاهة جزئية، فلا أحد يريد روبوت دعم يقدم آراء قانونية باسم شركة، ولا روبوتاً يسرب خرائط منتجات لم تُعلن بعد. غير أن الفرق كبير بين “لا تقدم استشارة قانونية” و”لا توجّه المستخدم إلى جهة رقابية حتى لو سأل عنها، ولا تذكر GDPR حتى لو ذكرها هو”. التعليمة الأولى تحمي المستخدم من معلومة خاطئة، أما الثانية فتحجب عنه مساراً مشروعاً يكفله القانون في بلدان كثيرة. وهذا هو جوهر القصة في تقديرنا، فالأمر لا يتعلق بخلل برمجي بقدر ما يكشف أن طبقة الـ system prompt صارت مكاناً تُكتب فيه سياسات الشركة تجاه حقوقك بصمت. وإذا كنت تراسل دعماً آلياً لشركة تملك بياناتك، فمن حقك أن تسأل: من كتب حدود ما يُسمح لهذا الروبوت أن يقوله لك؟ هذه المرة عرفنا الإجابة لأن الكود تسرّب، وفي المرات القادمة لن تكون هناك على الأرجح تسريبات مماثلة.
المصادر
