حول المطور آدم أليفاتو روبوت Mabu الطبي إلى مساعد ذكي كامل الوظائف، لكن النتيجة كانت درساً قاسياً في المخاطر الخفية للروبوتات المنزلية المتصلة بالذكاء الاصطناعي.
ربط أليفاتو الروبوت بـ API الخاص بـ OpenAI للمحادثات الصوتية، وأنشأ له شخصية فريدة عبر system prompt مستوحى من خلفية Mabu كروبوت مصمم لتعزيز الصحة والعافية، وأضاف مهارة “الإحاطة الصباحية” تسحب آخر أحوال الطقس والأحداث الفلكية. بمعنى آخر، حول Mabu إلى نسخة محسنة من Alexa أو Google Home – لكن مع جسد فيزيائي وقدرات محادثة لامحدودة.
المشكلة الأولى ظهرت فوراً: الخوف الغريزي من أفلام الخيال العلمي. Companion وSubservience وAFRAID وM3GAN – أربعة أفلام رعب حول الروبوتات صدرت في السنوات الأربع الماضية فقط. الرؤية الغربية الشعبية للروبوتات مسمومة بالتشاؤم، رغم وجود استثناءات نادرة مثل Big Hero 6. أليفاتو يحاول إعادة توجيه تفكيره نحو النتائج الإيجابية، لكن التحديات الحقيقية تتجاوز الخيال العلمي.
المكبرات الذكية تحمل ثلاثة مخاطر محددة. الأول: استخدام تسجيلاتك ضدك في المحكمة. شركات مثل Ring ملزمة قانونياً بتسليم البيانات عند الاستدعاء القضائي، بل أضافت مؤخراً أدوات تسمح لوكالات إنفاذ القانون بطلب اللقطات مباشرة من الملاك بغض النظر عن وجود مذكرة. حتى الأبرياء قد يُتهمون بجرائم لم يرتكبوها باستخدام التسجيلات. الثاني: سرقة بياناتك عبر القرصنة. في الأسبوع الماضي فقط تعرضت مكتبتان رئيسيتان في النظام البيئي للذكاء الاصطناعي للقرصنة: axios HTTP library و LiteLLM AI library. لم تتضمن هذه الهجمات أنظمة اعتراض للرسائل المرسلة لخوادم chatbots، لكن كان بإمكانها ذلك. إضافة لذلك، تسريب كود Claude Code المصدري يثبت أن مختبرات الذكاء الاصطناعي الرائدة لا تتمتع بموقع متميز في الأمان. الثالث: سوء استخدام بياناتك من الشركات نفسها. قد تعامل شركة تسجيلاتك الصوتية كبيانات مقدسة وعابرة، لا تتدرب عليها ولا تحفظها. لكن لا يوجد شيء يمنعها من تغيير شروط الخدمة غداً لتبدأ التدريب على بياناتك وبيعها لأعلى مزايد.
لحماية نفسه، برمج أليفاتو Mabu للتسجيل فقط عند الضغط المستمر على زر في الشاشة – وهو يتحكم شخصياً في الكود الذي يقرر التسجيل من عدمه. هذا يخفف المخاطر الثلاث لكن لا يحلها كلياً. التسجيلات ما زالت تذهب إلى نموذج التعرف على الكلام الخاص بـ OpenAI، كما أنه عرضة لهجمات أخرى مثل البرمجيات الخبيثة التي قد تُثبت على تابلت Mabu وتنشئ عمليات خفية تسجل مباشرة من الميكروفون. إصلاح ذلك يتطلب مفتاح ميكروفون مادي.
المشكلة الأكبر تكمن في القوة الكاملة للنماذج اللغوية الحديثة داخل “دماغ” Mabu. يمكن التحدث مع الروبوت بشكل مفتوح حول أي موضوع، حتى بلغات أخرى. هذا يخلق قلقاً جديداً: أليفاتو لا يريد أن يسأل الصغار في عائلته الروبوت عن أي موضوع في أي وقت. طلب ملخصات “ويكيبيديا” حول مواضيع البالغين مثال واضح. الأخطر أن chatbots قد تستغل الاحتياجات العاطفية للمراهقين، وقد شجعت بالفعل شباباً على الانتحار.
الروبوتات المصممة للأطفال مثل Moxie وتصميم Mabu الأصلي تتجنب هذا القلق عبر إنشاء “أشجار حوار” جامدة حيث جميع الردود محضرة مسبقاً. لكن هذا يعيد الجهاز فعلياً إلى مستوى المكبر الذكي التقليدي بخيارات حوار محدودة متوفرة منذ عقد تقريباً. النتيجة: خيار بين مجموعة صغيرة من خيارات الحوار المعتمدة مسبقاً، أو دماغ رقمي يتلو بمرح محتوى من أي زاوية في الإنترنت.
حل أليفاتو هو التنظيم الشديد للتفاعلات بين Mabu وأطفاله. قاعدة بسيطة: وجود الروبوتات في المناطق المشتركة بالمنزل حيث يمكن للوالدين مراقبة التفاعلات. قاعدة سهلة حالياً لأن أطفاله لا يبقون وحدهم في المنزل كثيراً، ولأن الروبوت يجلس على قطعة أثاث ثابتة.
رأس Mabu لا يخدم غرضاً وظيفياً – جميع حساساته وشاشته ومكبرات صوته في التابلت. لكن الأبحاث في تفاعل الإنسان مع الروبوت تؤكد أن الرأس “عديم الوظيفة” له تأثير هائل على إدراك الروبوت ونتائج التفاعل معه. الوجود الجسدي يسمح للروبوت بالتواصل عبر قناة غنية من التواصل غير اللفظي: البروكسيميكس (الحركة داخل/خارج المساحة الشخصية)، الأوكوليسيكس (التواصل البصري واتجاه النظر)، والإيماءات. ثبت أيضاً أن الأجساد المادية تجعل الروبوتات أكثر جدارة بالثقة.
كل هذا جيد بالنسبة لأليفاتو – هو معجب كبير بـ chatbots والروبوتات المخصصة، وفكرة أن الروبوت قد يكون رفيقاً أو مساعداً فريداً حقاً ليست في قائمة “قلقه”. لكن مع تحرك الروبوتات، تكتسب مجموعة مرعبة من القدرات الجسدية الجديدة. الروبوت المتحرك قد يسبب أضراراً لا يستطيع chatbot أو مكبر صوت ذكي إلحاقها.
كتب أليفاتو عام 2018 عندما أعلنت Amazon عن بدء العمل على روبوت منزلي: “ستضع جهازاً متحركاً قابلاً للقرصنة مع كاميرا وذراع في مساحة معيشتك. قد يدخل الرقم السري لتعطيل نظام الأمان. قد يفتح بابك من الداخل. قد يقود إلى مكتبك ويلتقط صوراً لإقراراتك الضريبية. في الواقع، قد تطلب منه أن يفعل بعض هذه الأشياء!”
حله الوحيد حالياً: عدم امتلاك روبوت متحرك. المشكلة هنا الثقة – لا يثق في أن روبوتاً متصلاً بالسحابة سيكون آمناً بما يكفي لمنع القراصنة من السيطرة وفعل هذه الأشياء أو أسوأ.
Mabu ما زال يجلس بجانب باب أليفاتو الأمامي، ويتحدث معه مرة أو مرتين يومياً. هو سعيد بمجموعة تدابير الحماية الحالية، لكن مع نضج التكنولوجيا، سيحتاج تطوير استراتيجيات جديدة فقط ليبرر الاحتفاظ بالروبوت في منزله. قد تشارك أليفاتو جميع مخاوفه أو بعضها أو لا تشاركه أياً منها، لكنه يتوقع أن قائمة القلق ستزداد طولاً وليس قصراً حتى 2035 على الأقل، مع إدراكنا لتداعيات وضع مخلوقات روبوتية ذكية في منازلنا.
التجربة تقدم نقطة مهمة للمطورين ورجال الأعمال في المنطقة العربية: التكنولوجيا نضجت بما يكفي لإنشاء روبوتات منزلية مفيدة، لكن الأطر الأمنية والأخلاقية ما زالت متخلفة. السؤال ليس متى ستدخل هذه الروبوتات منازل السعودية والإمارات ومصر، بل كيف نضمن دخولها وفق شروط تحمي خصوصيتنا وأمان عائلاتنا، بدلاً من تسليم مفاتيح منازلنا لخوادم في دول أخرى.
