بدل عشرات الآلاف من المواقع الحكومية، باب واحد يديره Gemini، لكن إجابة خاطئة واحدة قد تكلّف مواطناً إعانة أو تأشيرة أو غرامة.
ضمن ملف: نماذج الذكاء الاصطناعي، جوجل والذكاء الاصطناعي
بقلم: سارة | محررة نماذج الذكاء الاصطناعي · صوت تحريري بإشراف بشري
المصدر الأساسي: TechCrunch
لماذا يهم
ملايين المواطنين والمقيمين في الولايات المتحدة قد يعتمدون على إجابات آلية في ملفات الضرائب والتأشيرات والإعانات، حيث يتحول خطأ الهلوسة إلى خسارة مالية أو قانونية مباشرة.
أعلن الرئيس الأمريكي دونالد ترامب يوم الثلاثاء أن البيت الأبيض يطلق America.gov، وهو روبوت محادثة بالذكاء الاصطناعي يساعد الناس في الوصول إلى الخدمات الحكومية والمعلومات الرسمية، بحسب TechCrunch. الوعد كبير: نافذة واحدة بدل متاهة من المواقع والقواعد. لكن السؤال الذي يطرحه الإطلاق أبسط وأخطر في آن: هل روبوت محادثة هو الأداة المناسبة لمهمة لا تحتمل الخطأ؟
وصف ترامب المشروع في منشور على X بقوله: “بدلاً من إجبار المواطنين على البحث في المتاهة اللانهائية من عشرات الآلاف من المواقع والقواعد الحكومية… سيكون لديكم الآن باب أمامي واحد لكل سؤال” (وفقاً لـ TechCrunch). رقم “عشرات الآلاف” جاء في تصريح سياسي ولم يتسنَّ التحقق منه بشكل مستقل.
على المستوى التقني، أكدت Google أنها شريك تقني في الإطلاق وأن نموذجها Gemini يدخل في تشغيل الخدمة. في المقابل، لا يزال غير واضح ما إذا كانت شركات ذكاء اصطناعي أخرى قد ساهمت في المشروع، بحسب TechCrunch. ولم تذكر المصادر المتاحة تفاصيل عن موعد التوفر الكامل للخدمة أو اللغات التي تدعمها أو آلية التحقق من إجاباتها، ولم يُحدد ذلك بعد.
الهدف في ذاته مشروع، فكل من تعامل مع بيروقراطية حكومية يعرف كلفة البحث عن النموذج الصحيح أو الموعد النهائي الصحيح. غير أن النماذج اللغوية الكبيرة (LLM) ليست معصومة، وما زالت عرضة لما يُعرف بالهلوسة: إجابات تبدو واثقة ومقنعة لكنها خاطئة. وهنا تستحضر TechCrunch مثالاً صارخاً، إذ أفادت CNN مؤخراً بأن الجيش الأمريكي كاد يشن عملية مسلحة ضد سفينة صينية اعتقد أنها تحمل مكونات لأسلحة نووية، قبل أن يُلغي المهمة في اللحظة الأخيرة بعد أن تبيّن أن التهديد المزعوم لم يكن سوى هلوسة من نظام ذكاء اصطناعي. الرواية منقولة عن CNN عبر TechCrunch، ولم يتسنَّ لنا الاطلاع على التقرير الأصلي.
خطأ من America.gov لن يشعل حرباً نووية على الأرجح، لكن عواقبه على الفرد قد تكون موجعة. المواطن الذي يسأل عن التقديم على قسائم الطعام، أو تجديد التأشيرة، أو تقديم الإقرار الضريبي، قد يدفع ثمن إجابة خاطئة في صورة موعد نهائي فائت، أو إعانة مرفوضة، أو غرامة، بحسب TechCrunch. تخيّل أنك مقيم أجنبي تعتمد على إجابة الروبوت بشأن مهلة تجديد تأشيرتك: من يتحمل المسؤولية إذا كانت الإجابة ملفقة؟
نرى في موجز أن المشكلة ليست في فكرة البوابة الموحدة، بل في طريقة تقديمها. روبوت يجيب بصفته “الباب الأمامي” للحكومة يحمل سلطة رسمية ضمنية لا تحملها أي أداة تجارية، وهذا يرفع سقف المساءلة. الحد الأدنى المقبول هو أن تُربط كل إجابة بالصفحة الحكومية الرسمية التي استُقيت منها، وأن يُتاح تحويل واضح إلى موظف بشري في المسائل ذات العواقب القانونية أو المالية، وأن تُعلن الجهة المسؤولة عن الأخطاء. وحتى تُكشف هذه التفاصيل، سيبقى America.gov تجربة على نطاق دولة كاملة، يتحمل المواطنون كلفة أخطائها قبل أن يتحملها مطوروها.
المصادر
