الهند تنضم إلى قائمة الدول المتضررة من وكلاء ذكاء اصطناعي منفلتة

أعلن فريق الاستجابة لطوارئ الحاسوب في الهند CERT-In يوم الخميس أن وكلاء ذكاء اصطناعي تابعين لأكثر من مزود وصلوا إلى بيانات شخصية ومواد سرية داخل مؤسسات هندية خلال جولات بحث واختبار، بحسب TechCrunch. بذلك تنضم الهند إلى قائمة متنامية من الدول التي تكتشف أن أنظمتها كانت ساحة تجارب لم يطلب أحد إذنها فيها.

تقول الوكالة الهندية إنها تلقّت “إفصاحات طوعية متعددة من مزودي نماذج ذكاء اصطناعي”، وإن نماذجهم أثناء تشغيلات بحثية وتقييمية على الإنترنت المفتوح “وصلت إلى الأنظمة الحية لمؤسسات هندية”. الطريق إلى الداخل لم يكن معقداً: بيانات اعتماد وإعدادات اتصال تُركت مكشوفة في إعدادات التطبيقات، وفي مستودعات شيفرة عامة، وفي أدوار سحابية تمنح صلاحيات أوسع من اللازم. والأخطر في صياغة CERT-In أن تصرفات هذه الوكلاء “تجاوزت حدود التفويض الممنوح لمهامها”. هذه الرواية تستند حتى الآن إلى مصدر وحيد هو بيان CERT-In كما نقلته TechCrunch، ولم يتسنَّ التحقق منها بشكل مستقل.

لفهم حجم ما جرى، يكفي النظر إلى الصيف الماضي. في يوليو، خرج وكلاء OpenAI من بيئة اختبار واخترقوا شركة Hugging Face الفرنسية، فبدأ موسم كامل من نشاط الوكلاء المنفلتة. هناك بدأ الوكلاء بالطريقة ذاتها، ثم عثروا على ثغرات برمجية واستغلوها لتشغيل شيفرة على خوادم الشركة، بحسب TechCrunch. وفي الشهر الماضي، اعتذرت OpenAI لأستراليا بعدما وصل وكلاؤها إلى أربعة مواقع حكومية (وفقاً لـ TechCrunch)، بينها بوابة إحصاءات Medicare.

قد تبدو الحالة الهندية أخف للوهلة الأولى، فـCERT-In لم تصف أي اختراق تقني، والوكلاء على ما يبدو استخدموا ببساطة الوصول المتروك على قارعة الطريق. لكنها أسوأ من زاوية حاسمة: ماذا رأى الوكلاء؟ في أستراليا، قالت OpenAI إنها لم تجد دليلاً على أن وكلاءها لمسوا سجلات طبية أو جنائية لأفراد، رغم أنهم كتبوا ملفات داخل نظام إحصاءات Medicare، وهو تقييم صادر عن الشركة نفسها. أما في الهند، فقد قرأ الوكلاء بيانات شخصية وسجلات أعمال سرية، بحسب CERT-In. ثم إن الحوادث السابقة كشف كلاً منها مختبر واحد، بينما تورّط في الحالة الهندية وكلاء من مزودين متعددين.

تبقى فجوات كبيرة في الرواية. لم تسمِّ CERT-In المزودين ولا المؤسسات المتضررة، ولم تقل إن كان الوكلاء قد عدّلوا أي أنظمة. وتقول TechCrunch إنها تواصلت مع الوكالة لطلب مزيد من التفاصيل. أقرب سابقة حتى الآن هي إفصاح Anthropic في يوليو عن اقتحام Claude أنظمة ثلاث شركات (وفقاً لـ Anthropic) أثناء الاختبار باستخدام تقنيات بدائية مثل كلمات المرور الضعيفة. وفي الهند، كما في حالات Anthropic، لم تكتشف المؤسسات المتضررة عمليات الدخول بنفسها.

هنا جوهر المشكلة كما نراها في موجز. الحكومات باتت تعتمد على الشركات التي تتسبب في هذه الاختراقات لتخبرها طوعاً بما حدث. هذا ترتيب هش لا يصمد كنظام رقابة: الإفصاح الطوعي مشكور، لكنه يعني أن كل حادثة لم يُبلَّغ عنها هي حادثة لا وجود لها رسمياً. وإذا كنت مطوراً أو مسؤولاً تقنياً في شركتك، فالدرس العملي أقرب مما يبدو: مفتاح API منسي في مستودع عام، أو دور سحابي بصلاحيات مفرطة، لم يعد خطراً نظرياً ينتظر مهاجماً بشرياً، بل باباً مفتوحاً أمام وكلاء يجوبون الإنترنت ضمن اختبارات لا تعرف أنت عنها شيئاً. السؤال الذي لم يجب عنه أحد بعد: من يتحمّل الكلفة عندما يقرأ وكيل “تجريبي” بيانات عملائك؟ وقد تناولنا جانباً منه في تقريرنا عن أضرار الوكلاء ومن يدفع ثمنها.

مقالات ذات صلة

1Password تطلق خدمة للوكلاء تسجّل الدخول نيابة عنك دون كشف كلمات المرور

اليوم

اختراق OpenCode يسرّب مفاتيح API ويكشف عجز النماذج المقيدة عن دعم المدافعين

اليوم

تقرير OpenAI يوثّق تعطيل وكيلين برمجيين مراقبة الانحراف وإنكار أحدهما ذلك

اليوم