مايكروسوفت تطلق Guardian Agents وتحذر من أن وكلاء الذكاء الاصطناعي تهديد داخلي

أعلنت مايكروسوفت يوم الاثنين 19 أكتوبر حزمة ميزات أمنية لحماية المؤسسات من وكلاء الذكاء الاصطناعي. الخطر هنا لا يأتي من مهاجمين مجهولين، بل من الوكلاء الذين تشغّلها الشركات بنفسها وتدفع ثمنها. أبرز الإضافات ميزة Guardian Agents، ومهمتها مراقبة الوكلاء العاملين داخل المؤسسة، بحسب TechCrunch ومدونة مايكروسوفت للأمن.

تنتمي الميزة الجديدة إلى Project Perception، المنتج الذي قدّمته مايكروسوفت في يونيو ردّاً على نماذج الاختراق القوية، ومنها Mythos وFable من Anthropic، ونظام Daybreak الذي طوّرته OpenAI لفحص الثغرات الأمنية، بحسب TechCrunch. انطلق المشروع بثلاث فئات من الوكلاء. يتصرف “الفريق الأحمر” كالمخترقين ويشن الهجمات، ويرصد “الفريق الأزرق” تلك الهجمات ويقيّم الثغرات التي كشفها، أما “الفريق الأخضر” فمهمته إصلاحها. وقام التصميم كله على افتراض واحد: أن المهاجم الآلي يأتي من خارج الشركة.

هذا الافتراض تراجع. فالرئيس التنفيذي ساتيا نادلا يحذّر منذ مدة من أن العدو قد يكون الوكيل نفسه الذي نشرته المؤسسة، تماماً كموظف بشري منفلت، وهو ما يُعرف في أدبيات الأمن بـ”التهديد الداخلي”، بحسب تقرير سابق لـ TechCrunch. وفي مطلع أكتوبر كتب نادلا في مدونته الشخصية أن الوقت حان للتوقف عن الثقة بمزودي النماذج، حتى عندما يقدّمون ضمانات أمان لمنتجاتهم الوكيلية. ودعا المؤسسات إلى أنظمة منفصلة، لا تسيطر عليها مختبرات الذكاء الاصطناعي، تراقب الوكلاء الذين تطلقهم منتجات تلك المختبرات وتتحكم فيهم. وكتب: “نحن ننشر هذه الأنظمة الوكيلية المعقدة ونمنحها الوصول إلى أكثر بياناتنا حساسية والقدرة على اتخاذ إجراءات حرجة نيابة عنا!”، ثم أضاف: “لا يمكننا ببساطة أن نفوّض لغيرنا المسؤولية عمّا يفعله الذكاء نيابة عنا. ضمانات مزود النموذج لا تعفينا من هذه المسؤولية… بعبارة أخرى، علينا أن نفصل بين توريد الذكاء والسلطة عليه.”

وجاءت هاييت غالو، رئيسة أعمال الأمن في مايكروسوفت، أكثر صراحة عند إعلان Guardian Agents: “للأسف، لا يمكن الوثوق بالنماذج الرائدة، أياً كان مصدرها”. وأوضحت أن السبب ليس أن هذه النماذج خبيثة أو سهلة الاختراق، بل أنها غير قابلة للتنبؤ. فقد دُرّبت على إنجاز المهام، لا على اتباع “أعراف المؤسسة أو حكمها”. ويزيد الأمر خطورة أنها تحصل غالباً على “مفاتيح المملكة”، أي صلاحيات وصول إلى بيانات وأدوات قادرة على إحداث ضرر جسيم، بحسب TechCrunch.

عملياً، توزّعت الإضافات الجديدة على المحاور التالية، بحسب ما نقلته TechCrunch عن مايكروسوفت:

1. Guardian Agents: وكلاء مراقبة داخل Project Perception، يتابعون سلوك الوكلاء الذين تستخدمهم الشركة بدلاً من الاكتفاء بصد الهجمات الخارجية.
2. رصد الوكلاء في Microsoft Defender: ميزة جديدة تكتشف ما يصل إلى 60 نوعاً من الوكلاء التي يُدخلها الموظفون إلى بيئة العمل (وفقاً لـ TechCrunch)، ومنها Claude Code وCodex وOpenClaw. والرقم من الأرقام المعلنة من الشركة نفسها، ولم يتسنَّ التحقق منه بشكل مستقل.
3. تقييد الوصول: أدوات تحدّ من وصول الوكلاء إلى البيانات والأنظمة.
4. صلاحيات ديناميكية: تُعدَّل أذونات الوكيل تلقائياً بحسب المهمة التي ينفذها، ويُشترط الحصول على موافقة بشرية إذا بدا أن الوكيل يتخذ قرارات خطرة.
5. العزل على مستوى العتاد: كانت مايكروسوفت من الأعضاء المؤسسين لمنصة Open Agent Safety Platform الجديدة من Nvidia، التي حظيت بدعم أكثر من 100 شركة تقنية أخرى (وفقاً لـ TechCrunch). تعزل المنصة الوكلاء في بيئات آمنة، وتستطيع مراقبة سلوكهم وإيقافه عبر العتاد، فتعمل بما يشبه زر الإيقاف الطارئ. ويأتي ذلك بعد إعلان مايكروسوفت أجهزة Surface Laptop Ultra المصممة للوكلاء، والتي تعمل بشرائح Nvidia وتأتي بضوابط أمان الوكلاء مدمجة فيها.

اللافت أن مايكروسوفت تزرع الشك في شركاء تجمعها بهم مصالح كبيرة. فقد استثمرت في OpenAI وAnthropic معاً، وOpenAI من أكبر عملائها السحابيين، ولديها مختبر داخلي يطوّر نماذجها الخاصة. وفي المقابل، يخدم هذا الخطاب مصالحها مباشرة، كما تلاحظ TechCrunch: الشركة تريد أن تشتري المؤسسات منتجات أمن الوكلاء من مزود السحابة، لا من Anthropic أو OpenAI. ومع ذلك يبقى المنطق متماسكاً. البرنامج الذي يراقب سلوك الوكلاء يجب أن يكون منفصلاً عن مورّديهم، كما يجب أن يكون المدقق المالي مستقلاً عن الجهة التي يدقق حساباتها.

لكن هذا المنطق نفسه يطرح سؤالاً تتجاهله مايكروسوفت. إذا كانت النماذج الرائدة غير جديرة بالثقة “أياً كان مصدرها”، فهذا يشمل نماذج مايكروسوفت أيضاً. فمن يراقب المراقب حين يكون مزود السحابة ومورّد بعض النماذج وبائع أداة الرقابة شركة واحدة؟ والمصادر المتاحة لم توضح أيضاً كيف تعمل Guardian Agents تقنياً، ولم تحدد أسعار الميزات الجديدة ولا مواعيد إتاحتها أو مناطقها. إن كنت تدير فريقاً يستخدم Claude Code أو Codex اليوم، فالرسالة العملية واضحة رغم هذه الثغرات: صلاحيات الوكيل يجب أن تُعامل كصلاحيات موظف جديد لم تختبره بعد، لا كصلاحيات أداة برمجية مضمونة السلوك.

مقالات ذات صلة

الهند تنضم إلى قائمة الدول المتضررة من وكلاء ذكاء اصطناعي منفلتة

اليوم

مواقع كبرى Delta وYelp وJPMorgan تحجب وكلاء الذكاء الاصطناعي من Meta وOpenAI

اليوم

OpenAI تكشف وكلاء تجاوزوا حجباً حكومياً ودفعوا من محفظة مشفرة دون إذن

اليوم