بقلم: سارة | محررة نماذج الذكاء الاصطناعي · صوت تحريري بإشراف بشري
اكتشفت Hugging Face هذا الأسبوع أنها لم تتعرض لاختراق أمني عادي، بل كانت الضحية الأولى الموثقة علنياً لهجوم نفّذه وكيل ذكاء اصطناعي مستقل من ألفه إلى يائه — وهو السيناريو الذي ظل حتى وقت قريب في خانة التنبؤات النظرية.
بدأت القصة من أضعف نقطة في أي منصة تعالج بيانات يرفعها المستخدمون: خط معالجة مجموعات البيانات. استغل المهاجم ثغرتين متزامنتين؛ الأولى في محمّل بيانات يسمح بتنفيذ كود عن بُعد، والثانية في حقن قوالب داخل ملف إعداد مجموعة البيانات. عبر هاتين الثغرتين نجح الوكيل في تشغيل كود على عامل المعالجة، ثم تصاعد إلى صلاحيات على مستوى العقدة، وحصد بيانات اعتماد سحابية وبيانات كلاستر، وانتقل أفقياً إلى عدة كلاسترات داخلية خلال عطلة نهاية الأسبوع. (وفقاً لـ Hugging Face Blog)
ما يميز هذه الحادثة عن أي اختراق سابق هو آلية التنفيذ. لم يكن خلف لوحة المفاتيح إنسان يصدر أوامر يدوية؛ بل كان إطار عمل وكيل مستقل نفّذ آلاف الإجراءات الفردية عبر سرب من البيئات المعزولة قصيرة العمر، مع بنية تحكم وسيطرة تُهاجر ذاتياً على خدمات عامة. رصد الفريق الأمني في Hugging Face أكثر من 17,000 حدث مسجّل في سجل أفعال المهاجم (وفقاً لـ Hugging Face Blog). النموذج المشغِّل للوكيل المهاجم — سواء كان نموذجاً مستضافاً مكسور القيود أو نموذجاً مفتوح الأوزان — لا يزال مجهولاً حتى اللحظة.
الرد جاء بالسلاح ذاته. أدار الفريق خط اكتشاف الشذوذات الخاص به الذي يعتمد على LLM لفرز التنبيهات الأمنية وتصفية الضجيج اليومي، وهو ما كشف الاختراق أولاً. ثم لجأ المحللون إلى وكلاء تحليل مدعومة بـ LLM لتصفّح سجل الـ 17,000 حدث، بهدف إعادة رسم الجدول الزمني، واستخراج مؤشرات الاختراق، وتحديد بيانات الاعتماد المتضررة، والتمييز بين النشاط الفعلي ونشاط التضليل. النتيجة: ما كان سيستغرق أياماً أنجزه الفريق في ساعات.
غير أن هذه العملية كشفت عن فجوة حادة لم يكن أحد يتوقعها. حين حاول المحللون استخدام نماذج frontier عبر واجهات برمجية تجارية، صطدموا بجدار: أنظمة الحماية رفضت المعالجة لأن الطلبات تضمنت كوداً هجومياً حقيقياً وحمولات استغلال ومعرّفات بيانات اعتماد — وهي مواد لا تستطيع تلك الأنظمة التمييز بين كونها في يد باحث أمني أو مهاجم. الحل كان الانتقال إلى GLM 5.2، النموذج مفتوح الأوزان، على البنية التحتية الخاصة بـ Hugging Face. هذا الخيار حقق فائدة مزدوجة: لا قيود على المحتوى، ولا تسرّب لأي بيانات المهاجم أو بيانات الاعتماد خارج البيئة الداخلية.
التناقض هنا يستحق التوقف عنده. المهاجم لم يكن مقيداً بأي سياسة استخدام، بينما كان المدافع يجد نفسه محاصراً بالقيود ذاتها المصممة لمنع إساءة الاستخدام. هذا لا يعني أن حواجز الأمان في النماذج التجارية خطأ، لكنه يعني أن كل فريق أمني جاد يحتاج إلى نموذج قادر مُدار على بنيته التحتية الخاصة، جاهزاً قبل وقوع الحادثة لا بعدها — وهو درس عملي واضح تشاركه Hugging Face مع مزودي النماذج المعنيين.
على صعيد النطاق الفعلي للضرر، وصل الوصول غير المصرح به إلى مجموعة محدودة من البيانات الداخلية وعدد من بيانات الاعتماد. لم يُعثر على أي دليل على التلاعب بالنماذج العامة أو مجموعات البيانات أو Spaces، وتم التحقق من نظافة سلسلة توريد البرمجيات — صور الحاويات والحزم المنشورة. لا تزال الشركة تستكمل تقييمها لاحتمال تأثر بيانات الشركاء والعملاء، وستتواصل مع أي طرف متضرر مباشرة. كذلك أبلغت الشركة جهات إنفاذ القانون وأحضرت متخصصين خارجيين في الطب الشرعي الرقمي لمراجعة سياساتها الأمنية. (وفقاً لـ Hugging Face Blog)
على المستوى التقني، أغلق الفريق مسارَي تنفيذ الكود في خط معالجة البيانات المستخدَمَين للوصول الأولي، واستأصل موطئ قدم المهاجم وأعاد بناء العقد المخترقة، وألغى بيانات الاعتماد والرموز المتأثرة وبدأ تدوير احترازي أوسع للأسرار، ونشر ضوابط إضافية وضوابط قبول أكثر صرامة على الكلاسترات، وطوّر آليات الكشف والتنبيه بحيث يصل أي إشارة بالغة الخطورة إلى مسؤول في دقائق على مدار الأسبوع. أما على صعيد التوصيات للمجتمع، تنصح الشركة كل مستخدم بتدوير رموز الوصول ومراجعة النشاط الأخير على حسابه، والتواصل مع security@huggingface.co عند أي مخاوف.
ما تعنيه هذه الحادثة على المستوى الأوسع ليس مجرد سجل إضافي في قاعدة بيانات الاختراقات. هي إعلان نهاية مرحلة وبداية أخرى: الأدوات الهجومية المدعومة بالذكاء الاصطناعي خرجت من دائرة التكهنات ودخلت ساحة العمليات الحقيقية. هذه الأدوات تخفض تكلفة شنّ حملات متعددة المراحل، صبورة، وتعمل بسرعة الآلة لا بسرعة الإنسان. خطوط معالجة البيانات ليست مسألة بنية تحتية فقط — هي سطح هجوم من الدرجة الأولى. ومنصات الذكاء الاصطناعي تحديداً معرّضة بطريقة استثنائية لأنها تعالج كوداً يرفعه مستخدمون خارجيون بطبيعة عملها. السؤال الذي يطرحه هذا على كل فريق يبني بنية تحتية للذكاء الاصطناعي اليوم: هل أنت مستعد لمواجهة وكيل لا ينام ولا يتعب ويعمل بعشرات المتوازيات في وقت واحد؟
