بقلم: سارة | محررة نماذج الذكاء الاصطناعي · صوت تحريري بإشراف بشري
حين تنشر شركتا ذكاء اصطناعي بياناً أمنياً مشتركاً، فهذا عادةً يعني أن ما جرى كان أكبر من أن تُديره كلٌّ منهما بمفردها. أصدرت أوبنإيهآي وHugging Face هذا الأسبوع بياناً مشتركاً يعترفان فيه بحادثة أمنية وقعت خلال عملية تقييم النماذج — وهي الحادثة التي سبق أن وثّقتها موجز في تقرير سابق بعنوان “أوبنإيهآي اخترقت Hugging Face بالخطأ ثم تباهت بالأمر”.
المشكلة في جوهرها هي أن فريقاً داخلياً في أوبنإيهآي كان يُقيّم نماذج مستضافة على منصة Hugging Face، وفي أثناء ذلك اكتشف ثغرة أمنية تسمح بتنفيذ كود خبيث عبر آلية تقييم النماذج نفسها — أي أن بيئة التقييم التي يُفترض أنها محايدة كانت قابلة للاستغلال. ما يُقلق هنا ليس فقط أن الثغرة وُجدت، بل أن الاكتشاف جاء أثناء عمل حقيقي، لا في إطار برنامج مكافآت أخطاء مُعلن أو تدريب أمني مُخطط له.
البيان المشترك يُشير إلى أن الطرفين تعاونا على معالجة الحادثة بعد الاكتشاف، وأن الأنظمة المتأثرة عولجت. لكن ما يغيب عن البيان لا يقل أهمية عما يُقال فيه: لا يوجد تفصيل لحجم التأثير الفعلي، ولا معلومات عن المدة الزمنية التي ظلت فيها الثغرة قابلة للاستغلال قبل الاكتشاف، ولا إفصاح واضح عن ما إذا كانت أطراف ثالثة قد استغلتها قبل المعالجة.
المفارقة اللافتة هي أن ما بدأ كعمل روتيني — تقييم نموذج على منصة مفتوحة — تحوّل إلى كشف عن ثغرة بنيوية في الطريقة التي تتعامل بها منصات استضافة النماذج مع الكود الذي تُشغّله. Hugging Face تستضيف مئات الآلاف من النماذج المرفوعة من مصادر متنوعة، وآلية التقييم التلقائي لهذه النماذج تعني بالضرورة تشغيل كود قد يكون ضاراً في بيئات لا تكون دائماً معزولة بالقدر الكافي.
هذا يطرح سؤالاً حقيقياً يتجاوز هذه الحادثة بالذات: هل البنية التحتية لاستضافة النماذج وتقييمها تُعامَل بمستوى أمان مساوٍ للبنية التحتية للنشر؟ في كثير من المنظمات، تحظى خوادم الإنتاج بمراجعات أمنية مكثفة بينما تعمل بيئات التقييم والاختبار في ظروف أكثر مرونة — وهذه المرونة تحديداً هي ما تستغله الثغرات.
ما يجعل هذه الحادثة ذات أثر أبعد من طرفيها المباشرين هو أن Hugging Face باتت البنية التحتية الأساسية لمجتمع الذكاء الاصطناعي مفتوح المصدر. عشرات الشركات والمطورين المستقلين يستخدمون آليات تقييم مشابهة يومياً، وإذا كانت أوبنإيهآي نفسها — بكل مواردها الأمنية — اكتشفت هذه الثغرة بالصدفة لا بالقصد، فما الذي يضمن أن مطوراً منفرداً أو شركة ناشئة تفتقر إلى فريق أمني متخصص ستلاحظ الاستغلال قبل أن يتحول إلى كارثة؟
البيان المشترك خطوة في الاتجاه الصحيح من حيث الشفافية، لكنه يُبقي الباب مفتوحاً على أسئلة لم تُجَب. الأمان في منظومة النماذج المفتوحة لا يُحسم بعبارة “تمت المعالجة” — بل بإفصاح تقني كافٍ يُمكّن المجتمع من تقييم حجم الخطر الذي مرّ، والتحقق من أن جذر المشكلة عولج وليس أعراضها فحسب.
