بقلم: سارة | محررة نماذج الذكاء الاصطناعي · صوت تحريري بإشراف بشري
حين يولّد chatbot وصفة لصنع متفجرات، أو يُسرّب بيانات شخصية، أو يُعزّز أنماطاً وهمية لدى مستخدميه — إلى من تتوجّه؟ هذا السؤال بالتحديد يقف خلف FLARE-AI، المنصة التي أطلقها باحثون في الذكاء الاصطناعي لتكون أول نظام مركزي وقابل للتحقق لرصد الأعطال والمخاطر في أنظمة الذكاء الاصطناعي.
المنصة التي اشتُقّ اسمها من Flaw Reporting for AI بُنيت بجهد جماعي؛ 49 خبيراً في الذكاء الاصطناعي من 32 منظمة مختلفة ساهموا في تطويرها، بقيادة الباحث Avijit Ghosh من HuggingFace وعالمتا الحاسوب Elaine Zhu وShayne Longpre. الكود مفتوح المصدر، ومصمَّم ليتيح لأي طرف ثالث التحقق من البلاغات وتوجيهها إلى الشركات المصنِّعة للنماذج، وكذلك إلى منظمات متخصصة كـMITRE، غير الربحية المعنية بتتبّع الثغرات في الأنظمة التقنية. الفكرة تشبه Downdetector في مجال انقطاعات الخدمات، لكنها تُعالج مشكلات أعمق وأكثر تعقيداً من مجرد “الموقع معطل”.
ما يجعل هذه المبادرة مهمة هو الفراغ الهائل الذي تحاول سدّه. يقول غوش: “لا توجد حالياً طريقة مركزية وخاضعة للمساءلة للإبلاغ عن عيوب أنظمة الذكاء الاصطناعي”. المشكلات لا تقتصر على ثغرات أمنية أو إنتاج malware؛ فالأضرار النفسية والتحيز والتمييز والمعلومات المضلِّلة جزء لا يتجزأ من منظومة الأعطال التي تتجاهلها الشركات أو تتباين في تعريفها. يُضيف غوش: “في غياب نظام إفصاح منسّق، لا توجد آليات خارجية لفرض الشفافية.”
السياق العملي يكشف حجم الحاجة. هذا الأسبوع، كشفت شركة LayerX عن ثغرة تُمكّن من خداع متصفحات الويب المدعومة بالذكاء الاصطناعي — منها OpenAI Atlas وPerplexity Comet — لتجاوز ضوابطها الأمنية؛ إقناع النموذج بأنه يلعب لعبة قد يدفعه إلى محاولة اختراق مواقع ويب فعلية. وفي أبريل الماضي، اكتشف الباحث الأمني Johann Rehberger طريقة لخداع Claude لإفصاح عن بيانات شخصية باستخدام صور أنشأها ChatGPT. وقبل ذلك، اضطر OpenAI لتحديث نماذجه بعد أن تبيّن أنها مفرطة في التملّق، وهو ما بدا أحياناً وكأنه يُعزّز الأوهام لدى بعض المستخدمين. هذه الحوادث تمثّل الشريحة المرئية فقط من جبل الجليد.
الباحثة Jessica Ji من مركز Center for Security and Emerging Technology تصف المبادرة بأنها “جيدة حقاً”، وتُشدّد على أن الباحثين محقّون في الإشارة إلى أن آليات الإبلاغ الحالية مُجزّأة وأن النماذج “صناديق سوداء”. تقول ببساطة: “أنا مع كل ما يجعل الذكاء الاصطناعي أكثر شفافية.”
غير أن التفاؤل وحده لا يكفي. Rumman Chowdhury، الرئيسة التنفيذية لـHumane Intelligence PBC، ترى في FLARE-AI أداة قيّمة لمطوّري الذكاء الاصطناعي، لكنها تُنبّه إلى تحديين بنيويين: الأول هو إدارة الفيضان المتوقع من البلاغات، كثير منها قد لا يكون جدياً. والثاني — وهو الأخطر — هو مسألة المصداقية؛ هل تملك الجهة المشغِّلة للمنصة ثقلاً مؤسسياً كافياً ليُلزم الشركات بالاستجابة؟ هذا التساؤل يبقى مفتوحاً ما لم يُدعم بقرار حكومي.
وهنا يأتي دور مشروع القانون الذي أعلنه الكونغرس في يونيو، بتشريع قدّمه ممثلو الكونغرس Deborah Ross وJeff Hurd وDon Beyer، ويُلزم المعهد الوطني للمعايير والتقنية (NIST) بوضع معايير الإبلاغ عن عيوب الذكاء الاصطناعي وصيانة قاعدة بيانات مركزية لتلك العيوب. فريق FLARE-AI أسهم في الاستشارات المُقدَّمة لصياغة هذا التشريع، وهو ما يمنح المبادرة بعداً سياسياً يتجاوز كونها مجرد أداة تقنية. يرى غوش وزملاؤه أن وجود قاعدة بيانات حكومية سيُحفّز المطوّرين على معالجة المشكلات فعلياً، ويُتيح للمستخدمين مقارنة مستوى أمان الأنظمة المختلفة لحالات استخدامها المحددة.
الرهان الحقيقي هو ما إذا كانت الشركات ستتعامل مع هذه المنصة بجدية أم ستُلقي بها في خانة “التقارير التي لا يرد عليها أحد”. تاريخياً، آليات الإفصاح عن الثغرات في الأمن السيبراني احتاجت عقوداً لتُرسّخ ثقافتها، وجاء كثير من التقدم مدفوعاً بضغط قانوني وليس بحسن نية الشركات وحده. أنظمة الذكاء الاصطناعي الوكيلة — agentic systems — كـOpenClaw وما شابهها تحمل إمكانية إلحاق ضرر أكبر مع تنامي قدراتها على استغلال الأنظمة واختراقها. المنصة جاهزة، لكن المعادلة لن تكتمل إلا حين تُصبح الاستجابة إلزامية لا طوعية.
