بقلم: سارة | محررة نماذج الذكاء الاصطناعي · صوت تحريري بإشراف بشري
قرّرت OpenAI تعليق العمل على نموذجها القادم Astra بعد أن كشفت تقييمات داخلية أن النموذج قد يقترب من عتبة “القدرات السيبرانية الحرجة”، وهو ما يعني باختصار: نموذج قادر على تطوير ثغرات برمجية بشكل مستقل دون تدخل بشري يُذكر.
هذا ليس قراراً روتينياً. الشركة التي دأبت على الدفاع عن وتيرة إطلاقاتها المتسارعة تُقرّ هذه المرة بأن نموذجاً من تصميمها تجاوز خطاً داخلياً لا تريد تجاوزه. الحديث عن “autonomous exploit development” — أي توليد أكواد هجومية فعّالة دون إشراف بشري — يضع Astra في فئة مختلفة تماماً عن نماذج المساعدة العامة.
ما يستحق التوقف عنده هو أن OpenAI نفسها هي من اكتشفت هذا الأمر وأعلنت عنه. هذا يضعك أمام سؤال مزدوج: هل نثق بشركة تعترف بأنها بنت شيئاً خطيراً وأوقفته بنفسها؟ أم أن الاعتراف الطوعي هو في حد ذاته دليل على أن منظومة الرقابة الداخلية تعمل فعلاً؟ الإجابتان صحيحتان في آنٍ واحد، وهذا ما يجعل الموقف معقداً.
المشكلة الأعمق أن تصنيف “Critical” لم يُحدَّد بمعيار دولي مُلزم. ما تعدّه OpenAI خطاً أحمر قد لا يتطابق مع ما تعدّه Anthropic أو Google خطاً مماثلاً. وفي غياب إطار تنظيمي موحّد، تظل هذه التقييمات رهينة الحكم الذاتي للشركات، وهو حكم مصلحي بطبيعته — مهما حسنت النوايا. يُذكّرنا هذا بالنقاش الدائر منذ أشهر حول ضرورة هيئات مستقلة تملك صلاحية تقييم نماذج الحدود الفاصلة قبل إطلاقها، لا بعد اكتشاف مشكلاتها.
في المقابل، ثمة قراءة أكثر تفاؤلاً: شركة بحجم OpenAI وبضغوط المنافسة مع Anthropic وGoogle وxAI اختارت أن تُبطئ لا أن تتسابق. هذا يعني أن آليات التقييم الداخلي أنتجت نتيجة عملية ملموسة، لا مجرد وثيقة سياسة تُنشر ثم تُطوى. لكن الفريق الأكثر تشككاً سيلاحظ أننا لا نعلم كم استمر العمل على Astra قبل اكتشاف هذه القدرات، ولا ما الذي تسرّب من معرفة بنائية إلى النماذج الأخرى المطلقة مسبقاً.
المسألة السيبرانية تحديداً حساسة بما يكفي لأن تستدعي الجدية. نماذج قادرة على توليد ثغرات قابلة للاستغلال تُغيّر موازين الهجوم والدفاع الرقمي، وتمنح أطرافاً بعينها — دولاً أو جماعات — قدرة تدميرية كانت حتى الأمس حِكراً على فِرق متخصصة تعمل لسنوات. إيقاف Astra لا يوقف هذا السباق، لكنه يُعلن على الأقل أن أحد المتنافسين الكبار يعترف بوجوده.
الموقف الذي تجده موجز هو أن الشفافية وحدها ليست ضماناً. ما تحتاجه صناعة النماذج الكبرى ليس فقط شركات تُوقف نماذجها طوعاً، بل معايير مستقلة وقابلة للتدقيق تحدد متى يجب الإيقاف ومن يملك صلاحية إعادة التشغيل.
