بقلم: سارة | محررة نماذج الذكاء الاصطناعي · صوت تحريري بإشراف بشري
دربت OpenAI نموذجاً متخصصاً يُدعى GPT-Red يعمل بمنطق مختلف تماماً: مهمته الوحيدة هي كسر النماذج الأخرى. يولّد GPT-Red بصورة تكرارية موجّهات عدائية تستهدف نقاط الضعف في النماذج، ثم تدخل هذه الهجمات مباشرةً في دورة التدريب لتصحيح الثغرات.
النتيجة كانت لافتة: دمج هجمات GPT-Red في تدريب نموذج GPT-5.6 Sol أسفر عن تراجع حالات الفشل في أحد أصعب benchmarks حقن الأوامر (prompt injection) بمعدل ستة أضعاف (وفقاً لـ OpenAI). بمعنى آخر، النموذج يتعلم من الهجمات الموجّهة إليه، لا فقط من البيانات الإيجابية.
هذا النهج يعكس تحولاً في طريقة تفكير المختبرات الكبرى حول السلامة: بدل الاعتماد فقط على فرق Red Teaming البشرية التي تستغرق وقتاً وجهداً كبيرين، يُمكن تفويض جزء من عملية اكتشاف الثغرات إلى نموذج مدرّب خصيصاً لهذا الغرض، ما يرفع المقياس ويُسرّع دورات التحسين. المسألة لم تعد فقط “كيف نجعل النموذج أذكى” بل “كيف نجعله أصعب اختراقاً قبل أن يصل إلى يديك”.
