الأوزان نفسها التي يعمل بها GPT-6 Astra، لكن برفض أقل بيولوجياً، وتصنيف High في البيولوجيا وCritical في الأمن السيبراني.
ضمن ملف: نماذج الذكاء الاصطناعي، OpenAI
بقلم: سارة | محررة نماذج الذكاء الاصطناعي · صوت تحريري بإشراف بشري
المصدر الأساسي: OpenAI Deployment Safety Hub
لماذا يهم
يحصل باحثو الأدوية والمعاهد والجهات الحكومية المقبولون على نموذج أقل تحفظاً في البيولوجيا مزدوجة الاستخدام، فيما تنتقل مسؤولية ضبط الخطر من سلوك النموذج إلى مراجعة OpenAI للمتقدمين.
النموذج البيولوجي الجديد من OpenAI لا يعرف أكثر من النموذج الرئيسي للشركة، لكنه يجيب أكثر. يعمل GPT-Rosalind-6 بالأوزان نفسها التي يعمل بها GPT-6 Astra، نموذج الاستدلال الرئيسي لدى الشركة. ويرفض عدداً أقل من الأسئلة البيولوجية “مزدوجة الاستخدام”، أي المعرفة التي تخدم البحث العلمي وقد تُستغل للأذى في الوقت نفسه. في المقابل لا يُتاح إلا عبر “وصول موثوق” يمر بمراجعة مسبقة لكل جهة تطلبه، (وفقاً لـ OpenAI). كل ما يلي مصدره وحيد هو ملحق بطاقة النظام الذي نشرته الشركة نفسها، ولم يتسنَّ التحقق منه بشكل مستقل.
تقدّم OpenAI النموذج بصيغة GPT-Rosalind-6 Research، وتصفه بأنه نموذج استدلال متقدم للبيولوجيا واكتشاف الأدوية والطب الانتقالي. الفئات المؤهلة بحسب الملحق أربع: العلماء المؤهلون، ومعاهد البحث، والشركات، والشركاء الحكوميون. وقبل منح الوصول تراجع الشركة ثلاثة أمور في كل طلب: الاستخدامات المقترحة، وضوابط الأمن لدى الجهة، وممارسات الحوكمة فيها. وتقول إن ضمانات نشر أخرى تبقى قائمة إلى جانب هذه المراجعة. التخفيف كذلك ليس مطلقاً، بحسب OpenAI. النموذج مصمم لدعم البحث البيولوجي المشروع، ومنه بعض الموضوعات مزدوجة الاستخدام، لكنه يواصل رفض أي طلب يتعلق بالتسليح البيولوجي ويحتفظ بالرفض في موضوعات السلامة الأخرى.
تصنيفات الخطر هي أكثر ما يلفت في الملحق. وضعت OpenAI هذا الإطلاق ضمن إطار الجاهزية (Preparedness Framework) الخاص بها عند مستوى High في المجال البيولوجي والكيميائي، أي دون عتبة Critical (وفقاً لـ OpenAI). أما بقية المخاطر فلم تُقيَّم من جديد. اعتمدت الشركة على تقييمات GPT-6 Astra، فعاملت GPT-Rosalind-6 على أنه Critical في الأمن السيبراني ودون High في التحسين الذاتي للذكاء الاصطناعي (وفقاً لـ OpenAI). وهذه كلها تقييمات أجرتها الشركة على نموذجها بنفسها. النتيجة منطقية مع الأوزان المشتركة لكنها تستحق أن تُقال صراحة: من يحصل على نموذج “للبيولوجيا” يحصل معه على قدرات سيبرانية تصنّفها الشركة في أعلى درجات خطرها.
يغطي الملحق ثلاثة محاور: تقييم القدرات البيولوجية، وتقييمات إضافية للسلامة والمواءمة، وضمانات النشر. ويعرض نتائج الإصدار السابق GPT-Rosalind-5.5 للمقارنة حيث تتوفر، بحسب OpenAI. وتطلب الشركة قراءته مع بطاقة نظام GPT-6 Astra التي تشرح تقييمات القدرات والسلامة الأوسع للنموذج الأم. المقتطف المتاح لنا لا يتضمن أرقام تلك المقارنة. ولا يذكر سعراً، ولا موعداً لفتح باب الطلبات، ولا معايير قبول قابلة للقياس، ولا قائمة بالدول أو المناطق المؤهلة. لم يُحدد شيء من ذلك بعد.
الحجة لصالح هذا النهج واضحة. باحث يعمل على لقاحات أو مسببات أمراض يصطدم يومياً بنماذج عامة ترفض أسئلة مشروعة، ونموذج يعرف من يحادثه يمكنه أن يكون أكثر فائدة دون أن يصبح متاحاً للجميع. لكن هذا الترتيب ينقل عبء الأمان من سلوك النموذج إلى بوابة إدارية لا يراها أحد من الخارج. نرى في موجز أن الفكرة قابلة للدفاع عنها، وأن مصداقيتها لن تُبنى على ملحق تصف فيه الشركة نفسها. تُبنى على نشر معايير القبول، وعدد الطلبات المرفوضة، وخضوع آلية المراجعة لتدقيق جهة مستقلة. وإلى أن يحدث ذلك، هل تكفي ثقتك في شركة تقيّم نموذجها بنفسها وتختار بنفسها من يستحق الوصول إليه؟
المصادر
- GPT-Rosalind-6 System Card Addendum – OpenAI Deployment Safety Hub deploymentsafety.openai.com
- GPT-6 Astra System Card – OpenAI Deployment Safety Hub deploymentsafety.openai.com
