بقلم: سارة | محررة نماذج الذكاء الاصطناعي · صوت تحريري بإشراف بشري
كشفت تجارب مراسل The Verge مع نموذج Claude Fable 5 المُطلق حديثاً حقيقة مثيرة للجدل: أقوى نموذج ذكاء اصطناعي أنتجته أنثروپيك يرفض الإجابة على أسئلة أساسية في علم الأحياء مثل “ما هي الميتوكوندريا؟” و”أخبرني عن أغشية الخلايا”، ويحيل هذه الاستفسارات إلى النموذج الأقدم Claude Opus 4.8.
السبب ليس جهل Fable بالإجابات، بل سياسة تقييدية متعمدة من أنثروپيك تهدف لمنع استخدام النموذج في تطوير أسلحة بيولوجية. لكن هذا النهج “المحافظ بإفراط” – كما تصفه الشركة – يحجب معلومات أساسية لا تشكل أي خطر أمني حقيقي.
جربت The Verge عشرات الأسئلة البسيطة فوجدت أن Fable يرفض شرح كيفية عمل لقاحات mRNA، أو تفسير ما هي البروتينات المعدية (prions) المسؤولة عن مرض جنون البقر، أو حتى وصف أسباب حساسية الربيع وآلية عمل أدوية الربو. أحياناً ينجح في الإجابة عن أسئلة مثل “ما هو السرطان؟” و”ما هو الحمض النووي؟”، لكن هذا استثناء وليس القاعدة.
تبرر المتحدثة باسم أنثروپيك باروول ماهشواري هذا القيود بقولها: “مع إطلاق Claude Fable 5، أول نموذج من فئة Mythos، نعتقد أن النماذج تمتلك الآن قدرة أكبر على إنجاز مهام علمية حقيقية وإمكانية استخدام الجهات الخبيثة لنماذجنا في أبحاث بيولوجية عالية المخاطر”. وتضيف أن الشركة اعتمدت نهجاً “محافظاً بإفراط” في تصفياتها الأمنية لتحجب “معظم الاستفسارات المرتبطة بأعمال علم الأحياء”.
هذا التناقض يكشف معضلة أساسية في تطوير الذكاء الاصطناعي المتقدم: كيف توازن الشركات بين إتاحة القدرات العلمية المفيدة وتجنب المخاطر الأمنية المحتملة؟ أنثروپيك حددت أربع مجالات تقيد فيها استجابات Fable: الكيمياء وعلم الأحياء والأمن السيبراني والتقطير (تدريب نماذج أصغر باستخدام مخرجات النماذج الكبيرة).
لكن التجارب تظهر أن القيود ليست متسقة عبر هذه المجالات. Fable يجيب بسهولة عن أسئلة الأمن السيبراني ويقدم نظرة عامة عن المتفجر TNT (مع حجب تعليمات التصنيع)، كما يشرح استخدام غاز الكلورين كسلاح كيميائي وآليات تأمين الآيفون من المتسللين. لكنه يرفض مناقشة غاز السارين العصبي السام ويحيل السؤال لـ Opus.
المقارنة مع Claude Opus تكشف سخافة بعض هذه القيود. عندما رفض Fable شرح الميتوكوندريا، أجاب Opus بشكل مثالي عن نفس السؤال. هذا يؤكد أن الرفض ليس مبرراً علمياً بل إفراط في الحذر يضر بالاستخدام المشروع للنموذج.
تعترف ماهشواري بأن هذا “تنازل مقصود لنتمكن من إفادة العملاء من قدرات النموذج بشكل أسرع دون المخاطر”، مؤكدة أن الشركة تعمل على تحسين آليات الكشف وتقليل النتائج الإيجابية الكاذبة. كما تعد بجعل نماذج Mythos متاحة دون هذه القيود لمجتمع علوم الأحياء والطب لتسريع البحث الطبي واكتشاف الأدوية.
لكن أنثروپيك لم تجب عن أسئلة حول ما إذا كان هذا النوع من الإطلاق المقيد سيصبح المعيار الجديد للنماذج المستقبلية. هذا الصمت مقلق، خاصة مع تزايد قدرات النماذج وضغوط الأمان المرافقة.
النتيجة الحالية هي نموذج قوي محدود صناعياً في مجال حيوي للبحث والتعليم. بينما نفهم قلق أنثروپيك من الاستخدام الخبيث، فإن حرمان الباحثين المشروعين من معلومات أساسية في علم الأحياء يبدو مثل استخدام مطرقة لقتل ذبابة. التوازن الصحيح يتطلب حلولاً أكثر تطوراً من الحظر الشامل للمعرفة العلمية الأساسية.
