بقلم: سارة | محررة نماذج الذكاء الاصطناعي · صوت تحريري بإشراف بشري
تراجعت شركة أنثروپيك عن سياسة مثيرة للجدل كانت ستحد سرياً من قدرة المنافسين على استخدام نموذجها الجديد Claude Fable 5 لتطوير نماذج ذكاء اصطناعي أخرى. جاء هذا التراجع بعد انتقادات حادة من مجتمع الباحثين الذين وصفوا هذه السياسة بـ”التخريب السري”.
أعلنت الشركة في بيان لمجلة WIRED: “نحن نغير ضمانات Fable 5 الأمنية لتطوير النماذج اللغوية المتقدمة لتصبح مرئية. لقد اتخذنا المقايضة الخاطئة ونعتذر عن عدم تحقيق التوازن الصحيح.” هذا الاعتراف المباشر بالخطأ يكشف عن حجم الضغط الذي واجهته الشركة من المجتمع التقني.
كانت أنثروپيك قد أطلقت Claude Fable 5 هذا الأسبوع مع ضمانات أمنية إضافية مصممة لمنع إساءة الاستخدام. بعض هذه الضمانات كان متوقعاً – كتوجيه المستخدمين الذين يسألون عن الأمن السيبراني أو البيولوجيا أو الكيمياء إلى نموذج أقل قدرة لتقليل مخاطر استخدام الذكاء الاصطناعي المتقدم في هجمات سيبرانية أو بناء أسلحة بيولوجية.
لكن النهج الأكثر إثارة للجدل كان مخصصاً للباحثين الذين يحاولون استخدام Claude Fable 5 لتطوير ذكاء اصطناعي متقدم. كانت الشركة تخطط لتدهور أداء النموذج بطرق غير مرئية للمستخدم – وهو ما يعني فعلياً تخريب الباحثين الذين يحاولون استخدام Claude لتدريب نماذج ذكاء اصطناعي منافسة، وهو أمر تحظره أنثروپيك صراحة في شروط الخدمة.
هذا النهج أثار غضباً شديداً في مجتمع البحث. ديان بول، الزميل الأول في مؤسسة الابتكار الأمريكية والمستشار السابق للبيت الأبيض في شؤون الذكاء الاصطناعي، كتب في منشور على X: “تدهور الأداء في أبحاث التعلم الآلي *دون إخبار المستخدم* أمر عدائي بشكل صادم ومظهر سيء للغاية.” وأضاف في منشور آخر أن سياسة “التخريب السري” تقوض موقف أنثروپيك العام لأنها تحد من تعاون باحثي الذكاء الاصطناعي في مجال الأمان.
ويل براون، مدير البحث في شركة Prime Intellect الناشئة للذكاء الاصطناعي مفتوح المصدر، عبّر عن قلقه: “شعرت وكأن أنثروپيك تقول للجمهور: ‘نحن لا نثق في أي شخص آخر للقيام بأبحاث الذكاء الاصطناعي. نحن الوحيدون الذين يجب أن نقوم بأبحاث الذكاء الاصطناعي.’ يبدو الأمر وكأنهم يبدؤون في سحب السلم خلفهم.”
المشكلة لم تكن فقط في المبدأ، بل في التطبيق العملي أيضاً. براون أشار إلى أن هذه السياسة كانت ستترك المطورين في الظلام حول ما إذا كانوا ينتهكون قواعد أنثروپيك، لأن الشركة لن تنبههم عند تشغيل ضماناتها الأمنية. والأهم من ذلك، كانت القيود قد تؤثر على نطاق واسع – مثل النظام البيئي المتنامي لشركات التقييم المستقلة التي تختبر النماذج المتقدمة للأمان والأداء والموثوقية.
دفاع أنثروپيك عن السياسة الأصلية كان مبنياً على فعالية Claude المتزايدة في تسريع أبحاث الذكاء الاصطناعي. في منشور مدونة حديث، قالت الشركة إنها قلقة من أن الذكاء الاصطناعي قد يحسن قدراته بشكل أسرع مما يمكن للمجتمع التكيف معها، مما يبرر إبطاء أو إيقاف تطوير الذكاء الاصطناعي المتقدم مؤقتاً للسماح للهياكل المجتمعية وأبحاث التوافق باللحاق بالركب.
لكن الشركة ادعت أيضاً أن هذه الضمانات تمنع “الخصوم الأجانب” من استخدام نماذجها الأكثر قدرة بطرق تشكل مخاطر أمنية شديدة، مشيرة إلى أن الولايات المتحدة وحلفاءها يحتفظون بميزة في الرقائق المتقدمة والبرمجيات المحسنة للغاية التي تشغلها بكامل إمكاناتها.
الآن، مع جعل الضمانات مرئية بدلاً من مخفية، تعترف أنثروپيك بأنها ستحتاج إلى “إلقاء شبكة أوسع”، مما يعني أن المزيد من الطلبات البريئة قد تؤدي إلى تشغيل ضماناتها الأمنية. تقول الشركة إنها تعمل على جعل مصنفاتها أكثر دقة بأسرع ما يمكن.
هذا التراجع يضعك أمام سؤال أساسي: هل يجب على شركات الذكاء الاصطناعي الكبرى أن تتصرف كحراس للتكنولوجيا، أم أن هذا النوع من التحكم يخنق الابتكار المفتوح الذي بنى هذا المجال؟ موقفنا في موجز واضح – الشفافية في القيود أفضل من التخريب السري، لكن النقاش الأوسع حول من يجب أن يتحكم في تطوير الذكاء الاصطناعي ما زال بحاجة إلى حوار عام أوسع من قاعات مجالس إدارات الشركات التقنية.
