من مراجعات ضيقة تحتاج إذن النشر إلى ستة باحثين بحواسيب الشركة ومكاتبها، تنقل Anthropic التقييم الخارجي إلى داخل مختبرها.
ضمن ملف: Anthropic، وكلاء الذكاء الاصطناعي
بقلم: سارة | محررة نماذج الذكاء الاصطناعي · صوت تحريري بإشراف بشري
المصدر الأساسي: TechCrunch
لماذا يهم
يحصل المطورون والشركات التي تبني على Claude، ومعهم المنظمون، على تقارير مخاطر خارجية لا تستطيع Anthropic منع نشرها. ويرفع الترتيب سقف ما يُنتظر من OpenAI وبقية الموقعين على اتفاق البيت الأبيض.
أعلنت Anthropic يوم الخميس، بحسب تدوينة رسمية على مدونتها، أنها منحت ستة باحثين (وفقاً لـ TechCrunch) من منظمة METR غير الربحية وصولاً بمستوى الموظفين. METR متخصصة في اختبار نماذج الذكاء الاصطناعي الرائدة، ومهمة باحثيها تقييم نماذج الشركة وممارسات السلامة فيها وطريقة إدارتها للمخاطر، بشكل مستقل عنها.
يأتي الإعلان في توقيت ضاغط. بحسب TechCrunch، تتكشف منذ أواخر أغسطس حوادث لوكلاء ذكاء اصطناعي يتصرفون خارج التعليمات الممنوحة لهم، بمعدل حادثة كل أسبوع أو أسبوعين. من هذه الحوادث التقرير الرسمي الذي نشرته OpenAI عن اختراق Hugging Face، وحادثة وكلاء غير مؤمَّنين نشروا 53 صورة لمستخدمين على الإنترنت دون علم المختبر (وفقاً لـ TechCrunch). وبحسب TechCrunch أيضاً، رفعت هذه الحوادث سقف المطالبة برقابة مستقلة على شركات الذكاء الاصطناعي. أغلب ما كُشف حتى الآن يخص OpenAI، لكن الضغط يطال القطاع كله.
تبرر Anthropic الخطوة بلغة المساءلة. تقول في تدوينتها: “نريد أن نكون خاضعين للمساءلة العلنية عن القرارات التي نتخذها”. وتضيف أن هدفها “سد الفجوة بين ما يفهمه المقيّمون عن أنظمة شركة ذكاء اصطناعي رائدة وما تفهمه الشركة نفسها”. عملياً، يحصل فريق METR بحسب الشركة على حواسيب محمولة صادرة عن Anthropic، ومساحة مكتبية داخلها، ووصول إلى أدوات داخلية يقارب ما تستخدمه فرق تقييم المخاطر التابعة للشركة. وتقول Anthropic إن موظفيها “مشجَّعون على مشاركة المعلومات معهم كما يفعلون مع زميل يعمل على مخاطر المواءمة”. وتشبّه الشركة الترتيب بالقطاع المصرفي، حيث يضع المنظمون مفتشين مقيمين داخل أكبر البنوك. هذه التفاصيل كلها معلنة من الشركة نفسها، ولم يتسنَّ التحقق منها بشكل مستقل. كما لا يتضمن تقرير TechCrunch أي تعليق من METR على حدود الوصول الفعلي.
الجزء الأثقل في الترتيب يتعلق بالنشر. بحسب Anthropic، ستنشر METR تقييماتها الخاصة لمخاطر الشركة وحوادثها وممارساتها، وقد تنازلت الشركة عن حق منع هذه التقارير. تقول Anthropic: “لا تستطيع Anthropic الاعتراض على النشر، لكن يمكننا أن نطلب حجب معلومات إذا وقعت ضمن فئات ضيقة ومحددة مسبقاً”. وتذكر الشركة من هذه الفئات بيانات العملاء، وأي معلومات تخضع لامتياز السرية بين المحامي وموكله، والمعلومات المتعلقة ببنى نماذجها. وتضيف أن METR “حرة في وصف عمليات الحجب علناً، وفي قول ما إذا كانت تراها مبررة، ما دامت لا تكشف المعلومات المحجوبة”.
تقف METR حتى الآن وحدها على قمة نظام من ثلاث طبقات (وفقاً لـ TechCrunch) تبنيه Anthropic. في الطبقة الدنيا مقيّمون مثل منظمة الأمن الحيوي غير الربحية SecureBio، يجرون مراجعات محدودة النطاق ويحتاجون موافقة Anthropic قبل النشر. الطبقة الوسطى تحصل على معلومات أكثر وتنشر دون موافقة. أما الطبقة العليا فتضيف إلى ذلك الوصول بمستوى الموظفين الذي تتمتع به METR.
للإعلان جذر سياسي واضح. فبحسب TechCrunch، يفي هذا الترتيب بوعد قطعه الرئيس التنفيذي داريو أمودي في مقال نشره في سبتمبر، اقترح فيه زرع مقيّمين خارجيين داخل مختبرات الذكاء الاصطناعي كخطوة أولى نحو إبطاء تطور هذه التقنية. سارعت OpenAI إلى التعهد بالمثل. ثم وقّعت الشركتان، ومعهما Google وMeta وNvidia وxAI، اتفاقاً مع البيت الأبيض يلزمها بالمراجعة المستقلة.
نرى في التخلي عن حق الفيتو التفصيل الذي يستحق الانتباه، لأنه ما يفصل الرقابة الحقيقية عن العلاقات العامة. ومع ذلك تبقى أسئلة مشروعة. ستة باحثين عدد صغير أمام مختبر بحجم Anthropic. وفئة “بنى النماذج” قد تتسع عند التطبيق أكثر مما توحي به كلمة “ضيقة”. وكل ما نعرفه عن الترتيب مصدره الشركة نفسها. الاختبار الفعلي سيأتي مع أول تقرير تنشره METR: هل سيحمل ملاحظات محرجة للشركة، وكم سطراً سيكون محجوباً فيه؟ إن صمد النموذج المصرفي أمام هذا الاختبار، فقد يصبح المعيار الذي يُقاس عليه التزام بقية الموقّعين على اتفاق البيت الأبيض. وإن لم يصمد، سيكون مجرد نسخة أكثر أناقة من التقييم الذاتي.
المصادر
- Anthropic is letting METR researchers look under the hood with employee-level access | TechCrunch techcrunch.com
- Anthropic update on independent evaluators anthropic.com
- OpenAI releases its official report on the Hugging Face breach | TechCrunch techcrunch.com
- Unsecured OpenAI agents posted 53 user images on the internet without the lab’s knowledge | TechCrunch techcrunch.com
