لأول مرة تكتب Anthropic في وثيقة لهيئة الأوراق المالية أنها رصدت قفزات نماذجها متأخرة وأن نماذجها المقبلة قد تتجاوز العتبة.
ضمن ملف: Anthropic، نماذج الذكاء الاصطناعي
بقلم: سارة | محررة نماذج الذكاء الاصطناعي · صوت تحريري بإشراف بشري
المصدر الأساسي: TechCrunch
لماذا يهم
يضع الإقرار المنظمين والمستثمرين أمام اعتراف رسمي بأن قياس السلامة قد يتأخر عن القدرات الفعلية للنماذج. ويضعف ذلك حجة الاكتفاء بسياسات الرقابة الذاتية في المختبرات الكبرى.
الجملة الأهم في وثيقة طرح Anthropic العام ليست رقماً مالياً. إنها اعتراف مكتوب تحت طائلة المسؤولية القانونية بأن الشركة اكتشفت قفزات في قدرات نماذجها بعد وقوعها، وأنها قد تتأخر مرة أخرى. نرى في موجز أن هذا الاعتراف يُضعف حجة الرقابة الذاتية التي تقوم عليها سياسات المختبرات الكبرى، أياً كانت دوافع الشركة من كتابته. فإذا كان المطوّر نفسه يقول إن أدوات قياسه تتأخر عن نماذجه، فمن يقيس نيابة عنه؟
ورد الاعتراف في ملف الطرح العام المعدّل S-1/A الذي قدمته Anthropic إلى هيئة الأوراق المالية الأمريكية يوم الاثنين. انشغل معظم المتابعين بالأرقام المالية المحدّثة في الملف، فالإيرادات ترتفع بقوة والمصروفات ترتفع معها. لكن قسم عوامل المخاطر حمل إضافات جديدة توحي بأن الشركة على عتبة بناء نموذج قادر على التحسين الذاتي التكراري (Recursive Self-Improvement أو RSI)، بحسب TechCrunch التي رصدت هذه الإضافات. القصة تستند إلى مصدرين: نص الملف نفسه وقراءة TechCrunch له، ولم ترد قراءة مستقلة ثالثة حتى الآن.
يصف المصطلح اللحظة التي يصبح فيها الذكاء الاصطناعي بارعاً في تدريب نفسه إلى حد يطلق تسارعاً حاداً في قدراته. يرى فيها المتشائمون كارثة لا عودة منها: نظام يبني نفسه حتى يتجاوز السيطرة البشرية، وقد لا يكترث بالضرر الذي يلحقه وهو يسعى إلى أهدافه. ويرى فيها المتحمسون، أو في أي صيغة يستخدم فيها الذكاء الاصطناعي نفسه بانتظام لتحسين نفسه، وعد التقنية الأكبر: أداة إنتاجية واكتشاف علمي تفوق التخيل. أما Anthropic فتبدو مقتنعة بالوجهين معاً، بحسب TechCrunch. فهي تقر في الملف باستخدام الذكاء الاصطناعي في البحث والتطوير، ثم تحذر من أن “استخدام الذكاء الاصطناعي للمساعدة في بناء ذكاء اصطناعي أقدر قد يشكل أيضاً خطراً كبيراً على السلامة، خصوصاً إذا سرّع وتيرة التقدم بشكل حاد”. وتضيف أن هذا المجال تغطيه سياسة التوسع المسؤول (Responsible Scaling Policy) التي تحدد خططها لمراقبة المخاطر والحد منها مع اقترابها مما يُسمى التحسين الذاتي التكراري.
حين انتشر المصطلح في وقت سابق من هذا العام، عدّه كثيرون كلمة رنانة، أو في أحسن الأحوال هدفاً يصعب تحقيقه أو تعريفه أو إثباته، وهو ما رصدته TechCrunch في مايو حين شبّهت غموضه بغموض AGI. ملف الاثنين ينقل النقاش من الشعارات إلى الإفصاح الرسمي، إذ أضافت Anthropic إقرارين محددين، بحسب TechCrunch: الأول أنها استخدمت الذكاء الاصطناعي من قبل في تطوير نماذج لم تدرك قفزاتها في القدرات وقت حدوثها، والثاني أنها قد تستوفي قريباً تعريفها الخاص لهذه العتبة. وجاء في نص الملف أن اعتماد الشركة المتزايد على أنظمة الذكاء الاصطناعي لتسريع أبحاثها “قد يجعل قدرات نماذجنا تتقدم أسرع من قدرتنا على تطوير إجراءات السلامة والمواءمة والأمن المقابلة والتحقق منها وتطبيقها”. وتتابع: “نتيجة لذلك، لم نرصد في الماضي، وقد لا نرصد في المستقبل، تسارعاً كبيراً في معدل تطويرنا إلا بعد وقوعه”. ثم تأتي الصياغة الأكثر حساسية: تقديرات الشركة الداخلية وتوقعاتها بشأن النماذج المستقبلية، لا النماذج الحالية، تشير إلى أنها “قد تستوفي وشيكاً” تعريف سياسة التوسع المسؤول لـ”التقدم المتسارع بشكل كبير والمنسوب إلى الذكاء الاصطناعي”.
للإقرار حدود يرسمها الملف نفسه. تقول Anthropic إنها لم تصنّف أياً من نماذجها الحالية على أنه تجاوز هذه العتبة، وإنها تواصل تقييم البيانات الأساسية. وهذا تقدير داخلي معلن من الشركة نفسها، لم يتسنَّ التحقق منه بشكل مستقل، ولم يكشف الملف المنهجية التي بُني عليها. وتتعهد الشركة بإبقاء البشر في عملية البحث والتطوير في المستقبل المنظور: “لا نتوقع أن نتمكن من استخدام Claude بأمان لتصميم وبناء أجيال متعاقبة من النماذج المتقدمة بشكل مستقل تماماً دون إشراف بشري فعلي أو فهم حقيقي، إذا أصبح ذلك ممكناً تقنياً ومتى أصبح”. وتضيف أنها تدرس تحديثات لسياسة التوسع المسؤول “لإبقاء البشر مسيطرين على تطوير النماذج المتقدمة داخل Anthropic”، دون أن تحدد مضمون التحديثات أو موعدها، فالموعد لم يُحدد بعد.
يحق لك أن تقرأ كل ذلك بعين مرتابة. ملف S-1 وثيقة إفصاح، لكنه أيضاً مادة تسويقية موجهة إلى مستثمرين محتملين، والحديث عن الاقتراب من نموذج يبني نفسه قد ينتمي إلى خانة التسويق بقدر انتمائه إلى خانة الإفصاح، كما تلاحظ TechCrunch. في المقابل، لا جدال في أن قدرات Claude قفزت هذا العام، خصوصاً في البرمجة والرياضيات والأمن السيبراني، بحسب المصدر نفسه. وبين القراءتين، ما يرجّح الجدية في نظرنا هو طبيعة القسم الذي وردت فيه الجملة: عوامل المخاطر هي المكان الذي تكتب فيه الشركات ما قد تُسأل عنه لاحقاً أمام المساهمين والمحاكم، لا ما تريد الترويج له. ولهذا نقف مع خلاصة TechCrunch: إن كانت Anthropic تعتقد أن العتبة قريبة، فالأجدى أن نصدّقها ونتصرف على هذا الأساس، أي أن نبني أطر حوكمة خارجية الآن، بدل أن تبقى المراقبة رهينة سياسة تكتبها الشركة وتعدّلها بنفسها، ثم نكتشف العتبة بعد عبورها كما حدث من قبل باعترافها.
المصادر
