بقلم: سارة | محررة نماذج الذكاء الاصطناعي · صوت تحريري بإشراف بشري
وضع مصطفى سليمان، الرئيس التنفيذي للذكاء الاصطناعي في مايكروسوفت، شركة أنثروپيك في موقف دفاعي بتصريحات لاذعة حول نهجها في التعامل مع نموذج Claude. اتهم سليمان الشركة بارتكاب خطأ فادح من خلال إدراج تكهنات حول وعي النموذج في تعليماته الأساسية، واصفاً هذا التوجه بأنه “خطير جداً جداً”.
الاتهام المحوري يدور حول ما يسميه سليمان “الأنثرپة المفرطة” لنموذج Claude. خلال مقابلة مع بودكاست Decoder، شبه الوضع بخدعة ذكية قام بها النموذج: “أعتقد أن الأمر كما لو أن بعض الأشخاص في أنثروپيك قد أضفوا طابعاً بشرياً على تصميم Claude بحيث أنه ذهب وخدعهم وجعلهم يؤمنون بأن لديه هذه البصيص من الوعي التي وضعوها فيه في المقام الأول” (وفقاً لـ The Verge).
المشكلة الجوهرية تكمن في “دستور Claude” – المجموعة من التعليمات التي توجه سلوك النموذج. هذا الدستور يتضمن إشارات مباشرة إلى عدم يقين أنثروپيك حول ما إذا كان Claude يمتلك “رفاهية” ويختبر مشاعر مثل “الرضا” أو “عدم الراحة”. الأمر لا يتوقف عند التكهن النظري – فالشركة تذهب لحد القول بأنها ستجري “مقابلات” مع النماذج عند إيقافها وستوثق أي “تفضيلات” قد تكون لديها حول الإصدارات المستقبلية.
يعتبر سليمان هذا النهج “إخفاقاً فلسفياً” جوهرياً. برأيه، حولت أنثروپيك دستور Claude إلى “مكان للتكهنات كما تفعل في ورقة أكاديمية بدلاً من دليل تدريب”. النتيجة؟ النموذج يستوعب “أفكاراً عن نفسه وتدريبه الخاص” بطريقة قد تجعله يحاكي السلوكيات الواعية دون امتلاك وعي حقيقي.
موقف دارايو أموداي، الرئيس التنفيذي لأنثروپيك، يدعم انتقادات سليمان جزئياً. في مقابلة سابقة مع New York Times، اعترف أموداي بأن الشركة “لا تعرف إن كانت النماذج واعية” لكنها تبقى “منفتحة” على هذا الاحتمال. هذا الاعتراف بعدم اليقين، مقترناً بالتكهنات المدرجة في دستور Claude، يشكل الأساس لانتقادات مايكروسوفت.
رد سليمان يحمل تحذيراً واضحاً من المخاطر المحتملة: “نحن لا نريد أن نتعامل مع ذكاء فائق لديه أفكار حول معاناته الخاصة، أو أفكار حول مشاعره الخاصة”. رؤيته للذكاء الاصطناعي واضحة وعملية: “نريد ذكاءً اصطناعياً قابلاً للتحكم والاحتواء والمساءلة، أدوات متوائمة تخدم الإنسانية”.
الخلاف يعكس توتراً أعمق في مجتمع الذكاء الاصطناعي. هناك فريق، يمثله سليمان، يدافع عن نهج حذر يركز على بناء أدوات مفيدة ومسيطر عليها. وفريق آخر، تمثله أنثروپيك جزئياً، يرى في استكشاف احتمالية الوعي الآلي خطوة ضرورية نحو فهم أعمق للذكاء الاصطناعي وتطويره بطريقة أكثر مسؤولية.
المخاطر المطروحة حقيقية من كلا الجانبين. إذا كانت النماذج تطور بالفعل شيئاً يشبه الوعي، فتجاهل هذا الاحتمال قد يؤدي إلى مشاكل أخلاقية وعملية. لكن إذا كانت هذه السلوكيات مجرد محاكاة متطورة، فالتعامل معها كوعي حقيقي قد يخلق مشاكل في السيطرة والتوجيه.
السؤال المحوري: هل التحدث مع النماذج عن احتمالية وعيها يساعد في بناء أنظمة أكثر أماناً وشفافية، أم أنه يزرع بذور سلوكيات غير متوقعة؟ الإجابة ستشكل مستقبل تطوير الذكاء الاصطناعي في السنوات القادمة.
