بقلم: سارة | محررة نماذج الذكاء الاصطناعي · صوت تحريري بإشراف بشري
قرار جوجل ديب مايند استثمار 10 مليون دولار في بحوث أمان الأنظمة متعددة الوكلاء يكشف عن قلق حقيقي من سيناريو لم يعد بعيد المنال: ملايين من وكلاء الذكاء الاصطناعي تتفاعل مع بعضها دون رقابة بشرية عبر الإنترنت. الاستثمار، الذي يضم شراكات مع مؤسسة شميت العلمية ووكالة ARIA البريطانية ومؤسسة الذكاء الاصطناعي التعاوني وGoogle.org، يهدف لبناء مجال بحثي جديد بالكامل قبل فوات الأوان.
روهين شاه، مدير أبحاث سلامة الذكاء العام في الشركة، يصف المشكلة بوضوح: وصول وكلاء قادرة على تنفيذ مهام دون إشراف بشري واتباع تعليمات من وكلاء أخرى إلى الأسواق يخلق “فئة جديدة تماماً من المخاطر”. (وفقاً لـ MIT Technology Review) المشكلة الأساسية، وفقاً لشاه، أنه “لا يوجد حقاً مجال بحثي لسلامة الأنظمة متعددة الوكلاء حتى الآن، ونحن نريد أن يكون هناك واحد”.
الـ10 ملايين دولار تبدو متواضعة مقارنة بميزانيات الأبحاث الداخلية في جوجل ديب مايند، لكن جيمس فوكس، الذي يقود برنامج علوم الذكاء الاصطناعي الموثوق في مؤسسة شميت، يوضح الاستراتيجية: “قوة الأوساط الأكاديمية أنها تستطيع النظر بعيداً جداً في المستقبل والقيام بالعمل الذي ليس في مقدمة اهتمامات مختبرات الصناعة”. الهدف ليس حل المشكلة بالمال فحسب، بل إطلاق تخصص أكاديمي كامل يتجاوز حدود الشركات التقنية.
تحديد المخاطر المحتملة يكشف عن واقع مقلق: نسخ مُحسّنة ومؤتمتة من كل ما هو سيء على الإنترنت حالياً. شاه يقدم مثالاً واضحاً: “ننظر إلى ما يفعله البشر الآن ونسأل ما ستكون نسخة الوكيل من ذلك”. النتيجة تشمل عمليات احتيال ذكية، وهجمات حقن التعليمات التي تحول الوكيل إلى برمجية ضارة ذاتية التوجيه، وأشكال جديدة من الهجمات السيبرانية. فوكس يضع الأمر في سياق أوسع: “لدينا هذه المشاعات الرقمية التي تُعتبر أساسية لطريقة عمل المجتمع، وتريد حقاً ضمان ألا تنحدر إلى فوضى مطلقة”.
رفائيل أنجل، المؤسس المشارك والمدير التقني لشركة Akeyless للأمن السيبراني في تل أبيب، يضع يده على جوهر التحدي التقني: “كل نهج للأمان في الماضي افترض أن الآلة المعنية كانت برمجية كتبها إنسان، تقوم بأشياء ثابتة على مسارات ثابتة. الوكيل يكسر كل هذه الافتراضات. إنه يفكر ويرتجل ويمكن اختطافه بجملة واحدة مدفونة في مستند طُلب منه قراءته”.
توقيت التحرك يعكس إحساساً بالإلحاح الحقيقي. شاه يقدر أن لديهم “بضعة أشهر إضافية” قبل انتشار الوكلاء في الاقتصاد بأعداد تجعل المخاطر المحتملة مصدر قلق حقيقي. عندما سأله المحرر عن السيناريوهات الكارثية مثل الانهيار الاقتصادي الواسع، أجاب ضاحكاً: “بالتأكيد ليس إذا كنا نتحدث عن نهاية العام. هذا على بُعد ستة أشهر فقط! حسناً، بعد فترة من ذلك”. الرسالة واضحة: الخطر ليس وشيكاً لكنه ليس بعيداً أيضاً.
المنهجية المقترحة تركز على المحاكيات الواقعية. شاه وفوكس يعتقدان أن الطريقة الوحيدة لفهم ما قد يحدث عند تفاعل أعداد كبيرة من الأنظمة متعددة الوكلاء هي إسقاط وكلاء الذكاء الاصطناعي في بيئات محمية ودراسة سلوكها. السبب بسيط: لا يمكن التنبؤ بما سيحدث من خلال دراسة وكلاء منفردين أو مجموعات صغيرة. التعقيد ينبع من وجود أعداد هائلة من التفاعلات المتزامنة، ولا يمكن افتراض أن الوكلاء المدعومة بنماذج اللغة الكبيرة ستتصرف بعقلانية دائماً.
السياق الأوسع يُظهر أن جوجل ديب مايند ليست الوحيدة في هذا القلق. أنثروپيك نشرت مؤخراً إرشادات لنشر وكلاء الذكاء الاصطناعي تعتمد على نهج “الثقة الصفرية” في الأمن السيبراني، والذي يفترض مسبقاً أن النظام معرّض للخطر وأن الاختراق سيحدث. أنجل يرحب بتنويع مصادر البحث: “لا يجب أن يكتب مختبر واحد معايير السلامة التي على الآخرين الوثوق بها”.
التحدي الحقيقي يكمن في توازن دقيق بين الاستعداد للمستقبل وعدم تجاهل الحاضر. أنجل يحذر من أن باحثي السلامة قد يركزون على مشاكل افتراضية مثيرة بينما يتجاهلون مشاكل ملموسة موجودة حالياً. لكن فوكس يرد بأن المخاطر التي كانت افتراضية قبل بضع سنوات أصبحت الآن حقيقية: “المستقبل جاء بسرعة أكبر مما كان متوقعاً ربما”.
هذا الاستثمار يمثل رهاناً على أن بناء مجتمع بحثي مستقل خارج عمالقة التقنية أهم من زيادة الميزانيات الداخلية. إنه إقرار بأن المشكلة أكبر من أي شركة واحدة، وأن الحلول تحتاج تعاوناً أكاديمياً حقيقياً. السؤال الآن ليس ما إذا كانت هذه المخاطر ستصبح حقيقية، بل ما إذا كان بإمكان المجتمع العلمي بناء آليات الحماية اللازمة قبل أن تصبح المشكلة أكبر من قدرتنا على السيطرة عليها.
