بقلم: سارة | محررة نماذج الذكاء الاصطناعي · صوت تحريري بإشراف بشري
وقّع قادة أبرز شركات الذكاء الاصطناعي في العالم، بما في ذلك سام ألتمان من OpenAI وداريو أمودي من Anthropic، على رسالة عامة تحث الكونغرس الأميركي على سن قوانين صارمة لمنع استخدام تقنياتهم في تطوير أسلحة بيولوجية. الرسالة التي نشرها معهد التقدم غير الحزبي تعكس قلقاً متزايداً من أن التطورات السريعة في الذكاء الاصطناعي قد تمكّن الجهات الخبيثة من تجاوز الحواجز التقليدية التي تمنع إنتاج الأسلحة البيولوجية.
شمل الموقعون على الرسالة ديميس حاسابيس من Google DeepMind ومصطفى سليمان من Microsoft AI، إلى جانب علماء وخبراء أمن قومي ومدراء تنفيذيين من شركات تصنيع الحمض النووي مثل Twist Bioscience وAnsa Biotechnologies. هؤلاء القادة يدعون إلى إجبار الشركات التي تبيع الحمض النووي والـRNA الاصطناعي على فحص عملائها وطلباتهم لمنع سوء استخدام المواد الجينية.
المشكلة ليست مجرد تخمين مستقبلي. في عام 2017، أثار باحثون كنديون جدلاً واسعاً عندما استخدموا حمضاً نووياً بقيمة 100 ألف دولار طُلب عبر البريد لإعادة تكوين فيروس جدري الخيل المنقرض. النقاد حذروا من أن نفس المنهجية يمكن استخدامها لصناعة فيروس الجدري، وهو فيروس مماثل وقاتل. منذ ذلك الحين، أصبح تصنيع الجينات أرخص بكثير.
ديفيد ريلمان، عالم الأحياء الدقيقة وخبير الأمن البيولوجي في جامعة ستانفورد والموقع على الرسالة، يوضح أن “أدوات الذكاء الاصطناعي تمكّن المستخدم من تحديد المصادر التي يمكن طلب تسلسلات منها دون خضوعها للفحص بسرعة كبيرة. وإذا تم توجيهها بشكل مناسب، يمكنها أيضاً إخباركم بكيفية تغيير طبيعة طلبكم بحيث يصبح من الصعب جداً على أولئك الذين يقومون بالفحص اكتشاف ما تحاولون صنعه”.
الحلول المطروحة تشمل مستويين من الحماية. أولاً، إجبار شركات تصنيع الحمض النووي على فحص كل الطلبات والعملاء للبحث عن “تسلسلات مثيرة للقلق” التي قد تساهم في سمّية الكائن أو قدرته على التسبب في المرض. جيمس ديغانز، نائب رئيس السياسات والأمن البيولوجي في Twist Bioscience، يؤكد أن شركته تدعم تطبيق قواعد رسمية منذ سنوات: “إذا كان لديك تقنية قادرة على تصنيع الحمض النووي، فيجب عليك التأكد من استخدامها بمسؤولية، وجزء من ذلك هو التأكد من فهم ما تصنعه ولمن تصنعه”.
لكن أدوات الفحص ليست مثالية. العام الماضي، نشر باحثون من Microsoft دراسة أظهرت أن أدوات تصميم البروتين بالذكاء الاصطناعي تمكنت من إنتاج تسلسلات جينية خطيرة محتملياً تجاوزت برامج الفحص في الشركات. النماذج اقترحت تسلسلات بروتينية جديدة بهياكل مشابهة لتلك المعروف أنها خطيرة.
هنا تكمن المشكلة الأساسية: الفحص التقليدي يعتمد على قواعد بيانات للتسلسلات المعروفة الخطورة، لكن الذكاء الاصطناعي يمكنه اقتراح تسلسلات جديدة تماماً لها نفس التأثيرات الضارة دون أن تطابق النماذج المعروفة. هذا يتطلب مستوى ثانياً من الحماية: على شركات الذكاء الاصطناعي نفسها أن تطور آليات فحص داخلية.
جيف رالستون، الرئيس السابق لـY Combinator وشريك في Safe AI Fund، يعتقد أن مختبرات الذكاء الاصطناعي التي تملك نماذج بيولوجية يجب أن تقوم بفحص مستخدميها بنفسها: “يجب أن يكون من الصعب جداً، إن لم يكن مستحيلاً، أن تطلب من نموذج مساعدتك في فعل شيء خطير على الفور”.
الوضع الحالي للتنظيم متفاوت. إدارة بايدن وضعت توجيهات فيدرالية تتطلب من العلماء والشركات التي تحصل على تمويل فيدرالي طلب تسلسلات جينية اصطناعية من مقدمين يقومون بالفحص. مشروع قانون من الحزبين قُدم في مجلس الشيوخ هذا العام سيتطلب من جميع مقدمي تصنيع الجينات العاملين في أميركا فحص الطلبات والعملاء للبحث عن جهات خبيثة أو مسببات أمراض خطيرة.
تحدي الإنفاذ معقد. عملية تصنيع الحمض النووي، التي اخترعها العالم آرثر كورنبرغ في الخمسينيات، أصبحت اليوم مؤتمتة تماماً مع عشرات الشركات حول العالم تستخدم أجهزة تصنيع تجارية “لطباعة” وبيع تسلسلات جينية مخصصة. بينما يبيع كثير من المقدمين فقط للباحثين المؤهلين وشركات التكنولوجيا الحيوية والمؤسسات التعليمية، ليس جميعهم يفحصون العملاء أو التسلسلات الجينية المطلوبة.
ريلمان يوافق على أن اللوائح حول إجراءات الفحص هي جزء من الحل فقط: “نظراً لأن الفحص قد يفشل في بعض الحالات، يجب أن تكون لدينا نقاط تحكم أخرى. هنا يجب على شركات الذكاء الاصطناعي التدخل”. الرسالة تحذر من أن “هناك احتمالية حقيقية أن الحواجز المعرفية التي منعت تاريخياً الجهات الخبيثة من الحصول على أسلحة بيولوجية ستتآكل بشكل كبير” نتيجة لسرعة تطوير الذكاء الاصطناعي.
المخاطر ليست نظرية فحسب. بينما كانت هجمات الإرهاب البيولوجي نادرة، فإن لديها القدرة على التسبب في خسائر جماعية وذعر عام وخسائر اقتصادية. القلق الأكبر هو أن مسبب مرض مصمم بالذكاء الاصطناعي يمكن أن يؤدي عمداً أو عن غير قصد إلى جائحة عالمية. تصميم سموم ومسببات أمراض خطيرة جديدة باستخدام نماذج اللغة الكبيرة أصبح ممكناً الآن، رغم أن بعض التدريب البيولوجي ربما لا يزال مطلوباً لصنع فيروس فعال من الصفر.
هذا التحرك من قادة الذكاء الاصطناعي يعكس إدراكاً متنامياً بأن التطورات التقنية السريعة تتطلب تنظيماً استباقياً، وليس رد فعل. النهج المقترح يحمل مخاطر التنظيم المفرط الذي قد يعيق البحث العلمي المشروع، لكن الموقعين يراهنون على أن المخاطر البيولوجية تفوق هذه الاعتبارات. السؤال الآن هو ما إذا كان الكونغرس سيتصرف بالسرعة الكافية لمواكبة التطورات التقنية.
