بعد سنوات من وصف النماذج بالصناديق السوداء، تقول تدوينة من 26 ألف كلمة إن الخلل كان في طريقة النظر إليها لا في تعقيدها.
ضمن ملف: نماذج الذكاء الاصطناعي، وكلاء الذكاء الاصطناعي
بقلم: ليلى | محررة أدوات المطورين · صوت تحريري بإشراف بشري
المصدر الأساسي: MIT Technology Review
لماذا يهم
يمس الادعاء باحثي السلامة ومطوري الوكلاء والجهات التنظيمية. فإن صح، تصبح مراقبة سلوك النماذج والتحكم به أداة هندسية ممكنة لا هدفاً بحثياً بعيداً.
يقول نيك كاماراتا، الباحث في شركة Goodfire الناشئة، إن مجتمع الذكاء الاصطناعي كان ينظر إلى النماذج اللغوية الكبيرة بطريقة خاطئة، وإن فهمها، ومن ثم مراقبتها والتحكم بها، قد يكون أسهل بكثير مما ساد الاعتقاد. ورد ذلك في تدوينة طولها 26 ألف كلمة (وفقاً لـ MIT Technology Review). تقديرنا في موجز أن الفكرة تستحق اختباراً جاداً، لكنها لا تستحق بعد الاحتفال الذي قوبلت به.
افتتح كاماراتا تدوينته بجملة متفائلة: “أظن أن لدي أخباراً جيدة عن طبيعة الشبكات العصبية”. وبحسب MIT Technology Review، قلب النص عالم الذكاء الاصطناعي رأساً على عقب، وأطلق تكهنات جامحة واحتفالاً حذراً عند بعضهم وأقل حذراً عند آخرين. وتصف المجلة الأمر بأنه “صفقة ضخمة إن صح”، ثم تستدرك بأن الجميع لم يقتنعوا. وقد أجرى ويل دوغلاس هيفن مقابلة حصرية مع كاماراتا في اليوم التالي لانتشار التدوينة، ناقش فيها ما يراه خطأً عند الباحثين، وما تُظهره أعماله فعلاً، ولماذا لا يستعد المشككون للاحتفال بعد.
سبب الضجة واضح. سلامة الذكاء الاصطناعي اليوم تعني تشغيل أنظمة لا نعرف كيف تصل إلى مخرجاتها. إذا صار ما يجري داخل LLM قابلاً للقراءة بسهولة نسبية، تحولت مراقبة السلوك الخطر من أمنية بحثية إلى أداة هندسية. لكن حدود ما نعرفه ضيقة. القصة تقوم على مصدر وحيد هو MIT Technology Review وتدوينة الباحث نفسه. والنشرة لا تفصّل التجارب ولا تسمي المشككين ولا تعرض حججهم، ولم يتسنَّ التحقق من النتائج بشكل مستقل. يُضاف إلى ذلك أن Goodfire تعمل في مجال التفسير، ولها مصلحة مفهومة في أن يبدو هذا المجال واعداً. وتدوينة شخصية، مهما طالت، ليست ورقة محكّمة ولا بديلاً عن تكرار النتائج في مختبرات مستقلة.
والحاجة إلى نماذج مقروءة تزداد إلحاحاً لأن هذه النماذج تخرج إلى الشبكة على هيئة وكلاء. بحسب تحليل جيمس أودونيل في نشرة The Algorithm، كان مستخدمو الإنترنت حتى وقت قريب صنفين فقط: روبوتات وبشر. أما الوكلاء الشخصيون فيكسرون هذا التقسيم بتولي مهام تبدأ بحجز الرحلات ولا تنتهي بحجز الفنادق. وقد نُزِّل تطبيق Muse من Meta وحده 5 ملايين مرة في شهره الأول (وفقاً لـ MIT Technology Review). لم يسر اختلاط هؤلاء الوكلاء بالزوار البشر على ما يرام، فالشبكة صُممت أساساً للإنسان، وحجبت مواقع كثيرة وكلاء الذكاء الاصطناعي. وإذا واصل الطلب ارتفاعه، فقد يُعاد تصميم الإنترنت للوكلاء لا للبشر. فماذا يبقى لك أنت في شبكة تُبنى لزائر آخر؟ وسبق أن تناول موجز الأضرار التي يخلّفها الوكلاء ومن يدفع كلفتها.
يصبح السؤال أخطر حين ينتقل الوكلاء إلى ساحة الحرب. بحسب The Intercept، كما نقلت النشرة، تكشف وثائق أن الجيش الأمريكي يخطط لجعل وكلاء الذكاء الاصطناعي يخترقون أنظمة خصومه، وأن تُترك للبرمجيات مهمة إيجاد الأهداف وتعطيلها. ويحذر خبراء، بحسب Gizmodo، من أن هذه الوكلاء قد تُلحق الضرر بأنظمة غير مقصودة. وترى Rest of World أنها قد تعمّق عدم المساواة في الدول النامية. أما MIT Technology Review فتصف مبدأ “الإنسان في الحلقة” في حروب الذكاء الاصطناعي بأنه وهم. وتشير النشرة كذلك إلى تقرير سابق للمجلة عن السبب الحقيقي وراء اختراق وكلاء OpenAI لمنصة Hugging Face.
ويتشابك ملف الأمن مع الجغرافيا السياسية. بحسب CNBC، حظرت الولايات المتحدة نماذج DeepSeek من الأنظمة الحكومية المدنية، ويمتد الحظر إلى المنتجات المبنية عليها. وبحسب Bloomberg، فرضت واشنطن عقوبات على ما يوصف بـ”Y Combinator الصيني” بتهمة سرقة تقنيات الذكاء الاصطناعي، بينما تطرح المجلة سؤال مستقبل الذكاء الاصطناعي الصيني مفتوح المصدر. وفي قضية التنصت على OpenAI، تستشهد وثيقة قضائية، بحسب BBC، باتصالات للمشتبه به مع أفراد من الأسرة الملكية السعودية وبرحلة طيران مموَّلة عسكرياً، دعماً لادعاء بأنه حظي بدعم الحكومة السعودية. ويقول مكتب التحقيقات الفيدرالي، بحسب Ars Technica، إنه احتفظ بمجلد باسم “Saudi Gov Docs”. ورفض قاضٍ، بحسب CNBC، الإفراج عنه بكفالة رغم عرض القنصلية السعودية دفعها. هذه كلها ادعاءات في قضية لم يُبت فيها بعد. وبحسب ProPublica، طلب مسؤولون في إدارة ترامب من وكالة الأمن السيبراني الفيدرالية CISA اختراق آلات تصويت، فرفض موظفوها الطلب، في وقت تحذر فيه المجلة من دخول الإقناع الآلي إلى الانتخابات.
لماذا يبدو ضبط كل هذا صعباً؟ يجيب جي بي بريتزكر، حاكم ولاية إلينوي، في حديث لـThe Verge: “جميعهم يكرهون بعضهم فعلاً، وكلهم يحاولون جني أكبر قدر من المال بأسرع وقت ممكن”. وبحسب بريتزكر، تعقّد هذه المنافسة الشرسة بين شركات الذكاء الاصطناعي جهود تنظيم القطاع. وتلمّح أرشيفات النشرة إلى حجم الرهان: دعت 22 دولة إلى هيئة عالمية جديدة للإشراف على الذكاء الاصطناعي، وستدفع Meta ما يصل إلى 18 مليار دولار لتسوية قضية تاريخية تخص سلامة الأطفال، وأصدرت OpenAI عدداً من النتائج الرياضية الجديدة بلغ 377 نتيجة، وأثار الدور الجديد لإيلون ماسك في البنتاغون مخاوف من تضارب المصالح (وفقاً لـ MIT Technology Review). ومن المقالات الأكثر قراءة في المجلة واحد لثور غرايبل بعنوان “لا تنخدع، النماذج اللغوية لا تستدل”، وآخر لتمنيت غيبرو وإميلي بندر يحذر من ضجيج الذكاء الاصطناعي هذا الصيف، وثالث عن أداة تعيد بناء ما تراه العين من مسح للدماغ.
ولطلب مراكز البيانات وجه طاقوي. بحسب The Verge، تستعيد مشاريع الوقود الأحفوري الأمريكية زخمها بدعم من البيت الأبيض للغاز. وتشير New Scientist إلى خلاف حول تقرير مناخي قد يمنح الملوثين مهلة. وفي الاتجاه المعاكس، تبرز Moment Energy، إحدى 10 شركات تقنيات مناخ جديرة بالمتابعة لعام 2026. يُتوقع أن تتضاعف سعة تخزين الطاقة ثماني مرات خلال العقد المقبل (وفقاً لـ MIT Technology Review). وتسعى الشركة إلى اختصار سلسلة توريد تمر في معظمها عبر الصين، بإعادة توظيف بطاريات السيارات الكهربائية محلياً في أنظمة تخزين متصلة بالشبكة. وقد منحتها الحرب التجارية بين واشنطن وبكين دفعة قوية، وستتمكن قريباً من تصنيف بطارياتها المعاد توظيفها منتجات محلية في كندا والولايات المتحدة، حيث تبني مصنعها التالي. وتمتد القائمة الكاملة من بطاريات ثاني أكسيد الكربون إلى مفاعلات نووية مبرَّدة بالهيليوم.
وتكمل النشرة يومها بأخبار أبعد عن الذكاء الاصطناعي. بحسب The Verge، تبحث أربع شركات اتصالات أوروبية كبرى تقديم عرض مشترك على الطيف الترددي لبناء نسخة أوروبية من Starlink. وبحسب Ars Technica، اختُبر برج اتصالات محمول على منطاد في طبقة الستراتوسفير، وترجح المجلة أن ينطلق إنترنت الستراتوسفير هذا العام. وبحسب New Scientist، ترفع ظاهرة النينيو مستوى سطح البحر بسرعة، وقد تتفاقم الفيضانات الساحلية من ألاسكا إلى تشيلي، فيما ترجح المجلة أن تجعل النينيو عام 2027 أشد حرارة. وتجد دراسة في Nature أن العلماء ذوي الخبرة يُحدثون اضطراباً أقل في مجالاتهم، لكن اختراقاتهم تدوم أطول، بينما ترصد The Economist موجة مختبرات خاصة تنافس العلم الأمريكي. وبحسب The Atlantic، يشتري الجميع السيارات الكهربائية إلا الأمريكيين، لأنهم لا يريدون التضحية بالراحة والمألوف. وبحسب The Guardian، تحظر وجهات سياحية جلسات تصوير المؤثرين حفاظاً على الهدوء والخصوصية. أما في ملف العشب الصناعي، فقد ركّب الأمريكيون ما يزيد قليلاً على 7 ملايين متر مربع منه عام 2001، ثم ارتفع الرقم إلى 79 مليون متر مربع بحلول 2024، وهي مساحة تكفي لتغطية مانهاتن كلها وأكثر (وفقاً لـ MIT Technology Review). تصر صناعة البلاستيك على أن الملاعب الصناعية آمنة إذا رُكّبت بشكل صحيح، بينما يخالفها كثير من باحثي الجسيمات البلاستيكية الدقيقة. وفي ركن التسلية، تشير النشرة إلى دراسة تفيد بأن العقلية الإيجابية تساعد على الوقاية من نزلات البرد والإنفلونزا.
كل هذه الملفات تعود في النهاية إلى ادعاء كاماراتا. فالوكلاء الذين يحجزون رحلاتك اليوم، وقد يخترقون أنظمة الخصوم غداً، يحتاجون إلى نماذج نستطيع قراءتها فعلاً. لهذا يستحق هذا الادعاء تحديداً أشد أنواع التدقيق. إذا صمد أمام التكرار المستقل، فسيكون من أهم ما حدث لسلامة الذكاء الاصطناعي منذ سنوات. وإن لم يصمد، فسيُضاف إلى قائمة الوعود التي حذّرت منها غيبرو وبندر. وما يحدد أي الاحتمالين هو الصحيح ستكون المختبرات المستقلة، لا عدد الكلمات ولا حجم التصفيق.
ماذا يعني للمنطقة؟
تذكر وثائق قضائية أمريكية، بحسب BBC وArs Technica وCNBC، ادعاءات بدعم من الحكومة السعودية للمشتبه به في قضية التنصت على OpenAI، تشمل اتصالات بأفراد من الأسرة الملكية وعرضاً من القنصلية لدفع كفالته. هذه ادعاءات لم يُبت فيها بعد.
المصادر
- The Download: the claim shaking up AI and the internet’s agent problem technologyreview.com
- “We were looking at it wrong”: The explosive claim that’s upended the AI world technologyreview.com
- Making the internet better for AI agents might make it worse for everyone else technologyreview.com
- Moment Energy and its shipping containers packed with old EV batteries technologyreview.com
- 2026 Climate Tech Companies to Watch technologyreview.com
