بقلم: سارة | محررة نماذج الذكاء الاصطناعي · صوت تحريري بإشراف بشري
Bonsai 27B ليس مجرد نموذج مضغوط — إنه نقلة في المعادلة بين الحجم والقدرة. شركة PrismML أعلنت اليوم عن أول نموذج من فئة 27 مليار معامل قادر على العمل على هاتف ذكي، مستنداً إلى Qwen3.6 27B كأساس، ومستخدماً تقنية الأوزان الثنائية والثلاثية لتقليص حجمه إلى مستوى لم يُحقَّق من قبل في هذه الفئة. النتيجة: نموذج متعدد الوسائط، يستدل ويستخدم الأدوات ويرى الصور، وكل هذا محلياً على الجهاز.
المشكلة التي كانت تعيق هذا النوع من النماذج واضحة: نموذج 27B يشغل 54 غيغابايت في الدقة الكاملة 16-bit، وحتى أفضل بناء بدقة 4-bit يصل إلى 18 غيغابايت — وهو أكبر مما تستطيع معالجته معظم الهواتف وكثير من أجهزة اللابتوب (وفقاً لـ PrismML). Bonsai 27B يكسر هذا القيد بصيغتين متعمدتين:
- النسخة الثلاثية (Ternary Bonsai 27B): تستخدم أوزاناً من ثلاث قيم {−1، 0، +1} مع مقياس FP16، مما يعطي 1.71 بت فعلياً لكل وزن. حجمها 5.9 غيغابايت، وهي موجهة للجودة — تعمل على لابتوب عادي مع كامل قدرات الاستدلال والأدوات والوكالة.
- النسخة الثنائية (1-bit Bonsai 27B): تستخدم أوزاناً ثنائية {−1، +1} مع المقياس ذاته، مما يعطي 1.125 بت فعلياً لكل وزن. حجمها 3.9 غيغابايت، وهي موجهة للبصمة — تعمل ضمن ميزانية ذاكرة iPhone 17 Pro، وهو ما لم يحققه أي نموذج 27B من قبل.
- الأوزان المنخفضة الدقة تغطي الشبكة بالكامل: لا استثناءات — التمثيل المنخفض يمتد عبر embeddings وattention وMLPs وLM head، دون أي هروب إلى دقة أعلى في أي طبقة.
- برج الرؤية بدقة 4-bit: كلتا النسختين تدعمان الوسائط المتعددة، مع برج رؤية مضغوط يتيح تحليل لقطات الشاشة والمستندات وإدخال الكاميرا محلياً.
- سياق 262 ألف رمز مع دعم speculative decoding لتسريع الاستجابة دون خسارة في الدقة.
- ترخيص Apache 2.0 مع واجهة API مجانية للمطورين في مرحلة preview محدودة.
لماذا يُعدّ حاجز الهاتف أصعب مما يبدو رقمياً؟ الهاتف الذي يحمل 12 غيغابايت من الذاكرة لا يُتيح منها كلها لتطبيق واحد — متوسط ما يحصل عليه النموذج يبلغ نحو 6 غيغابايت، وهذه الميزانية تشاركها KV cache والتنشيطات (وفقاً لـ PrismML). بهذا المعيار، 1-bit Bonsai 27B عند 3.9 غيغابايت هو أول نموذج في فئته يمر من هذا الباب مع هامش كافٍ للعمل.
النتائج على منظومة مكونة من 15 benchmark تشمل الرياضيات والترميز والأدوات والتعليمات والمعرفة والرؤية — كلها في وضع التفكير الكامل — تُظهر أن Ternary Bonsai 27B يحتفظ بـ95% من أداء النموذج الأصلي كامل الدقة، فيما يحتفظ 1-bit Bonsai 27B بـ90% (وفقاً لـ PrismML). القراءة التفصيلية أكثر إثارة من المتوسطات: الرياضيات تنخفض من 95.3 إلى 91.7 للنسخة الثنائية، والترميز من 88.7 إلى 81.9، فيما تبقى استدعاءات الأدوات Agentic من 80.0 إلى 66.0 — وهي بالضبط القدرات التي تعتمد عليها دورات العمل الوكيلية الطويلة. في المقابل، أفضل بناء تقليدي منخفض الدقة للنموذج الأصلي ذاته يسجل أقل بكثير من 1-bit Bonsai 27B مع استهلاكه 2.5 ضعف المساحة (وفقاً لـ PrismML).
على صعيد السرعة، يصل النموذج إلى 163 رمزاً/ثانية في النسخة الثنائية و134 رمزاً/ثانية في الثلاثية على NVIDIA GeForce RTX 5090، وعلى M5 Max يبلغ 87 رمزاً/ثانية في الثنائية و58 رمزاً/ثانية في الثلاثية (وفقاً لـ PrismML). النموذج يعمل على أجهزة Apple عبر MLX وعلى GPUs من NVIDIA عبر CUDA، من خلال نوى منخفضة الدقة مخصصة لبنية hybrid-attention.
الرهان الحقيقي هنا ليس تقنياً فحسب — إنه معماري. أعباء العمل الذكي تتحول من استجابات فردية إلى دورات عمل ممتدة: وكلاء يشغّلون أدوات حقيقية، وسير عمل تعمل دون إشراف مستمر، وبحث يُركّب عشرات المستندات. في هذه البيئة، كل خطوة في الدورة الوكيلية هي استدعاء مستقل للنموذج يحمل سياقاً، ينتج مخرجاً منظماً، ويُغذّي الخطوة التالية. الحوسبة السحابية تفرض هنا ثلاثة قيود هيكلية: تكلفة متراكمة لكل رمز، كل خطوة طلب شبكي، وكل خطة أو استدعاء أداة أو نتيجة وسيطة تعبر الشبكة — بما فيها الملفات الخاصة للمستخدم وشاشته وبياناته. النموذج المحلي يُلغي هذه المعادلة: التكلفة الهامشية لدورة مئة خطوة تصبح صفراً، والبيانات لا تغادر الجهاز أبداً.
PrismML، التي نشأت من فريق باحثين في Caltech وتلقّت دعماً من Khosla Ventures وCerberus وGoogle باستمرار من Samsung، تُقدّم هذا الإصدار كخطوة نحو معمارية هجينة: توجيه المهام غير الحساسة وذات الخصوصية إلى النموذج المحلي القادر، والاحتفاظ بنماذج السحابة الحدية للخطوات الأصعب فقط. المنهجية المعتمدة في Bonsai — كما تصفها الشركة — لا تعتمد على بنية محددة، وهناك نماذج أكبر وبنيات جديدة قيد التطوير. التفاصيل التقنية الكاملة متاحة في الورقة البيضاء.
إذا كنت مطوراً يبني تطبيقات وكيلية تتعامل مع بيانات حساسة، فإن النموذج الذي كان يُكلّفك الاتصال بالسحابة في كل خطوة أصبح اليوم يتسع في جيبك. السؤال لم يعد “هل يمكن تشغيله محلياً؟” — بل “ماذا تبني الآن بعد أن أصبح ذلك ممكناً؟”
