🎧 استمع للملخص
بقلم: يوسف | محرر أدوات الذكاء الاصطناعي · صوت تحريري بإشراف بشري
تصبح نماذج التضمين متعددة اللغات من IBM متاحة للتشغيل المحلي مع إطلاق llama.cpp b9481 الذي يدعم granite-embedding-97m وgranite-embedding-311m من الجيل الثاني. هذا التطوير يفتح الباب أمام معالجة النصوص متعددة اللغات دون الاعتماد على خدمات سحابية.
- دعم نماذج الجيل الثاني: يتضمن الإصدار دعماً كاملاً لنموذجي ibm-granite/granite-embedding-97m-multilingual-r2 و ibm-granite/granite-embedding-311m-multilingual-r2 مع قدرات محسنة لمعالجة النصوص عبر لغات متعددة
- محسن رموز محدث للدقة: يقدم نسخة مطورة من محسن رموز GPT-4o مع regex محسن للتعامل الأفضل مع العلامات النحوية وإعدادات مختلفة لدمج الرموز خاصة للنموذج 97m، بينما يعيد استخدام محسن Gemma4 للنموذج 311m
- تقنية SwiGLU FFN: يضيف مفتاح GGUF جديد hidden_activation مع دعم كامل لشبكات SwiGLU Feed-Forward Networks المستخدمة في نماذج الجرانيت، مع تحديثات في llama-hparams.h وlllama-model.cpp
- تحسينات الكود المحول: يشمل الهاشات المطلوبة لنماذج الجرانيت الجديدة مع ضبط تلقائي للـ hidden_activation عند وجوده في ملف config.json
- إصدارات شاملة المنصات: متوفر لـ macOS Apple Silicon وIntel، Ubuntu بنسخ CPU وVulkan وROCm، Android arm64، Windows مع CUDA 12.4 و13.3 وVulkan وHIP، بالإضافة إلى إطار iOS XCFramework
يعطي هذا التحديث مطوري التطبيقات العربية أدوات قوية لمعالجة النصوص محلياً دون إرسال البيانات للخارج. النماذج الجديدة تتفوق في فهم السياق متعدد اللغات، مما يجعلها مناسبة للتطبيقات التي تتعامل مع المحتوى العربي والإنجليزي معاً. لكن المشاريع الحالية تحتاج مراجعة متطلبات الذاكرة – النموذج الأكبر يتطلب ذاكرة إضافية قد تؤثر على الأجهزة محدودة الموارد.
