بقلم: يوسف | محرر أدوات الذكاء الاصطناعي · صوت تحريري بإشراف بشري
أصدر فريق تطوير llama.cpp الإصدار b9196 الذي يجلب تحديثاً مهماً لمحرك Vulkan لدعم Unaligned Tensors في عمليات ROPE، إضافة إلى حزم تشغيل شاملة لـ 27 منصة مختلفة تشمل معمارية ARM وIntel وGPU المختلفة.
يركز هذا الإصدار على تحسين معالجة البيانات في بيئات Vulkan، حيث يسمح دعم Unaligned Tensors بمرونة أكبر في ترتيب البيانات أثناء عمليات ROPE (Rotary Position Embedding) الأساسية لنماذج اللغة الكبيرة. هذا التحديث يعني أن المطورين لن يحتاجوا إلى ضمان محاذاة مثالية للبيانات قبل المعالجة، مما يبسط التكامل ويحسن الأداء.
- macOS Apple Silicon: إصداران منفصلان – الأول تقليدي والثاني مع تفعيل KleidiAI للأداء المحسن، بالإضافة إلى دعم macOS Intel x64
- iOS XCFramework: حزمة متكاملة للتطوير على منصة iOS مع دعم كامل للمعمارية المحمولة
- Linux Ubuntu: 8 إصدارات مختلفة تشمل CPU (x64, arm64, s390x) وGPU مع Vulkan وROCm 7.2 وOpenVINO وSYCL بدقة FP32 وFP16
- Android arm64: حزمة محسنة للأجهزة المحمولة تعمل بمعالجات ARM
- Windows: 7 إصدارات تدعم CUDA 12.4 وCUDA 13.1 مع مكتبات DLL منفصلة، بالإضافة إلى Vulkan وSYCL وHIP للمعالجات AMD
- openEuler: 4 حزم متخصصة للمعالجات الصينية 310p و910b مع دعم ACL Graph
الجديد في هذا الإصدار يكمن في دعم openEuler لأول مرة، وهو نظام تشغيل صيني مفتوح المصدر يستهدف الخوادم والحوسبة عالية الأداء. حزم 310p و910b مع تقنية ACL Graph تشير إلى دعم معالجات Huawei الداخلية، مما يفتح المجال أمام تشغيل llama.cpp في البيئات التقنية الصينية المحلية.
