من ثانية إلى ثلاث ثوانٍ إلى نحو 120 ملّي ثانية، OpenAI تفتح Decisions API للجميع لكنها تحل ثامنة ورابعة عشرة في مؤشرين عامين.
ضمن ملف: OpenAI، نماذج الذكاء الاصطناعي
بقلم: ليلى | محررة أدوات المطورين · صوت تحريري بإشراف بشري
المصدر الأساسي: TechCrunch
لماذا يهم
المطورون الذين يستخدمون نماذج LLM لاتخاذ قرارات تصنيف بسيطة يحصلون على بديل أسرع وأرخص من مزوّد رئيسي، ما يفتح تطبيقات فورية مثل المساعدات الصوتية وتحليل الفيديو.
في تطبيق Speak لتعليم اللغات بالذكاء الاصطناعي، كان التطبيق يحتاج 1.4 ثانية بين إجراء وآخر (وفقاً لـ TechCrunch). اليوم يحتاج 0.13 ثانية (وفقاً لـ TechCrunch)، بحسب أندرو هسو، المدير التقني للشركة. هذه أرقام معلنة من الشركة نفسها ولم يتسنَّ التحقق منها بشكل مستقل. السبب هو Decisions API الذي أتاحته OpenAI يوم الخميس لجميع عملائها للمرة الأولى، لتدخل بذلك سوق النماذج السريعة والرخيصة التي تتخذ قرارات بدلاً من توليد النصوص.
هذه الفئة صنعتها شركة TypeSafe الناشئة، وقد أسسها باحث سابق في OpenAI. بحسب TechCrunch، يعمل نموذجها Jev كمصنِّف فائق: تعطيه مجموعة خيارات، فيختار منها بسرعة ويرفق بقراره درجة ثقة. اكتشف المطورون سريعاً أن نماذج القرار هذه، وتُسمى أيضاً نماذج System One، تستطيع أن تحل محل نماذج LLM في كثير من مسارات العمل، بسرعة أعلى وكلفة أقل بكثير. بفضل هذا الطلب بلغت قيمة TypeSafe 7.6 مليار دولار (وفقاً لـ TechCrunch). لاحظ أن تقريراً سابقاً لـ TechCrunch نفسها في 9 أكتوبر ذكر رقم 7.5 مليار دولار، ولم يوضح المصدر سبب الفارق.
يقول نيكونج هاندا، مسؤول منتجات واجهات API في OpenAI، إن زملاءه حين رأوا Jev قالوا: “لدينا ما يشبه مليون حالة استخدام لهذا”. لم يبنِ فريقه نموذج قرار معايَراً لهذا الغرض تحديداً. أخذ بدلاً من ذلك نموذج ChatGPT Luna وأعاد تهيئته لتسريع الـ inference وخفض كلفته. يقول هاندا: “المكسب الكبير في Decisions API هو السرعة، إذ قلّصنا الزمن من ثانية إلى ثلاث ثوانٍ إلى 100 أو 120 أو 180 ملّي ثانية” (وفقاً لـ TechCrunch). هذه أيضاً أرقام معلنة من الشركة نفسها. ويضيف أن OpenAI قد تجري مستقبلاً تدريباً مخصصاً لتحسين نماذجها في هذا الاتجاه، “لكن الآن، Luna العادي هو من يؤدي المهمة”.
أعلنت OpenAI عن الواجهة في يوم المطورين بتاريخ 29 سبتمبر (وفقاً لـ TechCrunch). وأضافت إلى النسخة العامة وسائط صوتية وبصرية جديدة. كما وزّعت موارد الـ inference جغرافياً لخفض زمن الاستجابة في مناطق مختلفة من العالم، لكنها لم تذكر هذه المناطق. في التجارب الأولى استخدم مهندسو Box وDatadog وRamp وSpeak الواجهة بديلاً عن نماذج OpenAI اللغوية للحصول على إنتاجية أعلى، بحسب TechCrunch. واستخدمتها OpenAI نفسها لتحسين سرعة استجابة مساعدها الصوتي Dots.
تختلف صورة المؤشرات العامة عن صورة الأرقام المعلنة. فما يجعل نموذج القرار جيداً لا يزال غير واضح، سوى أنه “يعمل لك”. والموازنة بين الذكاء والكلفة والمعايرة والسرعة تتغير من حمل عمل إلى آخر. ديوغو ألميدا، الرئيس التنفيذي لـ TypeSafe، لا يثق بمؤشرات الأداء وينصح بتجربة النماذج على العمل الفعلي. ومع ذلك نشرت شركته الأسبوع الماضي تصنيفاتها الخاصة مع إطلاق أحدث نسخ Jev، التي أضافت دعم الصور وميزة smart-if statements. أما مؤشرا AIM System One Index وArtificial Analysis Decision Index فيميلان إلى نموذجين آخرين، بحسب TechCrunch. الأول D1 Ultra الذي أطلقته Liquid الأسبوع الماضي، والثاني Elephant-1 من Base Lab.
يحل أحدث إصدار من Jev في المركز السابع على المؤشر الأول والثالث على الثاني (وفقاً لـ TechCrunch). أما نموذج OpenAI فيأتي ثامناً ورابع عشر على التوالي (وفقاً لـ TechCrunch). وتبقى منتجات TypeSafe حتى الآن الأكثر استدعاءً على OpenRouter. وهناك مؤشر أطرف اسمه JevMan، تلعب فيه نماذج القرار لعبة PacMan، ويتصدره أحدث إصدار من Jev. بنت المؤشر شركة Opper AI. ويشرح فيليكس فوندرليش، كبير مسؤولي النمو فيها، أن اللعبة الكلاسيكية “اختبار مثير بسبب سيلها المتواصل من القرارات السريعة عالية المخاطر، فعند كل تقاطع على النموذج أن يقرر وجهته في بضع مئات من الملّي ثانية”.
تراهن OpenAI على تعدد الوسائط. في تصنيف الصور يقول هاندا إن “Luna قوي للغاية ويُظهر معايرة أفضل”، ويضيف أن العملاء يريدون من Decisions API مرونة أكبر في استخدام الصور كمخرجات أيضاً. ويرى أن مزيداً من السرعة سيفتح استخدامات جديدة: “هل نستطيع الوصول إلى شيء مثل 60 ملّي ثانية (وفقاً لـ TechCrunch)؟ عندها يمكن تخيّل استدعاء API لكل إطار في الفيديو”.
في تقديرنا، دخول OpenAI بنموذج معاد تهيئته لا نموذج مبني لهذا الغرض يكشف استعجالاً للحاق بالسوق، وترتيبها على المؤشرين العامين يؤكد ذلك. لكن قاعدة عملائها الضخمة قد تعوّض الفارق التقني. وهناك فجوات عملية عليك الانتباه لها إن كنت تفكر في الانتقال. المصدر لا يذكر التسعير ولا حجم التوفير مقارنة بالنماذج اللغوية. ولا يحدد المناطق التي استفادت من توزيع الـ inference، ولا مستوى دعم العربية. كما تستند القصة أساساً إلى مقابلات أجرتها TechCrunch مع OpenAI وعملائها، بحسب مصدر وحيد هو TechCrunch. أما اسم Jev فيحيل إلى اقتصادي شرح كيف يجعل الاستخدام الأكفأ لمورد ما ذلك المورد أكثر انتشاراً. ويرى هاندا أن نماذج القرار ستكشف “مجموعة مجنونة من حالات الاستخدام” كانت أمام أعيننا. فأي جزء من منتجك ما زال ينتظر ثانيتين من نموذج لغوي لاتخاذ قرار بسيط بين خيارين؟
المصادر
- OpenAI makes its Jev competitor widely available as decision model competition heats up | TechCrunch techcrunch.com
- Build more responsive apps with the Decisions API openai.com
- Jev: For the builders AND dreamers – TypeSafe AI Blog typesafe.ai
- AIM System One Index | AIMultiple aimultiple.com
- Artificial Analysis Decision Index | Artificial Analysis artificialanalysis.ai
