هاتف واحد يشغّل 35 مليار معامل، من العرض التجريبي إلى الاستخدام اليومي

هاتف واحد يشغّل 35 مليار معامل، من العرض التجريبي إلى الاستخدام اليومي

في 13 أكتوبر، أطلقت شركة ModelBest (面壁智能) جيلاً جديداً من النماذج الكبيرة متعددة الوسائط على الأجهزة الطرفية، وهو MiniCPM-V4.7، بإصدارين في وقت واحد: 35B-A3B و1B. للوهلة الأولى يبدو تحديثاً روتينياً، لكن طراز 35B-A3B يستحق نظرة أطول: 35 مليار معامل إجمالاً، بمعمارية MoE (خبراء مختلطون)، مع تفعيل نحو 3 مليارات معامل فقط عند كل استدلال. وتصفه الشركة بأنه «أول نموذج MoE مفتوح المصدر يعمل بسلاسة ودون فقدان على الأجهزة الطرفية»، إذ يستهلك عند التشغيل نحو 3GB من الذاكرة فقط.

عند القياس على iPad Pro، تتجاوز سرعة فك الترميز 15 token/s. تسأل سؤالاً فيجيب، دون الحاجة إلى التحديق في شريط تقدّم يزحف ببطء.

معضلة MoE على الأجهزة الطرفية

يشتهر MoE لأنه يحسن الحسابات: تقسيم النموذج إلى «خبراء» كثر، وإيقاظ بعضهم فقط في كل مرة. يمكن أن يتضخم إجمالي المعاملات بينما يبقى حجم الحساب الفعلي قريباً من نموذج صغير. هذا المسار مريح في السحابة، حيث توفّر مراكز البيانات كمية وفيرة من الـ VRAM.

لكن نقله إلى الأجهزة الطرفية يصبح محرجاً. عنق الزجاجة ليس القدرة الحسابية، بل الذاكرة. إذ يجب تحميل جميع الخبراء مسبقاً، لأن أحداً لا يعرف مَن سيُستخدم للـ token التالي. و35 مليار معامل بالدقة المعتادة تعني عشرات الـ GB، فتنفد ذاكرة الهاتف فوراً. على الأجهزة الطرفية يصبح «قوي الأداء» و«يعمل» خياراً واحداً لا بديل آخر له.

إيقاظ الخبير التالي مسبقاً

حلّ ModelBest يُدعى LES، أي جدولة الخبراء الاستباقية. الفكرة ليست غامضة: ما دام استخدام أي الخبراء قابلاً للتوقع، فليكن التوقع مسبقاً. فبينما لا يزال حساب المصفوفات الحالي جارياً، يحدد النظام أي الخبراء سيُستدعى تالياً ويحمّلهم في الذاكرة قبل موعدهم، فيتداخل التحميل مع الحساب.

بعبارة أخرى، يحوّل الفكرة من «الجري إلى المستودع لجلب البضاعة في اللحظة الأخيرة» إلى «من يناوله القطعة التالية مسبقاً أثناء العمل». وتقول الشركة إن هذا هو الحل مفتوح المصدر الوحيد من نوعه في الصناعة حالياً.

إصداران، ولكلٍّ مجاله

يتولى 35B-A3B نقل قدرات بمستوى النماذج الرائدة إلى الأجهزة الطرفية. ويستهدف سيناريوهات كتلك التي تريد فيها فهماً قريباً من مستوى السحابة دون قبول إرسال البيانات خارج الجهاز. فالأسئلة والأجوبة على المستندات دون اتصال، والتعرف الفوري على صورة، والمساعدات الصوتية في بيئة بلا شبكة، كلها في مرماه. أما إصدار 1B فيبلغ بالكفاءة حدها الأقصى، مستهدفاً تشغيله على مزيد من الأجهزة، لا على عدد قليل من الهواتف الرائدة فقط.

في يوم الإطلاق، أكمل MiniCPM-V4.7 تكييفه مع منصات شرائح مثل Rockchip وNVIDIA وIntel وApple، ويدعم iOS وأندرويد وHarmonyOS، كما أتاح كود التكييف الطرفي وأطر الاستدلال الشائعة. والرسالة الضمنية واضحة: ليس عرضاً تجريبياً في مختبر، بل شيء يمكن للمطوّرين أخذه وإطلاقه فوراً.

اختيار المسار خلف 60 مليون عملية تنزيل

تجاوزت سلسلة MiniCPM، التي تديرها ModelBest ومجتمع OpenBMB معاً، 60 مليون عملية تنزيل تراكمية، وتغطي النص والرؤية والصوت. وهذا الرقم ليس صغيراً في عالم المصادر المفتوحة، ما يظهر أن خط النماذج الصغيرة الطرفية يستجيب لطلب حقيقي ومستقر، وليس حديثاً من الشركات لنفسها.

في الأسبوع نفسه، شهد المعسكر المحلي للطرفيات والمصادر المفتوحة تحركات أخرى. فقد أتاحت Xiaomi سلسلة MiMo-V2.6 كمصدر مفتوح؛ ويتمتع إصدارها الرائد Pro بـ 1.02 تريليون معامل إجمالاً، ونحو 42 مليار معامل مُفعَّل، وسياق يبلغ مليون token، ويسير على مسار التعلم المعزز بـ«التحسين الذاتي التكراري»، وكشف على نحو نادر عن تكلفة تدريب RL. كما أتاح معهد الأتمتة التابع للأكاديمية الصينية للعلوم، بالاشتراك مع معهد ووهان للذكاء الاصطناعي، نموذج Zidong Taichu ZDTaichu5.0-9B كمصدر مفتوح، ولم يكتفِ بالأوزان، بل أطلق خط إنتاج كامل للبيانات متعددة الوسائط المكانية، من إدخال البيانات وتنقيتها إلى وضع العلامات ثلاثية الأبعاد والتحقق بالتوليف.

لهذه المشاريع قاسم مشترك: لم تعد تقدّم نموذجاً فقط، بل طريقة لـ«تحويل بياناتك الخاصة إلى قدرات للنموذج». وبالنسبة للفرق التي تريد تحقيق نتائج في قطاعها، غالباً ما تكون الأخيرة أكثر قيمة.

ماذا تحل الأجهزة الطرفية فعلاً

نماذج السحابة أذكى، ولن يتغير ذلك في المدى القصير. وقيمة الأجهزة الطرفية ليست في القدرة المطلقة، بل في أمور عملية جداً: زمن استجابة مستقر، وإمكانية الاستخدام دون شبكة، وبيانات لا تغادر الجهاز. ولمن يبنون أدوات داخلية للمؤسسات، أو أنظمة الفحص الطبي أو الصناعي، أو أجهزة تعليمية، غالباً ما تكون النقطتان الأخيرتان أهم من بضع نقاط إضافية في المقاييس.

ومن المفيد أيضاً رؤية الفجوة بوضوح. يفعّل 35B-A3B نحو 3 مليارات معامل في كل تمرير، فتقع قدرته تقريباً في نطاق النماذج الصغيرة والمتوسطة، وما زال مختلفاً عن النماذج المغلقة الأعلى مستوى. فالتشغيل دون فقدان على الأجهزة الطرفية يحل «العمل»، لا «الأفضل أداءً». وإذا نظرنا إليه كمساعد يعمل دون اتصال، وخاص، وجاهز دائماً، تصبح التوقعات أكثر دقة.

في الختام

خلال العام الماضي، كانت ساحة المعركة الرئيسية في سباق النماذج الكبيرة هي المعاملات وقوائم التصنيف. لكن حين يبلغ سباق المعاملات حداً معيناً، يبدأ سؤال «هل يمكن حشره في الجهاز الذي يحمله المستخدم» ليصبح خط تقسيم جديداً. والطريف في MiniCPM-V4.7 ليس أنه حدّث درجة معينة مرة أخرى، بل أنه دفع فكرة «تشغيل MoE على الأجهزة الطرفية» من شعار إلى حل هندسي قابل للتكرار.

لا تكمن خيالية الأجهزة الطرفية في نسخ السحابة، بل في الزوايا التي لا تصل إليها السحابة: غرف الخوادم تحت الأرض، والجبال بلا إشارة، والوظائف العادية التي لا تريد رفع مواد عملها إلى مكان آخر. هذه المشاهد لن تتصدّر الترند، لكنها السوق الحقيقي لنماذج الأجهزة الطرفية.