قطّر مرة واحدة، ووصّل بـ54 نموذجاً: LongLive-Plug من NVIDIA للفيديو

يميل كل نموذج فيديو متخصص إلى دفع الضريبة نفسها. تبدأ بنموذج انتشار كبير، وتضبطه ضبطاً دقيقاً ليصبح شيئاً محدداً، مثل مولّد مشروط بالعمق أو محاكي روبوتات، ثم تقطّره ليصبح سريعاً بما يكفي ليكون مفيداً. خطوة التقطير مكلفة، وحتى الآن كنت تدفعها مجدداً مع كل نموذج جديد تبنيه. يسأل LongLive-Plug من NVIDIA عما إذا كان يمكن دفع تلك الخطوة مرة واحدة.

نُشرت الورقة، arXiv 2609.38154، في 29 سبتمبر إلى جانب ستة ملفات مهايئ على Hugging Face. وهي صادرة عن مجموعة Efficient-Large-Model التابعة لـNVIDIA بالتعاون مع MIT، وتصف إطاراً يسميه المؤلفون التقطير مرة واحدة للجميع (once-for-all distillation).

ما الغرض من التقطير فعلاً

تولّد نماذج انتشار الفيديو عبر إزالة التشويش عن تمثيل كامن على مدى خطوات كثيرة. ثلاثون إلى خمسين خطوة هو العدد النموذجي للنماذج في هذه الورقة، وكل خطوة عبارة عن تمرير أمامي كامل عبر محوّل بعدة مليارات من المعاملات. عدد الخطوات هو زمن الاستجابة، لذا فإن تقليله هو أكثر روافع السرعة مباشرة.

هناك كلفتان أخريان إلى جانبه. التوجيه الخالي من المصنف، وهي تقنية تشدّد مدى التزام العينة بالطلب النصي، يشغّل النموذج عادة مرتين في كل خطوة، مرة مشروطة بالطلب ومرة بدونه، ثم يستقرئ بين الاثنين. وهذا يضاعف الحوسبة في كل خطوة. كما أن نماذج الفيديو الانحدارية الذاتية، التي تولّد مقطعاً طويلاً قطعة تلو أخرى، تتراكم فيها الأخطاء مع التقدم، فتتشوّه الإطارات المتأخرة ما لم يصحّح شيء الانحراف.

لكل من هذه المشكلات الثلاث وصفة تدريب خاصة بها. سير العمل المعتاد يشغّل الوصفة المناسبة مجدداً على كل نقطة حفظ متخصصة. رهان LongLive-Plug هو أن الوصفات تنتج شيئاً قابلاً لإعادة الاستخدام، لذا لا ينبغي أن تضطر إلى ذلك.

الحركة: التعامل مع قدرة مقطّرة كـLoRA

الفكرة هي تجميد نموذج أساسي لعائلة عمود فقري، وتقطير قدرة مرة واحدة في معاملات LoRA، ثم إرفاق هذا LoRA بأي نموذج لاحق متوافق في العائلة دون أي تدريب إضافي. لقد ضُبط المهايئ وفق سلوك النموذج الأساسي، والادعاء هو أن أبناء العائلة يتشاركون هذا السلوك بقدر كافٍ كي يستقر التحديث نفسه.

يقسّم LongLive-Plug العمل إلى ثلاثة مهايئات منفصلة لكل عمود فقري. مهايئ الخطوات القليلة يقلّص خطوات أخذ العينات، ويُدرَّب بتقطير مطابقة التوزيع تحت معلّم موجَّه بـCFG. مهايئ CFG يدمج التوجيه في تمريرة شرطية واحدة. مهايئ السياق الطويل يصحّح تراكم الأخطاء في عمليات التوليد السببية المتتابعة. الخيار التصميمي المهم هو أنها ملفات منفصلة بدلاً من وحدة مدمجة واحدة، لأن LoRA واحداً مدرَّباً على مقياس توجيه واحد يعلق عنده. وعند فصلها، يصبح وزن CFG بمثابة قرص: رفعه يقوّي سمات الموجّه دون إعادة تشغيل الفرع غير الشرطي. النسبة الموصى بها في الورقة هي الخطوات القليلة إلى CFG بواحد إلى نصف. أما توسيع LoRA واحد مقترن فيفعل شيئاً مختلفاً وأسوأ، إذ يحرّك التحديث وعدد الخطوات معاً ويهبط بجودة المخرجات.

صُممت المهايئات أيضاً لتصمد أمام التغييرات التي يُجريها النموذج اللاحق. إضافة فروع شرطية أو توسيع قنوات الإخراج لا يبطلها، لذا ترتبط مجموعة الملفات نفسها بعمليات الضبط الدقيق الكامل، وLoRAs المهام، والنماذج ذات وحدات التحكم الإضافية.

ما الذي تم إصداره، وكم يكلف اختباره

تحتوي المجموعة الصادرة على ستة مهايئات، ملف واحد للخطوات القليلة وملف CFG واحد لكل من MiniMax H3، وWan2.1-T2V-14B، وWan2.2-TI2V-5B. ملف الخطوات القليلة الخاص بـWan2.1-14B هو الأسهل للتجربة، لأنه مُصدَّر بتسمية lightx2v التي تقرؤها محمّلات Wan LoRA في ComfyUI بالفعل. ألقِ به في مجلد loras مثل أي LoRA سرعة آخر وسيعمل. مهايئات MiniMax H3 هي صادرات PEFT، لذا تحتاج إلى خطوة تحويل قبل أن تحمّلها ComfyUI، وتقول بطاقات النموذج إنه يجب استخدام ملفي الخطوات القليلة وCFG بشكل منفصل في الوقت الحالي بدلاً من دمجهما.

ادعاء التحقق هو الرقم الرئيسي: نشر دون تدريب عبر 54 نموذجاً لاحقاً، يمتد على ثلاث عائلات من الأعمدة الفقرية وثماني فئات مهام، تشمل نمذجة العالم، والروبوتات، والتحرير، والتوليد متعدد الوسائط. وتضع مقارنة الكلفة في الورقة التقطير الأساسي المشترك عند نحو 80 ساعة GPU، والحجة هي أن كل ما يأتي بعد ذلك يتجنب تشغيل تدريب لكل هدف على حدة.

يأتي التحذيران الصادقان مع النتائج. افتراض قابلية النقل، أي أن LoRA مقطّراً من الأساس يظل صالحاً على الأبناء الذين نمت لهم فروع جديدة، تم التحقق منه تجريبياً على تلك النماذج الـ54 بدلاً من استنتاجه نظرياً. كما يُفترض أن التركيب الإضافي لمهايئي CFG والخطوات القليلة المدرَّبين بشكل منفصل لا يتداخل، بدعم من نتائج النقل لكن دون إثبات. وهذه من نوع الافتراضات التي تميل إلى الصمود في اختبار معياري وتفشل أحياناً في الإنتاج.

ما يمكنك تشغيله فعلاً اليوم

الإصدار صغير بما يكفي ليستحق التوضيح الملموس لما يحصل عليه المستخدم. ستة ملفات، اثنان لكل عمود فقري. بالنسبة إلى Wan2.1-T2V-14B، صُدِّر مهايئ الخطوات القليلة بتسمية lightx2v التي تفهمها محمّلات Wan LoRA في ComfyUI بالفعل، لذا يعمل كـLoRA سرعة جاهز للاستخدام إلى جانب سير العمل الحالي. هذه هي نقطة الدخول الأقل عوائق، وعلى الأرجح هكذا سيجرّب معظم الناس الفكرة أول مرة.

يحتاج العمودان الفقريان الآخران إلى عمل إضافي. تأتي مهايئات MiniMax H3 كصادرات PEFT، ما يعني خطوة تحويل قبل أن تحمّلها ComfyUI، وتنصح بطاقات النموذج باستخدام ملفي الخطوات القليلة وCFG بشكل منفصل بدلاً من تكديسهما في الوقت الحالي. كما يأتي Wan2.2-TI2V-5B بتسمية مهايئ PEFT أيضاً. لا شيء من هذا يشكل حاجزاً لفريق مرتاح مع الأدوات، لكنه يعني أن الإطار أقرب إلى إصدار بحثي من كونه إضافة مكتملة.

السؤال الأكثر إثارة هو ما الذي تتيحه المهايئات القابلة لإعادة الاستخدام بما يتجاوز السرعة. إذا كانت قدرة مقطّرة يمكنها الانتقال بين نموذج أساسي وأبنائه، فإن محاكي روبوتات، ومولّداً مشروطاً بالعمق، ونموذج رأس متكلم مبنيين على العمود الفقري نفسه يمكنهم أن يرثوا سلوك الخطوات القليلة نفسه والتحكم نفسه في التوجيه دون أن يدفع كل منهم تكلفة تقطيره الخاص. ويشكّل تحقق الورقة عبر 54 نموذجاً في ثماني فئات مهام، من نمذجة العالم إلى التحرير، الدليل على هذا الادعاء. وإذا صمد في الإنتاج، فالأثر العملي هو أن مختبراً يمكنه إيصال متخصص جديد إلى سرعة قابلة للاستخدام في أيام بدلاً من أسابيع، لأن الجزء المكلف أُنجز مرة واحدة بالفعل.

لماذا هذا هو الاتجاه المثير للاهتمام

غيّرت LoRAs بالفعل طريقة عمل مجتمع الصور والفيديو بتحويل الضبط الدقيق إلى شيء قابل للنقل. تنزّل ملفاً، وترفقه بنموذج أساسي، وتحصل على قدرة جديدة دون تدريب أي شيء. يطبّق LongLive-Plug المنطق نفسه على مستوى أعلى، على خطوة التقطير نفسها. وإذا كانت مهايئات القدرات تنتقل حقاً عبر عائلة، فإن اقتصاديات إطلاق نموذج فيديو متخصص تتغير. فبدلاً من تخصيص ميزانية تشغيل تقطير لكل نموذج، يخصص مختبر ميزانية واحداً لكل عمود فقري ويعيد استخدامه.

وهذا يهم أكثر حيث تتكاثر التخصصات. فنماذج العالم، ومحاكيات الروبوتات، والتحكم المشروط بالعمق، ومولّدات الرأس المتكلم، وخطوط تحرير الفيديو، كلها امتدادات لعدد صغير من الأعمدة الفقرية للفيديو. كان كل واحد منها يحمل ضريبة سرعته الخاصة. والتعامل مع الضريبة كمكوّن قابل لإعادة الاستخدام هو الخطوة التالية الطبيعية، وهي من نوع أعمال البنية التحتية غير اللامعة التي تحدد مدى سرعة تحرك بقية المجال.