← العودة إلى المدونة
Aiحوالي 1 دقيقة قراءة

DeepSeek تفتح مصدر DeepInfer: محرك استدلال بلا طبقة خدمة

نُشر في 11 نوفمبر 2026
DeepSeek تفتح مصدر DeepInfer: محرك استدلال بلا طبقة خدمة

نشرت DeepSeek هذا الأسبوع محرك DeepInfer، ووصفته في ملف README بأنه «إطار الاستدلال عالي الأداء الذي يشغّل خدمات DeepSeek الإنتاجية واسعة النطاق». وهو يدعم نموذجًا واحدًا فقط، DeepSeek-V4.1-Flash، ويأتي مع قائمة بما لا يتضمنه: نظام KV cache، وطبقات خدمة VE/Prefill/Decode.

وهذا هو أكثر ما يثير الاهتمام في الإصدار. فهو ليس منتجًا، بل كتلة المحرك مسلَّمة دون ناقل الحركة.

عدد النجوم، نحو 25 ألفًا في أقل من شهر، يشير إلى أن الناس فهموا اللفتة على أي حال.

ما يوجد داخل الصندوق فعليًا

قائمة المزايا تُقرأ كأنها مجموعة أجوبة لمشكلات لا تظهر إلا على نطاق واسع.

التوازي. Attention DP، وCP متوازن، وMoE EP مع EPLB. وEPLB يعني موازنة الأحمال في التوازي بين الخبراء، وهي الجزء الذي يقلل الجميع من تقديره عند خدمة نموذج خليط الخبراء: الموجّه لا يوزّع الحركة بالتساوي، فتنتهي بعض البطاقات حاملة خبراء ساخنين وتؤدي ثلاثة أضعاف العمل.

DSpark مع تحقق مجدوَل بالثقة. هذا فك ترميز تخميني بلمسة إضافية. تُقترح توكنات مسودة، ثم يحدد تقدير ثقة مقدار ما يُتحقق منه منها. تضبط DEEPINFER_ENABLE_MTP_VARLEN=1، ويحدد DEEPINFER_USE_NEXTN_DECODE طول المسودة، وقيمته الافتراضية خمسة.

إعادة تشغيل محدودة بـSWA. انتباه النافذة المنزلقة يعني أن فك الترميز لا يحتاج البادئة كاملة في مرحلة prefill، بل يحتاج النافذة، مع طول التتبع الخلفي الذي تسمح به. القيم الافتراضية في README هي وضع compact مع الاحتفاظ بـ140 توكنًا. اقطع عمل prefill، وأبقِ الخرج كما هو.

جدولة غير متزامنة. جدولة الدفعات على المعالج تتقاطع مع التنفيذ على الجهاز. مفعّلة افتراضيًا. ليست مبهرة، وربما تساوي أكثر من أي تحسين لنواة واحدة في المستودع.

ثم الميزتان اللتان لا علاقة لهما بالسرعة إطلاقًا.

ثبات الدفعة هو العنوان الهادئ

اضبط DEEPINFER_BATCH_INVARIANT=1 فيعطي النموذج نتائج متطابقة مهما كان الشيء الآخر في الدفعة. واضبطه مع DEEPINFER_ENABLE_MTP_VARLEN=0 ومع seq_seed ثابت، فتحصل على أخذ عينات حتمي: توكنات الإدخال نفسها، والمعاملات نفسها، والخرج نفسه، في كل مرة.

لا أحد تقريبًا يعلن عن هذه الميزة، لأن أحدًا تقريبًا لا يحتاجها، إلى أن يحتاجها.

اللحظة التي تحتاجها فيها هي لحظة يقول فيها عميل: هذه الإجابة كانت خطأ أمس وصحيحة اليوم، ما الذي تغيّر. إذا كانت الإجابة تعتمد على تركيب الدفعة، فالإجابة تعتمد على مدى انشغال خادمك. مستخدمان يسألان السؤال نفسه في الثالثة فجرًا وفي الثالثة عصرًا قد يحصلان على نصين مختلفين، ولا يوجد خطأ تبحث عنه لأن شيئًا لم ينكسر. وهذه خاصية بالغة الإزعاج عند اكتشافها في الإنتاج، وبالغة السهولة في التغطية عليها بعبارة النماذج اللغوية عشوائية.

الاستدلال الثابت تجاه الدفعة هو ما يتيح لك كتابة اختبار انحدار. وهو ما يجعل رقم التقييم يعني شيئًا. وهو أيضًا، بصراحة، ميزة تستهلك الإنتاجية، ولهذا هي مطفأة افتراضيًا ومقصورة على عتاد NVIDIA في هذا الإصدار.

ممر بين رفوف خوادم ليلًا، وحدة واحدة مضاءة بالأخضر وبقية الوحدات معتمة، وكابلات تمتد في حزم متوازية

هدفان للعتاد، أحدهما مفاجئ

العتاد المدعوم مذكور على أنه بطاقات NVIDIA SM100 ووحدات Huawei Ascend 950 NPU. ليس NVIDIA وAMD. ليس CUDA وROCm. بل SM100 وAscend 950.

تنشر DeepSeek بنية تحتية لجهة Ascend منذ فترة، فـTileLang وDeepGEMM وDeepEP وFlashMLA وDeepSelect لها نظائرها على منصة هواوي. وقائمة النوى في DeepInfer تسمّي المكوّنات نفسها، إضافة إلى نوى TileLang المخصصة، ثم تعلن دعم NPU على مستوى الإطار لا على مستوى النواة.

وهذا تمييز ذو معنى. دعم مسرّع ثانٍ على مستوى النواة يعني كتابة مجموعة نوى ثانية. أما دعمه على مستوى الإطار، بالمجدول نفسه واستراتيجية التوازي نفسها، فيعني أن التجريد صُمم ليكون قابلًا للنقل من البداية. وهل يؤدي أداءً جيدًا سؤال منفصل، وREADME لا يجيب عنه.

لماذا يُفتح المحرك لا الخدمة

الإغفالات هي الاستراتيجية. نظام KV cache وفصل prefill/decode هما بالضبط ما يحوّل محرك استدلال إلى عمل خدمي. وهما أيضًا الأصعب في الفتح بمسؤولية، لأنهما يرمّزان افتراضات عن شكل حركتك، واتفاقية مستوى الخدمة لديك، وخليط عتادك.

وما يتبقى هو الجزء الذي يستفيد من كونه عامًا: النوى والجدولة والتوازي وسلوك الدقة. وإن كنت مختبرًا يسعى إلى تبنّي نموذجه، فنشر المحرك يعني أن كل مزوّد سحابي يمكنه بلوغ أرقام أدائك، وأن المنافسين لا يستطيعون الادعاء بأن سرعتك حيلة خاصة.

وهناك زاوية عملية أيضًا. DeepSeek-V4.1-Flash نموذج رخيص وسريع. والنماذج الرخيصة السريعة تعيش أو تموت على كفاءة الخدمة، لأن الهامش ضيق والحجم هائل. تحسين 5% في الإنتاجية نتيجة تجارية، لا فضول هندسي. وتسليم المحرك للمنظومة يرفع الأرضية لكل من يعيد بيع نموذجك.

المخرجات المهيكلة، والكلفة التي لا تُدرج في سجل التغييرات

آخر ميزة في القائمة يسهل تجاوزها بالقراءة السريعة: تقييد التوليد بتعبير نمطي، أو مخطط JSON، أو قواعد EBNF، تُمرَّر عبر so_args في معاملات أخذ العينات.

كل نظام إنتاجي جاد يحتاج هذا، لأن البديل هو تحليل نص حر مع الأمل. غير المعتاد هو رؤيته في الإصدار نفسه مع الاستدلال الثابت تجاه الدفعة، لأن الاثنين يتفاعلان. فك الترميز المقيّد بالقواعد يمشي على شجرة توكنات، وشكل تلك الشجرة يعتمد على المخطط لا على الدفعة. أخطئ في التفاعل، فيتوقف مأخذ العينات الحتمي عن الحتمية لحظة يرسل مستدعٍ مخططًا.

وضع الميزتين في إطار واحد، بمتغير بيئة واحد يتحكم في مسار الحتمية، تفصيل يدلك على أن هذا الكود خدم حركة حقيقية. لا أحد يكتب هذا الحاجز من أجل عرض توضيحي.

ما ينبغي للممارس أخذه منه

ثلاثة أشياء، مرتبة بحسب قرب موعد أهميتها لك.

انسخ مفتاح الحتمية، لا النوى. إن كنت تخدم أي نموذج ولم تتحقق قط مما إذا كانت مخرجاتك تعتمد على تركيب الدفعة، فتلك تجربة تستغرق ظهيرة واحدة وستفاجئك على الأرجح. لا تحتاج DeepInfer لتنفيذها، بل ترسل المطالبة نفسها في دفعة من واحدة، ثم ضمن دفعة من اثنتين وثلاثين، وتقارن النتائج.

القيمة الافتراضية 140 توكنًا تلميح. يقول README إن اللاحقة المحتفظ بها يجب أن تغطي نافذة SWA مع أقصى طول تتبع خلفي، ثم يعطي 140 كقيمة افتراضية لـV4.1. وهذا الرقم يقول شيئًا عن نافذة انتباه النموذج وعمق فك الترميز التخميني فيه، ليس مذكورًا في أي مكان آخر من الإصدار.

اقرأ الاستثناءات كقائمة مهام. KV cache، وVE، وprefill، وdecode. إن كنت تبني مكدس خدمة، فهذه الكلمات الأربع هي مشروعك الحقيقي. والمستودع هو الجزء الذي كان عليك كتابته من الصفر على أي حال، والآن لم يعد عليك.

النقطة الأكبر أن الاستدلال هو حيث يقيم عمل النماذج الآن. التدريب يحصل على العناوين وجولات التمويل. لكن نموذجًا تكلفة خدمته أقل بـ30% يمكن تسعيره أقل بـ30% ويظل مربحًا، وهذا يُحسم في كود مثل هذا، وفي مفاتيح مثل DEEPINFER_BATCH_INVARIANT، على يد أناس يحسّنون لحمل لن تراه أبدًا.

مقالات ذات صلة