DeepSeek فتحت مصدر حزمة الخدمة. اقرأ الأجزاء الناقصة أولًا.

نشرت DeepSeek هذا الأسبوع DeepInfer: إطار الاستدلال الذي يشغّل حركتها الإنتاجية الواسعة النطاق، وهو متاح الآن تحت رخصة Apache 2.0. تجاوز 25,000 نجمة في شهر دون حدث إطلاق، وهذا يقول لك مقدار تعطش الناس لرؤية كيف يخدم مختبر متقدم نموذجًا فعليًا.
قبل أن يقيسه أحد مقابل vLLM في مساء يوم أحد، اقرأ في ملف README القسم الذي يسرد ما ليس في الإصدار. فهو أصدق فقرة في المستودع.
ما الذي تحصل عليه
DeepInfer محرك استدلال غير متصل، لنموذج واحد بالتحديد: DeepSeek-V4.1-Flash. ليس عائلة، ولا معمارية إضافات بعشرات المحولات. نقطة تحقق واحدة، مضبوطة حتى تكفّ النوى عن الشكوى.
هذا التضييق هو المقصد. وقائمة الميزات جولة على كل ما يكلّف مالًا على نطاق واسع:
- نوى محسّنة — FlashMLA وDeepGEMM وDeepEP وTileKernels وDeepSelect، إضافة إلى نوى TileLang مخصصة.
- التوازي — توازي بيانات الانتباه مع توازي سياق متوازن، وتوازي خبراء MoE مع EPLB (موازنة الحمل على مستوى الخبير، وهي ما يمنع خبيرًا واحدًا من التحول إلى نقطة سخونة).
- DSpark والتحقق المجدول بالثقة — فك ترميز تخميني يُضبط فيه طول المسودة بحسب الثقة لا برقم ثابت. والطول الافتراضي 5 عبر
DEEPINFER_USE_NEXTN_DECODE. - إعادة تشغيل محدودة بنافذة SWA — بدل إعادة تشغيل بادئة كاملة، يُعاد فقط لاحقة محدودة. وإعدادات V4.1 الافتراضية تحتفظ بـ140 رمزًا وتشترط أن تغطي اللاحقة النافذة المنزلقة زائد أقصى مسافة تراجع.
- جدولة غير متزامنة — جدولة الدفعات على المعالج تتقاطع مع التنفيذ على الجهاز، وهي مفعّلة افتراضيًا.
- استدلال ثابت تجاه الدفعة وأخذ عينات حتمي — الرموز نفسها في المدخل تنتج الرموز نفسها في المخرج مهما كان في الدفعة غيرها.
- مخرجات مهيكلة — قيود تعبير نمطي أو مخطط JSON أو قواعد EBNF تُمرّر عبر
SamplingParams.
المجموعة الأخيرة هي التي أضع تحتها خطًا. كل حزم الخدمة تقريبًا تستطيع إخراجًا مهيكلًا. والقليل جدًا يستطيع أن يضمن أن مخرجك متطابق بايتًا ببايت سواء أرسلت طلبًا واحدًا أو ألفًا، لأن معظم النوى تختار ترتيبات جمع مختلفة بحسب شكل الدفعة، وترتيبات الجمع المختلفة تنتج نتائج فاصلة عائمة مختلفة. وإن سبق أن فشل اختبار انحدار لديك لأن الدفعة كبرت، فأنت تعرف لماذا يهم هذا.

ما لا تحصل عليه
ثلاثة أشياء، مذكورة في README بلا دراما تذكر:
- نظام ذاكرة تخزين مؤقت KV.
- فصل VE / prefill / decode — «معظم وظائف المحرك المطلوبة منفّذة بالفعل»، لكن سباكة النشر غير مشحونة.
- موازنة الحمل عبر نسخ توازي البيانات، لمرحلتي prefill وdecode كل على حدة.
- أي شيء غير DeepSeek-V4.1-Flash.
اقرأ القائمة مرتين. خدمة استدلال إنتاجية ليست نواة سريعة، بل نواة سريعة مع ذاكرة تصمد بعد الإخلاء وموجّه يعرف أي نسخة باردة. DeepInfer يمنحك المحرك لا السيارة. فإن كنت فريق بحث بثماني وحدات GPU ومعيارًا تريد إعادة إنتاجه، فهذا مناسب تمامًا. وإن كنت شركة ناشئة تأمل استبداله بنشر vLLM لديها في الدورة القادمة، فستنفق ربعًا كاملًا في إعادة بناء الأجزاء التي تُركت عمدًا.
العتاد هو القصة الحقيقية
العتاد المدعوم: وحدات NVIDIA SM100 ووحدات NPU من Huawei Ascend 950. سطران، بلا تعليق.
هذا أمر لافت أن يوضع في README. إطار يعامل قطعة NVIDIA من الفئة العليا ومسرّعًا صينيًا محليًا كهدفين متكافئين يخبرك أين تعمل حركته الإنتاجية فعلًا، أو أين تتوقع أن تعمل. ونظام البناء يوضح ذلك: export DEEPINFER_ACCELERATOR=nvidia، أو ascend بدلًا منها. CUDA 13 على مسار، وCANN 9.2 على الآخر.
لمعظم الفرق الغربية هذه معلومة ثانوية. أما لمن يبني في الصين، أو يبني شيئًا يجب أن يصمد أمام عنوان عن ضوابط التصدير، فهو أهم سطر في المستودع.
التثبيت، بصراحة
المتطلبات ليست لطيفة: Linux، وGCC 13 أو أحدث، وPython 3.12، وCUDA 13. ثم:
export DEEPINFER_ACCELERATOR=nvidia
./build.sh
python examples/offline_inference.py
نقطة التحقق الافتراضية تُسحب من Hugging Face عند أول تشغيل؛ اضبط DEEPINFER_HF_MODEL_DIR إن كانت لديك محليًا. وقد قيست المعايير على أربع وحدات SM100 لمرحلة prefill وأربع وستين لمرحلة decode، وهذا ينبغي أن يعاير توقعاتك بشأن معنى «سريع» هنا. لن تعيد إنتاج تلك الأرقام على 4090، ولا يوجد مسار استهلاكي على الإطلاق.
أما النسب فمذكور بوضوح: مبني أصلًا على vLLM، بأفكار من SGLang وTensorRT-LLM. هذا اعتراف لبق، وخريطة مفيدة أيضًا. فإن كنت تعرف مجدول vLLM وذاكرة الجذر في SGLang، تستطيع تخمين أي الأجزاء أعاد DeepInfer كتابتها وأيها ورثها.
لماذا تنشر المختبرات هذا كمفتوح المصدر
ثلاثة أسباب محتملة، وهي لا تتعارض.
أولًا، المصداقية. نشر حزمة الخدمة طريقة للقول إن أرقام المعايير جاءت من شيء حقيقي. يستطيع أي أحد اقتباس رموز في الثانية، أما شحن الكود الذي أنتجها فمستوى مختلف من الادعاء.
ثانيًا، المنظومة. أطر الخدمة هي مكان عيش مهندسي الاستدلال. فإن كان نموذجك يعمل جيدًا على الإطار الذي يعرفه الجميع أصلًا، تكسب التبني مجانًا. وإن كان يعمل جيدًا على إطارك وحده، فعلى الإطار أن يكسب مستخدميه بنفسه.
ثالثًا، التوظيف والمعايير. المختبر الذي ينشر نوىه يضع المفردات. وحين تقول الورقة التالية «ثابت تجاه الدفعة»، يفهم الجميع ما يفهمه DeepInfer.
وما لا يفعله هو تسليمك منتجًا. الفجوة بين «فتحنا محركنا» و«تستطيع خدمة هذا النموذج بتكلفة زهيدة» هي بالضبط الفجوة التي يصارحك بها README.
ما تفعله به هذا الشهر
إن كان الاستدلال مهنتك، فاستنسخه، وشغّل المثال غير المتصل على أي عتاد Blackwell أو Ascend تستطيع استئجاره، وقس أمرين: زمن أول رمز تحت توزيع أوامر واقعي، وهل يصمد أخذ العينات الحتمي فعلًا عبر أحجام الدفعات. هذان هما الادعاءان الرخيصان في التحقق والمكلفان في التزييف.
وهناك استخدام أضيق وأكثر عملية: التقييم الدفعي غير المتصل. فإن كنت تحتاج تشغيل حزمة تقييم ثابتة عشر مرات ومقارنة المخرجات، فأخذ العينات الحتمي يحوّل ذلك من تمرين إحصائي إلى فرق نصي. ومعظم منصات التقييم تنفق نصف تعقيدها في الالتفاف حول حقيقة أن الأمر نفسه يعطي أجوبة مختلفة بأحجام دفعات مختلفة. وحزمة خدمة تضمن العكس تلغي فئة كاملة من الأدوات.
وإن لم تكن، فالمستودع يستحق ساعة. لا كبرمجيات، بل كمواصفة. إنه مختبر متقدم يخبرك أي المشكلات رآها صعبة بما يكفي لحلها داخليًا: موازنة حمل الخبراء، وإعادة التشغيل المحدودة لانتباه النافذة المنزلقة، والتخمين المقيّد بالثقة، وقابلية الاستنساخ الدقيقة بالبت. وتلك القائمة خريطة جيدة لمصادر تكاليف الاستدلال الفعلية، وستبقى صحيحة مدة طويلة بعد تقاعد V4.1-Flash.
المصدر المفتوح هنا يعني «ها هو المحرك، وهذا هو الضبط، وهذا النموذج الوحيد الذي نهتم به». أما الباقي — الذاكرة والموجّه والوسط غير اللامع — فيبقى ما تبنيه بنفسك.
مقالات ذات صلة
جدول نقرات يديره المجتمع يطفئ الإعلانات داخل بناءات أندرويد الصينية
لا يمس النظام، ولا يفتح القفل، ولا يكتب أي شيء على الجهاز. يقلب فقط المفاتيح التي عرضتها الشركات أصلاً. الثمن قائمة يجب أن يظل أحدهم يكتبها.
GPT Image 2.6 أبقى على سعر الرموز ورفع الفاتورة
أبقى GPT Image 2.6 على كل أسعار الرموز كما كانت في 2.5، ومع ذلك صارت الصورة الواحدة أكثر كلفة، لأن جزءاً أكبر من العمل يجري الآن في رموز الإخراج. بعد أحد عشر يوماً من الإطلاق، تقول بنية التسعير أكثر مما تقوله لوحة الصدارة.
أحدهم أعاد بناء IDM من الخارج وكتب ما لم يمسّه
إعادة تنفيذ بلغة Rust لبرنامج Internet Download Manager تزعم سرعة أكبر بخمسة أضعاف ودعماً لـ 86 لغة. والوثيقة الأكثر إثارة للاهتمام هي الفقرة التي تشرح كيف بُني المشروع دون نسخ أي شيء.
Rune إطار عمل UI بلغة Rust صُمم كي يستطيع الوكيل التحقق من عمله
يرسم Rune بلا واجهة، ويفرّغ شجرة عناصره، ويقبل إدخالًا مكتوبًا، ما يمنح وكيل البرمجة إشارة قابلة للمقارنة لا تقدمها لقطة الشاشة أبدًا. الإطار في مرحلة ما قبل الإصدار ولا يستقبل pull requests.