أشهر حيلة جديدة على GitHub هي أن تتكلم أقل

أشهر حيلة جديدة على GitHub هي أن تتكلم أقل

أسرع مستودع نموًا على GitHub هذا الأسبوع هو مشروع بلغة Go يُدعى caveman، وقد تجاوز 112,000 نجمة، وفكرته الأساسية كلها مزحة تصادف أنها صحيحة. يقرأ شعاره: لماذا تستخدم token كثيرًا حين تكفي token قليلة. وهو skill وبروكسي لوكلاء البرمجة يزعم أنه يقلل استخدام الـ tokens بنحو 65 في المئة عبر جعل النموذج يتحدث كرجل كهف.

إذا أزلت النكتة يبقى ادعاء هندسي حقيقي. معظم ما يرسله وكيل البرمجة ويستقبله ليس معلومات. إنه سقالات ومجاملات وإعادة صياغة والمقدمات المهذبة التي تفعلها النماذج اللغوية افتراضيًا. إذا أمكنك رمي كل ذلك دون رمي المعنى، تصبح الجلسة أرخص ويمتد نافذة السياق أبعد.

النكتة هي أيضًا التشخيص. عندما تكون الحركة الرابحة هي جعل المساعد يبدو أغبى، فإن عنق الزجاجة ليس الذكاء. إنه الحمل الزائد.

الفاتورة هي السياق، لا النموذج

يستغرق الأمر وقتًا لاستيعاب كيف تصبح أحمال عمل الوكلاء مكلفة فعلاً. النموذج البديهي يقول إنك تدفع مقابل كل جواب، فالجواب الطويل يكلف أكثر. النموذج الحقيقي هو أنك تدفع مقابل كل token سياق يجب أن ينتبه إليه النموذج، وهذا السياق ينمو مع كل دور.

بحلول الوقت الذي يقرأ فيه الوكيل مستودعًا وينفذ بعض الأوامر ويرى النتائج ويكتب بعض الشيفرة ويقرأ رسائل الخطأ، تكون المحادثة ضخمة. كل دور جديد يجرّ معه التاريخ كله. الخطوة العاشرة تكلف أكثر بكثير من الأولى، لا لأن النموذج أصبح أبطأ، بل لأنه يحمل أكثر.

لهذا فإن أداة تقلص 65 في المئة من الـ tokens ليست تحسينًا هامشيًا. عند تطبيقها على وكيل يعمل ساعات، إنها الفرق بين جلسة تبقى داخل الميزانية وجلسة يجب إعادة تشغيلها في منتصف الطريق.

ثلاث طرق لمهاجمة المشكلة نفسها

المشاريع الأخرى التي تركب الموجة نفسها تهاجم المشكلة من زوايا مختلفة، ومقارنتها مفيدة.

Headroom، وهو مشروع بلغة Python ربح نحو 13,000 نجمة في أسبوع ليصل إلى نحو 39,000، هو طبقة ضغط للسياق تعمل كمكتبة أو بروكسي أو خادم MCP. يقدم ست خوارزميات ضغط ويزعم تقليلات من 60 إلى 95 في المئة. الخيار التصميمي المهم هو أنه محلي أولاً وقابل للعكس، وهذا مهم لأن ضغطًا يدمّر المعلومات أسوأ من عدم الضغط إطلاقًا. القدرة على فك الضغط تعني أن الوكيل لا يزال بإمكانه استرجاع ما دفنه.

Xerj يستهدف عادة محددة ومكلفة جدًا. إنه أداة بلغة Rust تفهرس الشيفرة والمستندات والسجلات وملفات PDF بأمر واحد، ليتمكن الوكيل من الاستعلام من فهرس منظم بدلًا من حرق الـ tokens في الاستكشاف بـ grep و sed، تلك الحلقة من البحث ثم القراءة ثم البحث مجددًا التي تستهلك سياقًا هائلًا مقابل بضعة أسطر ذات صلة. يزعم المشروع استخدام tokens أقل بنحو 40 مرة من grep ويبقى متوافقًا مع Elasticsearch، لذا تستمر العملاء الحاليون في العمل.

ضع الثلاثة جنبًا إلى جنب فيظهر نمط. Caveman يغيّر طريقة كلام النموذج. Headroom يغيّر ما يُتذكّر. Xerj يغيّر إلى أين ينظر النموذج. الـ tokens الموفرة هي الـ tokens نفسها، لكن الرافعة مختلفة، والأدوات الناضجة تحتاج الثلاثة في النهاية.

لماذا تنجح حيلة رجل الكهف أصلًا

لا ينبغي لمنهج رجل الكهف أن ينجح كما يُقال، ويستحق الأمر فهم لماذا ينجح مع ذلك.

النماذج المضبوطة بالتعليمات مدربة على أن تكون مفيدة بأسلوب معين. تعيد صياغة سؤالك قبل أن تجيب. تلخص ما فعلته للتو. تشرح تفكيرها بجمل كاملة، وتختم بملاحظة ودودة، وتنسق كل شيء بعناوين. لا شيء من ذلك تطلبه المهمة، وكله يُحتسب بالـ token.

إذا أوعزت إلى النموذج بأن يتخلى عن المجاملة ويبقي فقط الكلمات التي تحمل المعنى، تحصل على مخرجات تبدو خشنة وتنقل الشيء نفسه تقريبًا. ترتفع كثافة المعلومات لأن المراسم تختفي. وهو السبب نفسه الذي يجعل ملاحظة مهندس موجزة تقول في عشر كلمات أكثر مما تقوله جدول أعمال اجتماع في مئة.

لكن المقايضة حقيقية. المخرجات الموجزة أصعب على الإنسان في تصفحها، والاختصار الغامض يخلق سوء فهم يكلف أكثر مما يوفر. إزالة الكلمات التي تجعل النية صريحة رهان على أن السياق المحيط يحمل معنى كافيًا، وهذا الرهان يخسر بالضبط عندما تكون المهمة غير معتادة. الضغط يساعد أكثر في العمل المتكرر ويضر أكثر حيث تهم الفروق الدقيقة، وهي قاعدة تستحق التذكر قبل تطبيقها في كل مكان.

عرض الانتباه وطلبه

هناك سبب بنيوي لانفجار هذه الفئة الآن، ولا علاقة له بأي مستودع بعينه.

أصبحت نوافذ السياق كبيرة، لكن اشتهاء ملئها كبر أيضًا. الوكلاء الذين يقرؤون مستودعات كاملة ويحافظون على تواريخ مهام طويلة وينسقون وكلاء فرعيين سيستهلكون أي مساحة تُمنح لهم، لأن استهلاك السياق هو طريقتهم في إنجاز الأمور. كل زيادة في السعة تُستوعب في غضون أسابيع، ويعود الضغط.

هذه ديناميكية مألوفة. توسيع الطرق السريعة لا يقلل المرور على المدى الطويل، لأن الناس يستجيبون لتنقل أرخص بأن يتنقلوا أكثر. والسياق كذلك. النافذة الأكبر لا تُنهي النقص، بل تعيد تعريف ما يُعد استخدامًا معقولًا، ويعاود النقص تأكيد نفسه عند مستوى أعلى.

وهذا يعني أن الضغط ليس حلًا مؤقتًا. إنه طبقة دائمة في المنظومة، والمشاريع التي تتقنه ستستقر في موقع يشبه قواعد البيانات والذاكرات المؤقتة: غير مرئية، بلا بريق، ويستحيل إزالتها متى صار الناس يعتمدون عليها.

ما الذي يجب مراقبته فعلاً

عدد النجوم دليل سيئ هنا، لأن اسمًا مضحكًا ينتشر أسرع من خوارزمية جيدة. يستحق الأمر التحقق من ثلاثة أمور قبل تبني أي من هذا.

الأول هو قابلية العكس. الضغط الفاقد الذي لا يمكن التراجع عنه يجعل الأخطاء أصعب في التتبع، لأن الوكيل قد يستنتج انطلاقًا من ملخص أسقط التفصيل المهم. والثاني هو موضع التطبيق. البروكسي الذي يضغط كل حركة المرور دون تمييز سينتهي به الأمر إلى ابتلاع شيء يحمل المعنى، وسيبدو الفشل مثل هلوسة للنموذج لا مثل خلل في الأداة. والثالث هو القياس. عبارة 65 في المئة tokens أقل ادعاء عن نوع معين من الجلسات، والرقم الوحيد المهم هو الذي تقيسه على حركة مرورك أنت.

النقطة الأعمق هي أن القطاع أمضى عامين يطارد القدرة واكتشف الآن أن الكفاءة هي حيث تكمن الجولة التالية من المكاسب العملية. النموذج الذي يجيب بشكل صحيح هو الحد الأدنى. والمسار الذي يجيب بشكل صحيح بعُشر التكلفة هو منتج. Caveman و Headroom و Xerj تشير كلها إلى الحقيقة نفسها: في عمل الوكلاء، الانتباه هو المورد النادر وكل ما عدا ذلك محاسبة.