تريد إنفيديا عزل وكيل مارق في مللي ثانية

أطلقت إنفيديا هذا الشهر منصة Open Agent Safety Platform، بمشاركة أكثر من مئة شريك من القطاع. وتقول الشركة إن مجموعة العتاد والبرمجيات مصممة لاكتشاف وكيل ذكاء اصطناعي يسيء التصرف وعزله، خلال مللي ثانية.

أعد قراءة ذلك الرقم. مللي ثانية. المنتج بأكمله حجة حول السرعة، والحجة صحيحة.

لماذا تمثل السرعة كل الهدف

الوكيل الذي يمتلك بيانات اعتماد ووصولاً إلى الأدوات لا يفشل بلطف. إنه يعمل في حلقة، وكل خطوة يمكن أن تكون سريعة. إذا قرر وكيل حذف مخزن بيانات، أو تصدير جدول عملاء، أو إرسال مستند بالبريد إلى العنوان الخطأ، يقع الضرر قبل أن يقرأ إنسان التنبيه. أداة تحكم تعمل خلال ثوانٍ هي أداة تحليل بعد الحادث. أما أداة تحكم تعمل خلال مللي ثانية فهي حزام أمان.

قائمة الشركاء هي الاستراتيجية

أكثر من مئة شريك ليس خطأ تقريب ولا زخرفة تسويقية. بهذا الحجم تصبح طبقة الأمان معياراً. لا يهم إنفيديا كثيراً أن تمتلك سوق الوكلاء. ما تريده هو أن تصبح الطبقة التي يمر عبرها كل وكيل، بالطريقة التي أصبحت بها وحدات معالجتها الرسومية الطبقة التي تدرّب عليها كل نموذج. إذا كانت آلية العزل تعيش في الحزمة التي يستخدمها الجميع بالفعل، فسيحصل عليها الجميع تلقائياً، وسيكون البديل هو أن تشرح لماذا رفضت حداً أدنى من الأمان.

لهذا النموذج سابقة. نادراً ما تأتي المعايير في الأمن السيبراني لأن العملاء طالبوا بها. إنها تأتي لأن بائعاً كبيراً ضمّها إلى شيء أراده العميل بالفعل، فتكيّف النظام البيئي.

التهديد الذي بُنيت من أجله

يأتي الإطلاق في شهر مليء بالتذكيرات بما يمكن للوكلاء غير المقيدين أن يفعلوه. وثّق باحثون مساعدي برمجة يقترحون حزماً غير موجودة، وهي هدية لمن يسجّل الاسم وينتظر. ووجد تقرير منفصل وكلاء يكشفون أكثر من 13,000 صورة داخلية عبر مستودعات عامة، سُرّبت بالخطأ لا بهجوم. وكشف تحقيق في دخول غير مصرح به إلى مواقع ويب عن وكلاء يستخدمون تقنيات تجعل نشاطهم أصعب في التتبع.

لا شيء من ذلك ثغرات غريبة. إنها سلوك وكيل عادي يلتقي ببيئة لم تُصمم قط لبرمجيات تتصرف من تلقاء نفسها. طبقة العزل لا تمنع كل واحد منها. إنها تغيّر نطاق الضرر. وكيل جامح يُوقف في مللي ثانية هو تقرير حادث. أما الوكيل نفسه إذا تُرك وحده ساعة فهو إشعار اختراق.

الجزء الصعب هو تعريف سوء التصرف

الكشف هو حيث يصبح الأمر صعباً حقاً. الوكيل المارق والوكيل المنتج يبدوان متشابهين من الخارج. كلاهما يجري اتصالات سريعة، ويستدعي واجهات API، وينقل البيانات. الفرق هو النية، والنية لا يمكن ملاحظتها في السجل.

لذا على المنصة أن تعتمد على الاستدلالات الإرشادية: حدود الأذونات، والقوائم المسموح بها، وكشف الشذوذ في تسلسلات الأفعال، وحدود صارمة لما يمكن لأي وكيل واحد لمسه. كل هذه هشة بطرق مختلفة. اضبط الحدود بإحكام مفرط فتتوقف الأعمال المشروعة، وهذا أسرع طريق لتعطيل طبقة أمان. واضبطها بتراخٍ مفرط فلا يطلق العزل أبداً حتى يفوت الأوان.

هذا التوتر هو المنتج الحقيقي. أي شخص يمكنه شحن مفتاح إيقاف. لكن شحن واحد يتركه فريق الدعم مفعّلاً أصعب، ولهذا يهم التأطير. إنفيديا تبيع الطبقة كبنية تحتية، لا كفرامل، والبنية التحتية شيء ترغب الفرق في البناء عليها.

الاحتواء ليس هو المنع

منصة العزل هي نوع محدد من الضوابط، ويستحق الأمر التوضيح بشأن ما تفعله وما لا تفعله. إنها لا تمنع وكيلاً من أن يُخدع أو يُتلاعب به أو أن يكون مخطئاً ببساطة. إنها تحدّ من مدى انتشار الخطأ بمجرد أن يبدأ.

هذا التمييز مهم لأن القطاع أمضى سنوات في ملاحقة المنع، والمنع يظل يفشل عند الأطراف. تصفية المطالبات تلتقط الهجمات الواضحة وتفوّت الذكية منها. مراجعات الأذونات تبدو شاملة حتى يركّب وكيل عدة أفعال مسموح بها في نتيجة لم يسمح بها أحد. مواءمة النموذج تساعد وليست ضماناً، لأن النموذج ليس المتغير الوحيد.

الاحتواء يقبل أن جزءاً من أفعال الوكلاء سيكون خاطئاً ويضع حدوداً حول الضرر. إنها الفلسفة نفسها التي شكّلت أمن الشبكات قبل جيل، حيث توقف المدافعون عن افتراض أن كل اختراق يمكن صده وبدأوا يفترضون أن بعضها سينجح. لحظة أن يفترض نظام ما الفشل، يتغير تصميمه. يصبح التسجيل مستمراً. ويصبح العزل هو الافتراضي. ويصبح التعافي إجراءً متدرباً عليه لا تخبطاً.

قائمة الشركاء هي أيضاً حجة حوكمة

مئة شريك تعني مئة مجموعة سياسات، وحملها على الاتفاق على ما يُعد فعلاً مارقاً يصطدم بعملية تفاوض لا بمشكلة تقنية. القطاعات المختلفة ترسم الخطوط في أماكن مختلفة. لا يمكن لمستشفى أن يترك وكيلاً يمس سجلات المرضى دون وجود إنسان في الحلقة. وقد تتحمل شركة إعلامية هامشاً واسعاً في مسودة، ولا تتحمل أي هامش في النشر.

إذا حاولت المنصة ترميز تعريف واحد للسلوك الآمن لهم جميعاً، فستفشل مع أول عميل يحتاج تعريفاً مختلفاً. وإذا جعلت كل شيء قابلاً للتهيئة، فستصبح صندوق أدوات لا حداً أدنى، وصناديق الأدوات لا تغيّر السلوك الافتراضي في قطاع بأكمله. السؤال المثير للاهتمام حول Open Agent Safety Platform هو إلى أي جانب تميل، وستظهر الإجابة في مقدار التهيئة الذي يتطلبه أول نشر.

هناك سابقة تستحق التذكر. استغرق الكشف والاستجابة على نقاط النهاية سنوات ليصبح معياراً، ولم يحدث ذلك إلا بعد سلسلة من الاختراقات جعلت البديل غير قابل للدفاع عنه. احتواء الوكلاء يسير على عقارب أسرع، لأن الوكلاء ينتشرون أسرع من أدوات الأمن المحيطة بهم. المنصات تصل قبل الاختراقات، وهذا أمر نادر في هذا المجال وبشارة جيدة لمن ينشرها مبكراً.

ما ينبغي للمؤسسات أن تستخلصه من هذا

الإطلاق إشارة إلى أين يعتقد القطاع أن الخطر يتركز، وليس دعوة للاسترخاء. إذا قرر بائع عتاد بهذا المدى أن احتواء الوكلاء في مللي ثانية يستحق منصة ومئة شريك، فإن عصر تشغيل الوكلاء بأذونات واسعة والأمل في الأفضل يقترب من نهايته.

الخطوة العملية لأي شخص ينشر وكلاء اليوم هي رسم خريطة لما ستحتاج طبقة الاحتواء معرفته عن بيئتهم. ما الأفعال التي لا رجعة فيها. ما البيانات التي لا يمكن أن تغادر أبداً. ما بيانات الاعتماد التي قد تسبب أكبر ضرر إذا أُسيء استخدامها. هذه الإجابات لا تعتمد على منصة إنفيديا أو أي منصة أخرى، وهي المدخلات التي ستحتاجها أي طبقة أمان. ستتولى المنصات الآلية. أما الحدود فلا تزال عليها أن تأتي من الأعمال.