طبقة حوكمة الوكلاء تصل، وهي تُطرح بسرعة

على مدى عامين، كان السؤال حول وكلاء الذكاء الاصطناعي هو القدرة. هل يمكنه حجز الرحلة، أو فتح التذكرة، أو إغلاق المطالبة. هذا السؤال تمت تسويته إلى حد كبير، على الأقل للمهام الضيقة التي تهتم بها الشركات فعلاً. السؤال الجديد هو الحوكمة: بمجرد أن يعمل الوكيل في الإنتاج ببيانات اعتماد حقيقية، كيف تحافظ الشركة عليه داخل الحدود.

جاء شهر أكتوبر بمجموعة من المنتجات المبنية لهذا الغرض تحديدًا، والنمط يصعب تفويته.

OpenAI تبني طبقة عمليات لوكلائها

أطلقت OpenAI منتج Presence، الموصوف بأنه طبقة تشغيلية لنشر وكلاء الصوت والمحادثة. العرض هو تحكم منظم: حدد نطاق عمل لكل وكيل، وقيّد المعرفة التي يمكنه الوصول إليها، وحد من الإجراءات التي يُسمح له باتخاذها، وأرفق التقييم والتصعيد البشري افتراضيًا. أمثلة الإطلاق معبّرة، لأنها تسمي الوظائف التي كانت الشركات أكثر ترددًا في تسليمها. دعم الفوترة. المطالبات التأمينية. طلبات تكنولوجيا المعلومات للموظفين.

تلك هي المهام التي يمتلك فيها الوكيل حق الوصول إلى الأموال والبيانات الشخصية وأنظمة السجلات. وهي أيضًا المهام التي يكون فيها الإجراء الخاطئ مكلفًا ويصعب عكسه. يُقرأ Presence كما لو أن OpenAI تعترف بأن نموذجًا قادرًا ليس كافيًا. النموذج يجيب على السؤال. طبقة العمليات تقرر ما إذا كان يُسمح للجواب بأن يصبح إجراءً.

منتج ثانٍ للوكلاء العاملين بالفعل

أطلقت Classie منتج Supervise تلبيةً لنفس الحاجة، مصوغًا كتتبع وتحكم ومحاسبة في الوقت الفعلي للوكلاء الموجودين بالفعل في الإنتاج. التمييز مهم. Presence مخصص للوكلاء الذين أنت على وشك نشرهم. Supervise يستهدف الواقع الأكثر فوضوية للوكلاء الذين بدأوا العمل قبل ستة أشهر وتراكمت لديهم أذونات لا يتذكر أحد منحها.

يصف المنتجان السوق نفسه من طرفين متقابلين، ويشيران معًا إلى تحول. لم يعد المشتري يسأل عما إذا كان الوكيل قادرًا على إكمال مهمة. المشتري يسأل عما يحدث في اليوم الذي يفعل فيه شيئًا غير متوقع، وما إذا كانت هناك طبقة تحكم تلتقط ذلك.

شركات الحوكمة تدمج الوكلاء في منصاتها

وسّعت OneTrust منصتها حول حوكمة الذكاء الاصطناعي في وقت التشغيل: طبقة تحكم، ومركز قيادة، وتكاملات مع ChatGPT وClaude وCopilot وGlean. الإطار هو أن الحوكمة لا يمكن أن تكون تمرينًا توثيقيًا يحدث قبل النشر. يجب أن تنطبق على الإجراءات أثناء حدوثها، وتحفظ أدلة القرارات، وتتصل ببرامج الخصوصية والمخاطر التي تديرها الشركات بالفعل.

نقطة التكامل تلك هي القصة الحقيقية. عملاء OneTrust لا يريدون لوحة معلومات جديدة. يريدون أن يكون الإشراف على الوكلاء ضمن النظام نفسه الذي يتعامل بالفعل مع الموافقة والخصوصية ومخاطر البيانات، لأن هناك حيث يجب أن يبقى مسار التدقيق.

يقدم موردو الأمن الحجة نفسها من الجانب الآخر. لطالما دفع المدير التنفيذي للتقنية في Red Hat فكرة أن ضمانات مستوى النموذج تتوقف عن كونها كافية في اللحظة التي يصبح فيها الوكيل قادرًا على تنفيذ إجراءات عبر أنظمة الشركة. تنتقل الحدود الأمنية من النموذج إلى الهوية ووقت التشغيل وطبقات الشبكة المحيطة به. في هذا التفسير، الوكيل هو نوع جديد من المطلعين يحمل شارة، وليس روبوت محادثة أذكى.

مسار التدقيق هو المنتج

جرّد العلامات التجارية وستجد أن المنتجات تتقارب على مُخرَج واحد: سجل. من بدأ الوكيل، وما النطاق الذي كان لديه، وما قرأه، وما غيّره، ومن وافق على النتيجة. الصناعات الخاضعة للتنظيم تفعل هذا للبشر منذ عقود. توسيعه ليشمل برمجيات تعمل من تلقاء نفسها أمر جديد، وهو الشيء الذي يفتح الباب للتبني.

قامت Salesforce وAWS بالرهان نفسه مع Agentforce 360، الذي يولّد مسارات تدقيق غير قابلة للتغيير لكل قرار يتخذه الوكيل، ويشغّل محرك الاستدلال الخاص به على Claude عبر Bedrock. انضمت CrowdStrike مبكرًا، مشيرة إلى بساطة الشراء إلى جانب الأمان. عندما يستطيع العميل شراء قصة الحوكمة في العقد نفسه مع القدرة، تصبح الصفقة أسهل.

لماذا يكون الإشراف أصعب مما يبدو

تبدو المنتجات مثل لوحات المعلومات. تحت السطح، يجب أن تحل حوكمة الوكلاء مشكلة لم تكن موجودة قبل هذا العقد: كيف تصف السلوك الصحيح لنظام يرتجل.

الخدمة التقليدية تفعل ما بُرمجت عليه. الموظف البشري يعرف القواعد ويمكن سؤاله لشرح قرار. الوكيل يقع بين هذين. لديه هدف ومجموعة من الأدوات، ويختار الخطوات. تلك الحرية هي مصدر القيمة، وهي أيضًا حيث يسكن الخطر، لأن المرونة نفسها التي تسمح للوكيل بالتعامل مع طلب غير معتاد تسمح له باتخاذ إجراء غير معتاد لم يصادق عليه أحد.

تهاجم منتجات الحوكمة هذا من عدة زوايا. حدود النطاق تحدد ما يُسمح للوكيل بمحاولته. حدود المعرفة تقرر ما يمكنه قراءته. موافقات الإجراءات تُدخل نقطة تفتيش قبل أي شيء لا رجعة فيه. يلتقط التقييم حالات التراجع بمرور الوقت، ويتعامل التصعيد البشري مع الحالات التي يبلغ عنها الوكيل كغير مؤكدة. كل ضابط غير كامل. عند تركيبها معًا، تضيّق المساحة التي يمكن فيها لقرار سيئ أن يتضاعف دون إشراف.

المطلب الدقيق هو أن تكون الضوابط غير مرئية عندما يكون كل شيء على ما يرام. طبقة إشراف تبطئ كل مهمة روتينية سيتم إيقافها خلال شهر، عادةً من الفريق نفسه الذي طلبها. المنتجات الجيدة هي التي تتدخل فقط عند الحواف، وهو موجز هندسي أصعب بكثير من إطلاق محرك سياسات.

نمط الشراء يتغير مع ذلك

هناك إشارة تجارية في هذه الإطلاقات يسهل تفويتها. لا تُباع منتجات الحوكمة كإضافات إلى اشتراك نموذج. بل تُباع كمنصات، وأحيانًا من قبل شركات لا علاقة لها بتدريب النماذج.

هذا يخبرك إلى أين تتحرك القيمة المدركة. عندما كانت النماذج نادرة ومبهرة، كان النموذج هو المنتج. الآن بعد أن أصبح العديد منها جيدًا بما يكفي للوظيفة نفسها، يصبح العامل المميز هو ما يحيط بها: الضوابط، والسجلات، والتكاملات، والقدرة على إثبات للمدقق ما حدث. بدأ المشترون يعاملون الوكيل كمكوّن واحد في نظام محوكم بدلاً من النظام نفسه.

وهذا يعني أيضًا أن المشتري قد تغير. الشخص الذي يوقع على منصة حوكمة غالبًا ليس الشخص الذي وقع على النموذج. فرق الأمن والمخاطر والامتثال تدخل في القرار، وتجلب مجموعة مختلفة من الأسئلة. ليس ما مدى ذكائه، بل من يمكنه إيقافه، وماذا يترك وراءه، وأين يعيش الدليل. المنتجات المبنية لهذا الجمهور تبدو باهتة بجانب عرض توضيحي، وهي ما يجعل العرض التوضيحي قابلاً للنشر.

ما يقوله هذا عن المرحلة التالية

وصول منتجات الحوكمة في مجموعة عادةً يعني أن مرحلة القدرة انتهت وبدأت مرحلة الثقة. حدث ذلك مع السحابة، عندما ظهرت أدوات الامتثال بعد سنوات من البنية التحتية. حدث ذلك مع الهاتف المحمول، عندما لحقت إدارة الأجهزة بانفجار التطبيقات. الوكلاء على المنحنى نفسه، لكنه مضغوط.

القراءة العملية لأي شخص ينشر وكلاء الآن صريحة. ابنِ الإشراف من البداية. تعديل طبقة تحكم على وكيل ظل يعمل بشكل حر لمدة عام أصعب من إنشاء واحدة قبل الإطلاق، والأدوات اللازمة لذلك متاحة أخيرًا. النافذة التي كان فيها "سنضيف الحوكمة لاحقًا" تبدو معقولة قد أُغلقت.