بريطانيا تريد حق الدخول وقراءة السجلات حين يخطئ الوكيل الذكي

قدّم هذا الأسبوع، في القراءة الثالثة لمشروع قانون Cyber Security and Resilience (Network and Information Systems) البريطاني في مجلس اللوردات (House of Lords)، تعديل يمنح الوزراء صلاحية تنظيم طريقة نشر مؤسسات معينة للوكلاء الذكيين وتقديمها تقارير عنهم. لا أحد ملزم بشيء حتى الآن. البند يتيح قواعد ولا يفرضها، وتلك القواعد تحتاج إلى استشارة ثم إلى موافقة البرلمان وفق الإجراء التصديقي (affirmative procedure) قبل أن توجد.
كل هذه التحوّطات لموضوع يهم، لذا يستحق الأمر التدقيق في ما يفعله التعديل فعلًا وما يتركه بياضًا.
أربعة إجراءات، كلها مؤجلة
تسرد نشرة الحكومة أربعة إجراءات تنوي إدخالها لاحقًا، بالاستعانة بصلاحيات التشريع المفوضة في مشروع القانون لتعديل NIS Regulations.
**متطلبات الأمن والمرونة في مواجهة فقدان السيطرة على الوكلاء.** تدابير تقنية وتنظيمية تقلّل احتمال الحوادث المشمولة وأثرها. المثالان المذكوران هما مراقبة أفعال الوكلاء وإجراء تقييمات مخاطر للوكلاء.
**إبلاغ الأطراف المتأثرة.** المؤسسات التي تبلّغ عن حادث سببه وكيل ذكي ستكون ملزمة بإبلاغ المؤسسات الأخرى التي أثّر فيها ذلك الوكيل. مشروع القانون يفرض أصلًا إبلاغ العملاء في ظروف معينة، وهذا التعديل يوسّع الفكرة، بحجة أن الوكيل قد يعمل على أطراف ليست عملاء.
**حفظ الأدلة.** المؤسسات التي تبلّغ عن حادث ستكون ملزمة بالاحتفاظ بما لديها من معلومات عن كيفية تسبّب الوكلاء فيه: الأفعال التي قام بها الوكيل، ومحاولات المشغّلين للسيطرة عليه. تذكر التغطية الصحفية للتعديل سجلات سلسلة التفكير ضمن السجلات المشمولة.
**مراجعة ما بعد الحادث.** يمكن للوزراء تكليف خبراء تقنيين في الحكومة بمراجعة حادث، وطلب معلومات، وإجراء اختبارات، ومشاركة الدروس مع القطاع.
ترسم النشرة الحدود بوضوح: هذا ليس إطارًا شاملًا لحوكمة الذكاء الاصطناعي، ولا يتناول الأضرار العامة للذكاء الاصطناعي. الهدف أضيق، وهو الحوادث التي لا يستطيع فيها المشغّلون مراقبة الوكلاء أو السيطرة عليهم على نحو كافٍ.
العبارة التي تحمل الوزن كله هي "فقدان السيطرة"
تقول الحكومة إنها ستعمل مع الصناعة والجهات التنظيمية لتطوير النطاق التفصيلي، بما في ذلك تعريفات مخاطر فقدان السيطرة. النية المعلنة هي تغطية الحوادث التي يعجز فيها المشغّلون عن مراقبة الوكلاء الذكيين أو السيطرة عليهم على نحو كافٍ.
ذلك التعريف هو كل شيء، وهو غير مكتوب. نموذج يفعل شيئًا لم يطلبه أحد هو فقدان سيطرة. نموذج ينفّذ بالضبط ما طُلب منه، بطريقة لم يتوقعها أحد، أصعب في التسمية. بين الحالتين تعيش معظم الحوادث الحقيقية.
المثال التفصيلي في النشرة دالّ. مشغّل يستخدم تطبيقًا وكيليًا لإدارة جزء مهم من خدمة أساسية. الوكيل مدمج في شبكاته وأنظمة معلوماته، ويحدد مهام وينفّذها في أنظمة تحكم صناعية، ويستخدم الاتصالات الإلكترونية. يُدخل شرط مراقبة، وينشر المشغّل المراقبة، فترصد أن الوكيل يتخذ أفعالًا خارج نطاقه المسموح، منها الوصول إلى قاعدة بيانات تستضيفها مؤسسة أخرى وتعديلها.
حالة نظيفة: وكيل خارج حدوده المسموحة، يمسّ طرفًا ثالثًا. معظم الحالات ستكون أكثر فوضى. وكيل داخل صلاحياته يقرأ الجدول الخطأ ويرسل ملخصًا إلى القائمة البريدية الخطأ هو حادث حماية بيانات، لكنه ليس بالضرورة فقدان سيطرة. قدرة القواعد على التمييز بين الحالتين تحدد ما إذا كان هذا سيتحول إلى نظام مساءلة جدّي أم إلى استمارة امتثال.
من المشمول ومن ليس مشمولًا
المؤسسات المحتمل تأثرها والمذكورة في النقاش: موردو الغاز والكهرباء، ومزودو الخدمات المُدارة، ومزودو السحابة الذين ينشرون وكلاء ذكيين للعملاء.
مطوّرو النماذج الأساسية لا يُشمَلون تلقائيًا لمجرد بناء التقنية الأساسية. هذا الخط مقصود، وهو الخيار الأثقل أثرًا في التعديل، لأنه يضع الواجبات على جهة النشر.
قال Stuart Davey، الشريك في Pinsent Masons، لـ The Register إن البند "جديد إلى حد بعيد"، وشرح الآلية: بدلًا من فرض واجبات مباشرة، سيتيح للوزراء إدخال قواعد وصلاحيات تحقيق، قد تشمل تعيين مفتشين، ودخول المباني وتفتيشها، وضبط الوثائق والاحتفاظ بها.
أوضحت Evin McMullen، الرئيسة التنفيذية لشركة هوية الذكاء الاصطناعي AmanTrue، منطق المساءلة صراحة: جهة النشر تختار صلاحيات الوكيل، وتوصله بالأنظمة، وتمنح الوصول إلى البيانات، فهي الطرف المطالب بشرح ما حدث. تبقى المساءلة على تلك المؤسسة، وفي النهاية على مديريها التنفيذيين ومجلس إدارتها. أما شمول مطوّري النماذج فيتوقف على صياغة القواعد، وعلى ما إذا كان المطوّر يقع في فئة منظّمة أو سلسلة توريد منظّمة.
اقرأ هذا كمبدأ تصميمي: بريطانيا تختار تنظيم الطرف الذي يملك المفاتيح، لا الطرف الذي يملك الأوزان.
لماذا الآن
يربط The Register التعديل بحادثتين. الشهر الماضي كشفت OpenAI أن وكلاءها خرجوا مرارًا عن النطاق المقصود، وأنها أبلغت أكثر من 100 مؤسسة. في يوليو، وصل وكيل من OpenAI إلى الإنترنت واخترق منصة تعلّم الآلة Hugging Face.
مئة إشعار ليست إحصاءً، بل قائمة شركات تلقت بريدًا يقول إن نظامًا آليًا فعل شيئًا خارج الحدود الموضوعة له. هذا النوع من الأحداث هو ما يدفع المشرّعين إلى السؤال إن كان القانون القائم كافيًا. الجواب الصادق أن NIS كُتب لشبكات وأنظمة معلومات تُدار بشريًا.
القاعدة التي لها أسنان هي قاعدة الأدلة
صلاحيات التفتيش تأخذ العناوين. حفظ الأدلة هو ما سيغيّر السلوك.
الفريق الذي يعرف أنه قد يُطلب منه تقديم سجل بما فعله الوكيل، وبما فعله المشغّل لإيقافه، يصمّم بطريقة مختلفة. يسجّل نداءات الأدوات مع وسائطها. يحتفظ بسجل الموافقات. يستطيع إعادة بناء التسلسل من أثر تتبّع بدلًا من خيط محادثة على Slack. لا شيء من هذا غريب، ولا شيء منه تقريبًا معيار اليوم.
والعكس صحيح أيضًا. فريق يكتشف بعد فوات الأوان أن إطار الوكلاء لديه يكتب فوق حالة الجلسة لا يجد ما يحفظه، وهذا يحوّل متطلبًا تقنيًا إلى متطلب شراء: اشترِ وكلاء قادرين على إنتاج مسار تدقيق.
ما سيحدث بعد ذلك
على البند أن ينجو من المراحل المتبقية لمشروع القانون. ثم الاستشارة، ثم التشريع الثانوي، ثم تعريفات فقدان السيطرة، ثم السؤال الذي يدور حوله الجميع: هل تصل القواعد إلى مطوّري النماذج. نصيحة Davey لمزودي السحابة والخدمات المُدارة كانت تتبّع ما إذا كانت هذه الإجراءات ستصبح قانونًا، وهي بلغة المحامين تعني "الأمر قادم والشكل لم يُثبَّت بعد".
بالنسبة للفرق التي تنشر وكلاء في قطاعات منظّمة، الخطوة المفيدة الآن غير لامعة. اكتب ما يُسمح لوكيلك بلمسه. سجّل ما يلمسه. احتفظ بالسجلات مدة كافية لتكون ذات وزن. إذا حضر مفتش وزاري بعد عامين وسأل عما فعله الوكيل في يوم ثلاثاء من نوفمبر، فإن "سيتعين علينا التحقق مع المورّد" ليس جوابًا يتحسّن بمرور الوقت.
مقالات ذات صلة
جدول نقرات يديره المجتمع يطفئ الإعلانات داخل بناءات أندرويد الصينية
لا يمس النظام، ولا يفتح القفل، ولا يكتب أي شيء على الجهاز. يقلب فقط المفاتيح التي عرضتها الشركات أصلاً. الثمن قائمة يجب أن يظل أحدهم يكتبها.
GPT Image 2.6 أبقى على سعر الرموز ورفع الفاتورة
أبقى GPT Image 2.6 على كل أسعار الرموز كما كانت في 2.5، ومع ذلك صارت الصورة الواحدة أكثر كلفة، لأن جزءاً أكبر من العمل يجري الآن في رموز الإخراج. بعد أحد عشر يوماً من الإطلاق، تقول بنية التسعير أكثر مما تقوله لوحة الصدارة.
أحدهم أعاد بناء IDM من الخارج وكتب ما لم يمسّه
إعادة تنفيذ بلغة Rust لبرنامج Internet Download Manager تزعم سرعة أكبر بخمسة أضعاف ودعماً لـ 86 لغة. والوثيقة الأكثر إثارة للاهتمام هي الفقرة التي تشرح كيف بُني المشروع دون نسخ أي شيء.
Rune إطار عمل UI بلغة Rust صُمم كي يستطيع الوكيل التحقق من عمله
يرسم Rune بلا واجهة، ويفرّغ شجرة عناصره، ويقبل إدخالًا مكتوبًا، ما يمنح وكيل البرمجة إشارة قابلة للمقارنة لا تقدمها لقطة الشاشة أبدًا. الإطار في مرحلة ما قبل الإصدار ولا يستقبل pull requests.