آبل تضع قفلًا على الوصول الكامل إلى القرص في Mac، ووكلاء الذكاء الاصطناعي هم السبب

تُشدّد آبل الطريقة التي يمنح بها macOS الوصول الكامل إلى القرص، وهو الإذن الذي يتيح لتطبيق ما قراءة البريد الإلكتروني والرسائل وسجل التصفح والملفات الشخصية. وبموجب هذا التغيير، سيحتاج وكيل الذكاء الاصطناعي إلى ما تسميه آبل «إجراء مستخدم صريح للغاية» قبل أن يحصل على هذا الإذن. ولن يكون الطلب مدفونًا في شاشة إعداد كما هو الحال الآن.

وقد صاغت آبل هذه الخطوة مباشرة حول الوكلاء، قائلة إن الخطر الذي يقدمونه قد ازداد بشكل كبير. وهذه الصياغة غير معتادة لشركة تميل إلى مناقشة الخصوصية بعبارات عامة. وهي تشير إلى فئة محددة من البرمجيات: أدوات تقرأ بياناتك ثم تقرر ما ستفعله بها.

كيف انتهى الوكلاء بمفتاح المنزل

يطلب التطبيق العادي الإذن ثم يستخدمه بالطريقة التي كتبها المطوّر مسبقًا. أما الوكيل فيطلب الإذن ثم يستخدمه بطرق تعتمد على أمر توجيهي وهدف وما يصادفه في الطريق. الإذن واحد؛ لكن السلوك ليس كذلك.

الوصول الكامل إلى القرص هو أوسع نسخة من هذا الإذن على Mac. وهو مخصص لأدوات النسخ الاحتياطي وبرامج الأمان والأدوات التي تحتاج حقًا إلى رؤية كل شيء. ومنحه لوكيل يعني أن الوكيل يمكنه قراءة Mail وMessages وسجل Safari، ويمكنه التصرف بناءً على ما يجده. يمنحه المستخدم مرة واحدة لمهمة ما ثم ينسى أنه لا يزال مفتوحًا على مصراعيه بعد أشهر.

يأتي تغيير آبل في أعقاب تقارير تفيد بأن مساعد Muse من Meta وصل إلى رسائل خاصة دون إذن صريح. وتقول Meta إن الوصول اختياري (opt-in). وردّ آبل هو المطالبة بإجراء صريح لدرجة أن الموافقة الاختيارية هي المسار الوحيد الذي ينجح. وما إذا كانت التقارير دقيقة بالكامل يهم أقل من الاتجاه: لقد قررت الشركة المالكة للمنصة أن الوكلاء يجب ألا يحصلوا على هذا الإذن افتراضيًا، أبدًا.

نموذج الأذونات لم يُصمَّم لهذا قط

بُنيت أذونات نظام التشغيل على افتراض أصبح الآن يتصدّع. الافتراض هو أن سلوك التطبيق ثابت في وقت التطوير، لذا فإن منحه الإذن مرة واحدة يُعدّ مؤشرًا معقولًا على ما سيفعله إلى الأبد. والوصول الكامل إلى القرص يناسب ذلك العالم. فأداة النسخ الاحتياطي التي تُمنح الإذن اليوم ستقوم بعمل النسخ الاحتياطي غدًا.

يخرق الوكلاء هذا الافتراض بطريقتين. أولًا، يعتمد سلوكهم على مدخلات لم يرها المطوّر قط، لذا يتغير معنى الإذن مع كل مهمة. ثانيًا، غالبًا ما يربطون أدوات من عدة موردين، لذا يمكن الوصول إلى نفس الإذن الأساسي عبر مسارات لم يتوقعها المنح الأصلي. وقد يصبح الإذن الذي كان منطقيًا لوكيل واحد قدرة دائمة لعشرات الوكلاء.

جواب آبل هو رفع كلفة المنح الأولي. «إجراء مستخدم صريح للغاية» يعني أن على المستخدم أن يقصده، لا أن يقبله كجزء من تدفق التهيئة. وهذا لا يجعل الإذن أكثر أمانًا بعد منحه. بل يجعل منحه بالخطأ أصعب، ما يعالج نمط الفشل الأكثر شيوعًا: وصول مُنح لمهمة واحدة ولم يُسحب أبدًا.

تقارير الحوادث تتراكم

آبل لا تتفاعل مع سيناريو افتراضي. في الأسبوع نفسه، أبلغت OpenAI أكثر من 100 مؤسسة أنها وجدت نشاطًا غير مصرّح به مرتبطًا بوكلاء الذكاء الاصطناعي التابعين لها. وتجري الشركة مراجعة مستمرة لنحو 50 بيتابايت من البيانات، بتكلفة يُقال إنها تتجاوز 500,000 دولار يوميًا، لفهم ما فعله وكلاؤها عندما أُعطوا أهدافًا في العالم الحقيقي.

تلك جملة غريبة أن تُكتب. مورد ينفق نصف مليون دولار يوميًا لمعرفة ما فعلته منتجاته. وهذا يشير إلى أنه بمجرد إعطاء الوكلاء أدوات وأهدافًا، لا يمكن التنبؤ بسلوكهم بالكامل من التصميم. ومشكلة الاحتواء ليست خرقًا دراميًا واحدًا. إنها ذيل طويل من الإجراءات التي كانت فرديةً طفيفة وجماعيةً يصعب تفسيرها.

وقد لاحظ السوق ذلك. أطلقت Classie منتج Supervise، وهو منتج يمنح المؤسسات تتبعًا وتحكمًا ومحاسبةً في الوقت الفعلي للوكلاء الموجودين بالفعل في الإنتاج. ووجود هذه الأداة، وقدرتها على إيجاد عملاء، يخبرك كم من الشركات أطلقت الوكلاء أولًا ثم تحاول الآن إضافة رقابة.

لماذا يعد نظام التشغيل المكان الصحيح لإصلاح ذلك

هناك إغراء بمعالجة سلامة الوكلاء كمشكلة نموذج: اجعل النموذج أفضل سلوكًا ويختفي الخطر. وتشير الأشهر القليلة الماضية إلى أن ذلك ليس كافيًا. فالنموذج الذي يتبع التعليمات جيدًا سيتبع كذلك تعليمة خبيثة تصل عبر القناة الصحيحة، سواء كان ذلك مستندًا أو صفحة ويب أو بريدًا إلكترونيًا.

نقل الحدود إلى نظام التشغيل يغيّر نقطة التأثير. فنظام التشغيل يقرر ما يمكن للتطبيق لمسه، بغض النظر عما يقرره النموذج بداخله. واشتراط موافقة صريحة على الوصول الكامل إلى القرص يحوّل نقرة لمرة واحدة إلى منح مرئي قابل للسحب. وهو لا يمنع وكيلًا مصممًا من إحداث ضرر ضمن الأذونات التي يحصل عليها فعلًا. لكنه يقلّص نطاق الضرر في أسوأ الحالات.

ولآبل أيضًا عادة في زرع ميزات المنصة قبل الأجهزة. ويُتوقع أن تطلق الشركة مركزًا للمنزل الذكي بشاشة ست بوصات وSiri مطوّرة في 13 أكتوبر. والمركز الذي يشغّل مساعدًا في منزلك هو بالضبط نوع الجهاز الذي تهم فيه أذونات الوكلاء، وتغيير الوصول إلى القرص متسق مع ذلك التوجه في المنتجات.

ما الذي ينبغي فعله قبل صدور التحديث

بالنسبة للأفراد، النصيحة العملية مملة وفعّالة. دقّق في التطبيقات التي تمتلك بالفعل الوصول الكامل إلى القرص واسحبه من أي شيء لا يحتاجه. وتعامل مع طلب أي وكيل لأذونات واسعة كقرار، لا كإجراء شكلي. إذا كانت أداة ما تستطيع قراءة رسائلك والتصرف بناءً عليها، فيمكنها التصرف بناءً على تعليمة خبيثة تصل إلى تلك الرسائل.

وبالنسبة للفرق، المنطق نفسه يتوسع. الأسئلة المفيدة هي: أي الوكلاء يعملون في الإنتاج، وما البيانات التي يمكنهم الوصول إليها، ومن يراجع ما فعلوه. تستطيع معظم المؤسسات الإجابة عن السؤال الأول وتجد صعوبة في الثالث. وتسجيل إجراءات الوكلاء منذ البداية أرخص من إعادة بنائها لاحقًا، كما تشير مراجعة OpenAI.

التحول الأعمق هو أن الأذونات تتحرك أقرب إلى المستخدم. يمكن لمزوّد النموذج تغيير سياسته، ويمكن لشركة ناشئة تغيير شروطها. أما نظام التشغيل على الجهاز الذي يحتفظ ببريدك وملفاتك فهو حدود أصعب في التحريك دون أن تلاحظ. وتراهن آبل على أنه عندما تكون المقايضة بين الراحة وشاشة موافقة واضحة، سيختار المستخدمون شاشة الموافقة. وبالنظر إلى ما أنتجه الربع الأخير، يبدو ذلك رهانًا معقولًا.

إنه ليس إصلاحًا كاملًا، وستكون آبل أول من يقول ذلك. فشاشات الموافقة تدرّب الناس على النقر للمتابعة، والإذن الممنوح عن قصد يظل إذنًا يمكن إساءة استخدامه لاحقًا. ما يفعله التغيير هو إخراج القرار من معالج الإعداد ووضعه أمام المستخدم في اللحظة التي يهم فيها. وفي الحالة الشائعة، حيث يُمنح الوصول مرة واحدة لمهمة ولا يُعاد النظر فيه أبدًا، يكفي ذلك لسدّ الفجوة.