إدارة الغذاء والدواء الأمريكية تكتب قواعد لأجهزة ذكاء اصطناعي لم يصنعها أحد بعد

عادة ما يتفاعل المنظّمون. يُطرح منتج ما، يحدث خطب ما، ثم تصدر الإرشادات. لكن مركز الأجهزة في إدارة الغذاء والدواء الأمريكية فعل العكس تمامًا. في 1 أكتوبر نشر جدول أعماله المقترح للإرشادات للسنة المالية 2027، ويقع قرب أعلى القائمة مشروع وثيقة إرشادية لفئة من الأجهزة لم يوافق على أي مثال واحد منها.

تلك الفئة هي الأجهزة المحادثية الممكّنة بالذكاء الاصطناعي التوليدي والمخصصة لاضطرابات الصحة النفسية. وقد أذن مركز الأجهزة والصحة الإشعاعية (CDRH) التابع لإدارة الغذاء والدواء بأكثر من 1200 جهاز طبي ممكّن بالذكاء الاصطناعي حتى اليوم. ولا يستخدم أي منها الذكاء الاصطناعي التوليدي لدلالة تتعلق بالصحة النفسية. والوكالة تكتب توصيات بشأن الأدلة قبل وصول أول طلب، وهو وسيلة لوضع المعيار مبكرًا بدلًا من التفاوض عليه لاحقًا حالة بحالة.

تأتي هذه الخطوة فوق ورقة نقاش أصدرها CDRH في أغسطس بعنوان «اعتبارات بشأن تنظيم الأجهزة الطبية الممكّنة بالذكاء الاصطناعي التوليدي». وهي صراحة وثيقة نقاش لا سياسة، وتحمل 26 سؤالًا للإجابة عنها من الجمهور. وتُغلق التعليقات في 19 أكتوبر. أي شخص يبني منتجًا سريريًا على نموذج لغوي كبير أمامه نحو أسبوعين ليقول شيئًا عن الطريقة التي يريد أن يُنظَّم بها.

إطار مخاطر بمحورين

الفكرة الجوهرية في الورقة هي أن أجهزة الذكاء الاصطناعي التوليدي تفشل بطرق لم تكن قواعد البرمجيات الأقدم تتوقعها. وتقترح الوكالة تصنيف المخاطر على محورين. أحدهما عاقبة مخرج غير صحيح، أي مدى سوء الضرر الذي يلحقه جواب خاطئ بالمريض. والآخر مستوى الاستقلالية، أي مقدار ما يتصرف به النظام من تلقاء نفسه مقابل تقديم اقتراح إلى إنسان.

هذا المزيج مألوف في روحه. فبرمجيات الأشعة التي تُنبّه طبيب الأشعة إلى كسر ما تحمل صورة مخاطر مختلفة عن برمجيات تُجري التشخيص دون مراجعة. الجديد هو تطبيقه على أنظمة غير حتمية، أي أن المدخل نفسه قد ينتج مخرجات مختلفة، ويمكنها أن تواصل التعديل بعد النشر. التحقق التقليدي من البرمجيات يفترض أصلًا ثابتًا. أما نموذج ينحرف فلا يناسب هذا الافتراض.

للتعامل مع ذلك، تطرح الورقة نهجًا مستندًا إلى طريقة اعتماد الأطباء. والحجة هي أن الأطباء لا يُختبرون في كل سيناريو قد يواجهونه. بل يجتازون تقييمات منظمة للمعارف والاستدلال الأساسيين، ثم يمارسون تحت إشراف. وتسأل إدارة الغذاء والدواء عما إذا كان يمكن تقييم جهاز توليدي بالطريقة نفسها، عبر قياس مرجعي غير سريري مقابل معايير محددة يتبعه تأكيد سريري في بيئات حقيقية أو محاكاة.

وتُوكل إلى مراقبة ما بعد التسويق مهمة أصعب. ولأن هذه الأنظمة يمكن أن تتغير، تقترح الورقة تتبع انحراف الأداء والهلوسات والمخرجات غير المتوقعة من نموذج الجهاز نفسه ومن أي نموذج أساس تحته. وهذا الشق الثاني مهم. فصانع الجهاز الذي يضبط نموذج شخص آخر ضبطًا دقيقًا يرث سلوكًا لا يستطيع رؤيته بالكامل، وتسأل الورقة مباشرة كيف ينبغي تطبيق توقعات ما قبل التسويق وما بعده عندما لا تتحكم الشركة المصنعة في النموذج الأساسي.

ما تتجنب الورقة قوله

اقرأ الوثيقة بحثًا عمّا تسقطه، وسيتضح الاتجاه أكثر. فهي لا تستخدم أبدًا التمييز القديم لدى إدارة الغذاء والدواء بين الخوارزميات المقفلة والتكيفية. وتتجنب مصطلحي «البرمجيات داخل جهاز طبي» و«البرمجيات كجهاز طبي»، وهما كانتا مفردات عقد من مراجعة الأجهزة. أما دعم القرار السريري فلا يظهر إلا في حاشية.

تبدو هذه الإغفالات مقصودة. فالفئات القديمة بُنيت لبرمجيات تتصرف بشكل متوقع بمجرد التحقق منها. أما الأنظمة التوليدية فتمسح الخط بين الأداة والمخرج، ويبدو أن الوكالة تفسح المجال لإطار لا يورث تلك الافتراضات. وما إذا كان هذا إعادة ضبط حقيقية أم إعادة تغليف للمبادئ نفسها هو ما يُطلب من أصحاب المصلحة التعليق عليه.

جدول أعمال الإرشادات يوضح إلى أين يتجه المال

جدول أعمال السنة المالية 2027، الذي يستقبل التعليقات حتى 30 نوفمبر، يخبرك بالمشاريع التي تعتبرها الوكالة قريبة من الاستقرار. ثلاثة منها في الأعلى. أولًا، وضع الصيغة النهائية لإرشادات دورة حياة برمجيات الأجهزة الممكّنة بالذكاء الاصطناعي التي صيغت أول مرة في يناير 2025، والتي تغطي كيفية مراقبة النموذج وتحديثه وإعادة التحقق منه على مدى حياته وليس عند الإذن فقط. ثانيًا، وضع الصيغة النهائية لإرشادات خطة التحكم المحددة مسبقًا في التغييرات من أغسطس 2024، التي تحدد ما يجب على الراعي تحديده مسبقًا لإجراء تغييرات معينة على الخوارزمية بعد التسويق دون تقديم طلب جديد. ثالثًا، وضع الصيغة النهائية لإرشادات الأجهزة الجراحية المعززة بالروبوت، بما في ذلك مشروع منفصل صدر في أواخر سبتمبر يغطي التحكم في الأدوات وزمن الاستجابة والأمن السيبراني والتعقيم.

تلك الثلاثة هي الوكالة تقول: هنا حيث يوجد النشر بالفعل. خطط التحكم المحددة مسبقًا في التغييرات هي الآلية التي تسمح لميزة ذكاء اصطناعي معتمدة بمواصلة التعلم دون مراجعة جديدة، وهي الفرق بين نموذج يُطرح مرة واحدة ونموذج يتحسن. وإرشادات دورة الحياة هي ما يحول هذا الإذن إلى متطلب تشغيلي. ومعًا تصف جهازًا يُنظَّم كعملية مستمرة لا كمنتج مغلق.

مشكلة النموذج الخارجي

ثمة سؤال في الورقة يستحق اهتمامًا أكبر من غيره. فهو يسأل كيف ينبغي تطبيق توقعات ما قبل التسويق وما بعده عندما لا تتحكم الشركة المصنعة في النموذج الأساسي. وهذا الوضع أصبح القاعدة لا الاستثناء. فنظام مستشفى يغلّف نموذجًا عام الغرض للفرز لا يعيد تدريبه، وليس لديه وصول إلى بيانات التدريب أو إجراء الضبط الدقيق أو جدول التغييرات.

يعترف تأطير الوكالة نفسه بالصعوبة. فمراقبة ما بعد التسويق، في نموذجها، سيتعين عليها تتبع الانحراف في نموذج الجهاز وفي النموذج الأساسي تحته، ما يعني أن صانع الجهاز يحتاج إلى رؤية تغييرات لم يقم بها وربما لن يُبلَّغ بها. وتوسيع فكرة الكفاءة ليشمل هذه الحالة يثير سؤالًا عن من يحصل على الاعتماد. يمكن لصانع الجهاز أن يبرهن أن طبقته الخاصة تتصرف كما ينبغي، لكنه لا يستطيع بسهولة أن يبرهن سلوك مكوّن يرخّصه.

هناك مقارنة تستحق عقدها مع الجيل الأسبق من قواعد أجهزة الذكاء الاصطناعي. فخطط التحكم المحددة مسبقًا في التغييرات تنجح عندما يتحكم الراعي في النموذج ويستطيع تحديد التغييرات التي يعتزم إجراءها مسبقًا. أما عندما يأتي النموذج من طرف ثالث، فعلى الخطة أن تستوعب تحديثات تصل وفق جدول شخص آخر. ولا يحل أي من أسئلة النقاش ذلك، وستحدد الإجابات إلى حد كبير ما إذا كان الإطار النهائي قابلًا للعمل للمطورين الصغار أم فقط للشركات الكبيرة بما يكفي لبناء نماذجها الخاصة.

لماذا التوقيت غير معتاد

كتابة إرشادات قبل أول طلب أمر نادر، والسبب في حدوثه هنا هو أن الجهاز المحادثي الخاص بالصحة النفسية هو أصعب نسخة من المشكلة. فهذه الأنظمة تتحدث إلى المرضى بلغة طبيعية، ما يجعل مخرجاتها صعبة التحديد وصعبة الاختبار. النموذج التشخيصي يعيد رقمًا. أما المحادثي فيعيد ما يقرر قوله تاليًا.

كما على الوكالة أن توفق بين حذرها وضغط سياسي لتسريع الابتكار الطبي، وورقة النقاش تعكس الاثنين. فهي تميل إلى نهج قائم على المخاطر وأقل عبئًا، مع إقرارها بأن مراجعة ما قبل التسويق وحدها لا تستطيع تقييم نظام يتغير. وهذا التوتر هو سبب انتهاء الوثيقة بأسئلة لا أجوبة. وهو أيضًا سبب استحقاق الأسئلة الـ26 قراءة متأنية. فهي معاينة للحجج التي ستشكّل أول جهاز صحة نفسية توليدي معتمد، متى قدم أحد طلبًا للحصول على واحد.

هيئات تنظيمية أخرى تتحرك بالتوازي. فقد أرسلت الجهة التنظيمية للأدوية في المملكة المتحدة ثلاثة تعديلات إلى البرلمان لتحديث الرقابة على الأجهزة، بما في ذلك مساحة صريحة للبرمجيات وأجهزة الذكاء الاصطناعي ضمن إطار ترخيص متدرج المخاطر. وتعيد اليابان مراجعة متطلبات منتجاتها البيولوجية لاستيعاب أساليب اختبار جزيئية أحدث. والنمط في الثلاثة جميعًا واحد: يجري إعادة بناء القواعد قبل وصول المنتجات، على افتراض أن كتابتها مسبقًا أرخص من التقاضي بشأنها لاحقًا.