FDAは、まだ誰も作っていないAIデバイスのルールを策定している

規制当局は通常、後追いで対応する。製品が市場に出て、何か問題が起きてから、ガイダンスが続く。FDAの医療機器センターは今回、逆のことをした。10月1日、同センターは2027会計年度のガイダンス議題案を公表したが、そのリストの上位近くには、まだ一件も承認していないカテゴリーの医療機器に関するガイダンス草案が置かれている。

そのカテゴリーは、精神疾患向けの生成AI対応対話型デバイスだ。FDAの医療機器・放射線保健センター（CDRH）はこれまでに1,200件を超えるAI対応医療機器を認可してきた。しかし、そのいずれも精神保健適応で生成AIを用いてはいない。同局は最初の申請が届く前にエビデンスに関する推奨事項を書いており、これは後から一件ずつ交渉するのではなく、早い段階で基準を設定するやり方だ。

この動きは、CDRHが8月に公表した討議資料「Considerations for the Regulation of Generative AI-Enabled Medical Devices（生成AI対応医療機器の規制に関する考察）」の上に成り立っている。これは明示的に政策ではなく討議用文書であり、一般から回答を募る26の質問を掲げている。意見募集は10月19日に締め切られる。大規模言語モデル上に臨床製品を構築している者にとって、どのように規制されたいかを表明する時間はおよそ2週間しかない。

2軸のリスク枠組み

この資料の中心的な考え方は、生成AIデバイスは従来のソフトウェア規則が想定していなかった形で失敗するというものだ。同局はリスクを2つの軸で評価することを提案している。1つは不正確な出力の結果、つまり誤った答えが患者をどれほど傷つけるかという軸だ。もう1つは独立性の度合い、つまりシステムがどの程度自ら行動するか、それとも人間に提案を渡すにとどまるかという軸である。

その組み合わせは考え方としては馴染み深い。放射線科医に骨折を示す放射線科向けソフトウェアは、レビューなしで診断を下すソフトウェアとは異なるリスクプロファイルを持つ。新しいのは、これを非決定論的なシステム、つまり同じ入力でも異なる出力を生み得て、導入後も調整を続け得るシステムに適用することだ。従来のソフトウェア検証は固定された成果物を前提としている。ドリフトするモデルはその前提に当てはまらない。

これに対処するため、資料は臨床医が認定される方法をモデルにしたアプローチを提起する。医師は直面し得るあらゆるシナリオについて試験されるわけではない、という主張だ。彼らは基礎知識と推論に関する構造化された評価に合格し、その後、監督下で実務を行う。FDAは、生成AIデバイスも同じように評価できるか、すなわち定義された標準に対する非臨床ベンチマーキングの後、実環境または模擬環境での臨床的確認を行うことができるかを問いかけている。

市販後監視にはより難しい課題が割り当てられる。これらのシステムは変化し得るため、資料は、デバイス自身のモデルとその下にある基盤モデルの両方から生じる性能ドリフト、ハルシネーション、予期しない出力を追跡することを提案している。この後半部分は重要だ。他社のモデルを微調整するデバイスメーカーは、完全には見えない挙動を引き継ぐことになり、資料は、製造業者が基盤モデルを管理していない場合に、市販前と市販後の要求事項をどう適用すべきかを直接問うている。

資料が避けていること

この文書で何が省かれているかに注目して読むと、方向性がより明確になる。FDAが以前用いた、ロック型アルゴリズムと適応型アルゴリズムの区別は一度も使われていない。10年にわたる医療機器審査の語彙であった「医療機器内蔵ソフトウェア（SiMD）」と「医療機器としてのソフトウェア（SaMD）」という用語も避けている。臨床意思決定支援は脚注にしか出てこない。

これらの省略は意図的に見える。従来のカテゴリーは、一度検証されれば予測可能に動作するソフトウェアのために作られた。生成AIシステムはツールと出力の境界を曖昧にし、同局はそうした前提を引き継がない枠組みのための余地を空けているように見える。それが真のリセットなのか、同じ原則の再包装にすぎないのかが、利害関係者に意見を求められている点だ。

ガイダンス議題は資金の流れを示す

11月30日まで意見を受け付ける2027会計年度の議題は、同局がどの草案をほぼ固まったものと考えているかを示している。上位には3つが並ぶ。第1に、2025年1月に最初に起草されたAI対応医療機器ソフトウェアのライフサイクルガイダンスの最終化。これは、モデルが承認時だけでなく、そのライフサイクル全体を通じてどのように監視、更新、再検証されるかを扱う。第2に、2024年8月の事前規定変更管理計画（PCCP）ガイダンスの最終化。これは、新たな申請を提出せずに特定の市販後アルゴリズム変更を行うために、スポンサーが何を事前に規定しなければならないかを定義する。第3に、ロボット支援手術装置に関するガイダンスの最終化で、9月下旬に発行された器具制御、遅延、サイバーセキュリティ、滅菌を扱う別の草案も含む。

この3つは、同局が「導入はすでにここまできている」と言っているようなものだ。事前規定変更管理計画は、承認済みAI機能が新たな審査なしに学習を続けられるようにする仕組みであり、一度出荷されたきりのモデルと改善し続けるモデルの違いを生む。ライフサイクルガイダンスは、その許可を運用要件に変えるものだ。両者を合わせると、密閉された製品ではなく継続的なプロセスとして規制されるデバイス像が描かれる。

サードパーティモデル問題

資料の中のある質問は、他のどれよりも注目に値する。製造業者が土台となる基盤モデルを管理していない場合、市販前と市販後の要求事項をどう適用すべきかを問う質問だ。この状況は今や例外ではなく標準である。トリアージ用に汎用モデルをラップする病院システムは、そのモデルを再訓練しておらず、訓練データ、ファインチューニング手順、変更スケジュールにもアクセスできない。

同局自身の枠組みもこの難しさを認めている。そのモデルでは、市販後監視はデバイスのモデルとその下にある基盤モデルの両方のドリフトを追跡しなければならず、つまりデバイスメーカーは、自ら行ったわけでも、知らされていない可能性もある変更を可視化する必要がある。能力評価の考え方をこのケースに拡張すると、誰が認定されるのかという問題が生じる。デバイスメーカーは自社のレイヤーが適切に動作することは示せるが、ライセンスを受けたコンポーネントの挙動を容易に示すことはできない。

初期世代のAIデバイス規則と比較する価値がある。事前規定変更管理計画は、スポンサーがモデルを管理し、意図する変更を事前に規定できる場合に機能する。モデルがサードパーティ由来の場合、計画は他社のスケジュールで届く更新に対応しなければならない。討議質問のどれもこの点を解決しておらず、その答えが、最終的な枠組みが小規模開発者にとって実行可能なのか、自社モデルを構築できるほど大規模な企業だけのものになるのかを大きく左右する。

なぜこのタイミングが異例なのか

最初の申請より前にガイダンスを書くことはまれであり、ここでそれが起きているのは、精神保健向け対話型デバイスがこの問題の最も難しい形だからだ。これらのシステムは患者と自然言語で話すため、その出力は境界を定めることもテストすることも難しい。診断モデルは数値を返す。対話型モデルは、次に何を言うかを自ら決めて返す。

同局はまた、自らの慎重姿勢と、医療イノベーションを加速せよという政治的圧力との整合を取らなければならず、討議資料はその両方を反映している。リスクベースで最小負担のアプローチに依拠しつつ、市販前審査だけでは変化するシステムを評価できないことも認めている。その緊張関係が、この文書が答えではなく質問で終わる理由だ。また、26の質問を注意深く読む価値がある理由でもある。それらは、誰かが最初の申請を出すときには、最初に承認される生成AI精神保健デバイスの姿を形作ることになる論点の予告編なのだ。

他の規制当局も並行して動いている。英国の医薬品規制当局は、医療機器の監督を近代化するため、議会に3つの改正案を送った。そこには、リスク階層型ライセンス枠組みの下でソフトウェアとAIデバイスのための明示的な余地が含まれている。日本は、より新しい分子検査法を取り込むために生物学的製剤の要件を改訂している。3者に共通するパターンは同じだ。製品が到来する前にルールを作り直し、後から訴訟で争うより事前に書いておく方が安くつくという賭けに出ている。