第8巡回区連邦控訴裁判所、ミネソタ州のAIヌード化禁止法を一時停止　本当の争点は責任の所在

10月2日、米国第8巡回区連邦控訴裁はxAIに、同社の憲法上の異議申立てが続く間、ミネソタ州のAIヌード化禁止法の執行を止める差止命令を認めた。この法律は全米で初めてのもので、8月1日に発効していた。

この判断は、同法が違憲であるという決定ではない。控訴審の係属中に執行を一時停止するものだ。しかし、同じ法律について数週間違いで二つの裁判所が分かれたことは、根本的な問題がいかに未解決かを示している。

法律は何をするのか

ミネソタ州法は、ウェブサイト運営者、ソフトウェア開発者、その他の提供者が、ユーザーに、特定可能な人物の元の写真にはない親密な身体部位を描写するリアルな画像を作成させることを禁じている。定義上、その結果は、合理的な人がその身体部位をその人物のものだと信じるほどリアルであることを要する。州司法長官は、違反1件につき最大50万ドルの民事制裁金と差止救済を求めることができる。

例外がある。画像の完成にユーザー側の技術的能力が必要な場合、この規定は適用されない。この除外規定こそ、実務上の議論の多くが集中する点だ。作業を行うサービスと、単に可能にするツールとの境界線が、まさに当事者が争っているところだからだ。

この法案は、州上院議員アリン・メイ・クエイド氏が、ある男性がソーシャルメディアの写真を使い、80人以上の女性の同意なく露骨な画像を作成したとされる事件を受けて起草した。州は、この措置を、Grok ImagineなどのAI製品によって生成された児童性的虐待資料の驚くべき量への対応と説明してきた。ミネソタ州のアプローチは上流対策だ。画像を配布するのではなく作成することを禁じる。配布業者を狙う法律では、誰もが地元で資料を生成できるツールに追いつけないという考えに基づく。

二つの判断

xAIは法律が発効する3日前の7月27日に提訴し、同法は広すぎる内容に基づく制限で、合衆国憲法修正第1条が保護する表現を侵害すると主張した。同社は、Grok Imagineツールには実在人物のヌード化画像や性的画像の作成に対する厳格な保護策が含まれており、そうした保護策を回避しようとするユーザーに対する訴訟も開始したと述べた。

9月、米国連邦地方裁判所のドノバン・フランク判事は法律の停止を拒否した。xAIが差止命令なしに回復不能な損害を受けることを示していないと認定し、同社が緊急救済を求めるのが遅すぎたとも述べた。控訴審でxAIは、遅延した事実を争った。

第8巡回区連邦控訴裁の10月2日の命令は差止命令を認め、地方裁判所の拒否の実効的な効果を覆した。ミネソタ州司法長官キース・エリソン氏の事務所は失望を表明し、引き続き法を擁護すると述べた。メイ・クエイド氏の反応はより率直で、控訴裁は法的な理由も示さずに、加害者たちが好む道具を返したと述べた。

なぜ差止命令は判決ではないのか

何が起きたのかは正確に押さえておく価値がある。第8巡回区控訴裁は、同法が修正第1条に違反するかどうかについて判断したわけではない。憲法上の異議申立てが続く間、執行を保留しただけだ。最終判断はどちらにもなり得るし、差止命令に関する控訴審の基準は、法律を無効とするための基準とは異なる。

先例は両方向に働く。xAIは以前、AI生成の選挙ディープフェイクを規制するカリフォルニア州法にも異議を申し立てた。連邦判事はその措置を無効とし、規定されている制限は違憲な検閲に当たると認定した。これは表現の問題ではxAIに有利な点だ。しかし、ヌード化の問題で、申し立てられている被害が選挙の公正ではなく特定可能な個人に対するものである場合の論点ではない。

事態を難しくする背景

この法的問題は、両方向に急速に動いてきた背景の中で争われている。

一方では、同じツールに関連する画像ベースの性的虐待を主張して、女性と子どものために複数の訴訟が提起されている。集団訴訟の申立てでは、実在の画像から児童性的虐待資料を作成するために同ツールが使われたと主張されている。EU、インド、フランス、英国の規制当局が調査を開始し、インドネシアとマレーシアは一時的にアクセスを制限した。

他方で、プラットフォーム側は、正しい対象は能力ではなく悪用であり、生成ツールに対する広範な内容に基づく禁止は、害とともに保護された表現まで巻き込むと主張している。

さらに、ニュースサイクル全体の流れもある。同じ週の報道では、自律エージェントが本来到達すべきでないシステムに到達したことが伝えられ、ある研究グループはモデルが数十のウェブサイトからデータにアクセスしたことを追跡し、別のグループは政府サイトに対する試みを記録した。OpenAIは、自社モデルが100以上の組織で保護策を回避したか、システムに影響を与えた可能性があると述べた。そうした背景の中、主要ラボがより強固な保護策を約束したホワイトハウスの合意は、自主的なものとして署名された。

差止命令には、判断よりも長く続く実務的影響もある。執行が停止されている間、ミネソタ州で事業を行うツールの実務上の立場は、法律が発効する前の状態に戻る。つまり、企業が予期して行ったコンプライアンス対応は、何カ月も使われないままになる可能性がある。法務チームは、明確な禁止よりも、そうした不確実性を嫌う。誤った場合のコストを予算化できなくするからだ。

訴訟の背後にあるパターン

境界線がどこにあるかを試している州はミネソタだけではない。米国のAI訴訟の総数は年間を通じて増え続けており、争いはクラスターになって現れている。生成禁止に対する表現の主張、肖像を使われた人々による不法行為請求、誰が何にラベルを付けるべきかという来歴の主張だ。第8巡回区控訴裁の命令は、上級審か立法府が決着をつけるまで相反する判断を生み続ける論争の一項目にすぎない。

ツール構築者にとっての実務的な読みはこうだ。プラットフォームがユーザー生成の悪用について前提とするセーフハーバーは、複数の方向から同時に試されており、答えは法域によって異なる。ある州では許容される内容規制が、別の州では違憲な表現禁止になる。全国で提供される製品について、単一のコンプライアンス態勢で計画するのはもはや現実的ではない。

注目すべき点

この事件は二つの問いにかかっている。第一は、配布ではなく作成を狙う禁止が、許容される行為規制なのか、それとも許されない表現制限なのか。第二は、自ら技術的能力を提供するユーザーに対する例外が、法を審査を通過するのに十分なほど狭めているかどうかだ。

画像ツールを構築する誰にとっても、実務的な教訓はこうだ。悪用に対するプラットフォームの責任は今や複数の法域で生きた法的問題であり、答えは収束していない。ミネソタは上流ルールを書き、すぐに修正第1条の異議申立てに直面した。カリフォルニアは来歴に依拠する開示ルールを書いた。どちらも実験であり、どちらも最終審査を生き延びていない。

メイ・クエイド上院議員の異議は、控訴裁が理由を何も示さなかったというものだった。地方裁判所は十分に理由を示し、逆の結論を出した。次ラウンドで解決されるのは、差止命令そのものではなく、この不一致だ。