ディープフェイクへの反発は世界規模に広がり、もはや一企業の問題ではない

しばらくの間、ディープフェイク問題は一連の孤立した事件に見えていた。ある国では政治家、別の国では俳優、緩いガードレールで出荷され後から修正されたツール。ここ一か月で変わったのは、世界中の規制当局と裁判所がこれらを単発の事例として扱うのをやめ、肖像、同意、責任をめぐる共通の法的仕組みを構築し始めたことだ。

欧州連合が最初に動いた。8月2日から、EU AI法は、本物に見えるAI生成の画像、音声、テキストに対し、合成由来を明らかにする透かしを含め、目に見える形でラベルを付けることを義務付ける。企業は最大1500万ユーロまたは全世界売上高の3％の罰金に直面する。既存システムには4か月の猶予がある。ラベル表示を任意の誓約ではなく厳格な要件とした最初の主要法域であり、人間の編集レビューを経ていない公益テキストにも適用される。

EUの執行体制の規模は強調に値する。GoogleのSynthIDはすでに1000億枚を超える画像と6万年相当の音声に不可視の透かしを入れてきた。180を超える組織が欧州委員会の任意の行動規範に署名している。ラベル表示規則は、この任意の取り組みに対する法的裏付けであり、規制当局にかつてなかった具体的な手段を与える。

インドは別の軸で動いている。最高裁はグジャラート高等裁判所の手続きを停止し、ディープフェイク訴訟を全国的に統合すべきか検討している。通知の返答期限は10月5日。集中化を求める背景には、官僚的に見えて実際には実務的な懸念がある。各高等裁判所が「ディープフェイク」を別々に定義すれば、プラットフォームはグジャラートの規則を守りながらボンベイの規則に違反することになる。一方、ボンベイ高等裁判所は今週、俳優サマンサ・ルース・プラブの名前、画像、声の無断使用を差し止め、AI生成および改変コンテンツの削除を命じ、彼女の人格権とパブリシティ権の侵害を一応認めた。彼女は、訴訟で名指しされたプラットフォーム、AI開発企業、メディア企業からなる18の被告の一人だ。裁判所は判決を憲法上の権利に基づかせ、彼女のパブリシティ権と人格権を表現の自由の権利と、生命、プライバシー、尊厳への権利の両方で保護されると位置づけた。

米国は独自の経路で動いている。人の画像、肖像、声のデジタル複製に対する連邦パブリシティ権を創設する「No Fakes Act」が再提出され、6月に上院司法委員会から好意的に報告された。SAG-AFTRAは強く推進しており、ハリウッドが試金石だ。公開予定の映画『As Deep as the Grave』のティーザーには、2025年に亡くなったヴァル・キルマーをAIで生成し、生身の俳優にセリフを語らせる場面が登場した。キルマーは生前に配役されており、AI音声作業を支持していたが、スタジオが亡くなった俳優の肖像を法的摩擦なしに復活させられるかというより広い問いは、まさにNo Fakes Actが答えようとするものだ。

これらすべてを貫くのは、法が業界が2年間抵抗してきた原則に収束しつつあることだ。人の顔と声は無償の原材料ではない。EUは肖像をラベル表示すべきものとして扱う。インドの裁判所は人格権として扱う。米国は連邦パブリシティ権を議論している。いずれもまだ確定していないが、方向性は一貫しており、「素早く出荷して後で修正する」ことに優しくない。

ここには市民的自由団体が指摘した現実の緊張がある。ACLU、EFF、民主主義・技術センターは6月の書簡で、広範なパブリシティ権は「ヘックラーの拒否権」を生み、嘲笑されるのを好まない権力者が風刺や論評の削除を要求できるようになると警告した。この懸念には妥当性がある。被害者を守ることと検閲者に武器を渡すことの境界は本当に薄く、今起草されている法律がどちら側に倒れるかを決める。狭すぎる権利は被害者を救えない。広すぎる権利は権力者に批判に対する武器を与える。

法的議論がぐるぐる回り続けている技術的側面もある。安全性を訓練中に組み込むモデルと、生成後にフィルターを後付けするモデルの区別が、法的に重要になってきた。ひとたび画像が存在すれば、フィルターは失敗し得て、ファイルは拡散し、害はすでに発生している。規制当局はこの区別に気づいており、責任の割り当て方に現れ始めている。先に生成し後からモデレーションする企業は、制約をモデル自体に埋め込んだ企業よりも多くのリスクを負う。

この分野を注視する人にとって、追うべきシグナルは次のモデルリリースではない。次の裁判所の判決、次の規制当局のガイダンス、次の削除命令だ。それらが、ツールに何が許されるかを形作る要素であり、業界が慣れていない速さで到来している。技術はもはや法より先行していない。法が追いつきつつあり、その差は安全チームが反応できるより速く縮まっている。

この波が以前のより静かな執行と異なるのは、無関係な法域をまたいで、同じ原則に関する事件が一斉に積み上がっている点だ。もはや一つの規制当局が一つのスキャンダルに対応しているのではない。互いに連携しない法制度が協調して収束しているのであり、それは単一の判決よりも強いシグナルだ。EU、インド、米国が同じ数週間のうちに「人の肖像は保護される」に到達するなら、業界はそれを一連の例外ではなく新しい基準として扱わなければならない。

技術的議論にも一貫した流れがある。これらの事件で繰り返し出る詳細は、害が事後のモデレーションではなく設計によって防げたかどうかだ。問題を起こしたモデルは、先に生成し後からフィルタリングするものだ。責任あるものとして称されるのは、訓練中に制約を埋め込み、デフォルトで来歴メタデータを付けて出荷するモデルだ。組み込まれた安全性と後付けされた安全性の区別は、法的な分岐線になりつつあり、各ラボに「正しくやる」ことの具体的なチェックリストを与える。

クリエイターやツール開発者にとって、実務上の変化はすでに来ている。かつて任意だった問い、つまりこのモデルは実在人物を対象にしたリクエストを扱うのか、来歴メタデータを埋め込むのか、実際の通報経路はあるのかが、今では防御可能な製品と法的責任の分かれ目だ。ディープフェイクはもはやトラスト＆セーフティチームが扱うニッチな問題ではない。複数の法域で、罰金を伴うコンプライアンス問題になっている。まさに今。

最もありそうな結末は、生成メディアが殺されることではない。同意なく人の顔を使うコストが織り込まれ、生き残るツールは、スキャンダルの後に同意と来歴を後付けするのではなく、最初から組み込んだものだ。これは実際の変化であり、業界のほとんどの人が予想したより速く起きている。悪用を考えずに画像や動画ツールを出荷するための窓は閉じつつあり、しかも世界的なタイムテーブルで閉じている。