AI生成コンテンツ、身元を明示する段階に入る

10月1日から、中国国内でAI生成コンテンツを流通させる際には「ラベル」を付けることが義務付けられた。国家インターネット情報弁公室、工業・情報化部、公安部、国家広播電視総局の4部門が共同で発表した「人工知能生成合成コンテンツ表示弁法」がこの日から正式に施行され、テキスト、画像、音声、動画、仮想シーンなど、人工知能技術を利用して生成・合成された情報にはすべて表示を付けなければならない。

一般ユーザーが最初に実感した変化は、いくつかの馴染みのあるアプリから始まった。WeChat、視頻号、抖音、B站、Weibo、小紅書は弁法の施行前後から相次いで利用規約を更新し、コンテンツ投稿者に対し、AI生成コンテンツであることを目立つ形で自発的に表示するよう求めた。表示しない場合の結果は露骨に書かれている。リーチ制限、削除、深刻な場合はアカウント停止である。あるショート動画プラットフォームでは、ユーザーが「かわいい子どもが野菜を洗い、火を焚く」といった内容をスクロールで見た際、画面下部に小さく一文を添え、内容はAI技術で制作されたもので、架空の内容なので慎重に見極めるよう促す。この一文をスクリーンショットで投稿した人がいて、家の高齢者がようやくあの子どもたちは偽物だと信じた、と話した。

二つの表示、一つは人に見せ、一つは機械に読ませる

弁法は表示を明示的表示と暗黙的表示の二種類に分けている。明示的表示とは、ユーザーがはっきり認識できるもの、たとえば画面の隅のバッジ、再生前の注意書き、音声の冒頭の音声宣言などだ。暗黙的表示はファイルのメタデータに埋め込まれ、人の目には見えないが、プラットフォームや規制当局がツールを使って読み取ることができ、「このコンテンツは誰が生成し、どのサービスから出てきたのか」といった問いに答えるために使われる。

責任は工程ごとに割り振られる。サービス提供者はコンテンツの生成、流通、ダウンロードという各段階で表示が完全であることを保証しなければならない。アプリ配信プラットフォームは、出品するアプリが表示を付加する機能を備えているか審査しなければならない。個人ユーザーは生成コンテンツを投稿する際、自発的に申告しなければならない。この連鎖は、これまで事後追責しかできなかったコンテンツ審査を、製品設計と出品の段階へ前倒しするものだ。

他人のコンテンツを転載したり、記事を書き換えたりして稼ぐマーケティングアカウントにとって、暗黙的表示は厳しい制約になる。以前は他人の動画のサムネイルを変え、色調を調整すれば、自分のオリジナルとして投稿できた。今ではメタデータに出所情報が残っている可能性があり、プラットフォームはそれをたどって最初のサービス提供者に到達し、表示義務を履行したかどうかを確認できる。

なぜ一つの事柄のためにわざわざ弁法を制定するのか

表示というテーマは小さく見えるが、それが解決するのはAIコンテンツで最も厄介な部分、すなわち大規模な識別である。中国科学院科技戦略諮詢研究院の研究員、肖尤丹氏はある解説の中で、表示制度の主な目標は大規模で高い信頼性、低コストの監督管理を実現することだと述べた。コンテンツ審査は人力では見切れず、モデルによる判断では誤判定しやすい。ラベルは自動照合でき、コストも低いシグナルなのだ。

もう一つ狙っているのは詐欺の場面だ。国家反詐センターAppはすでに「AIコンテンツ鑑定」機能を公開しており、テキスト、画像、動画をアップロードすると、数秒で初歩的な判断を返す。公安部刑事偵査局の指導のもと、上海市公安局が開発した「国家反詐AI」Appも同時に公開された。疑わしい場面を入力すると、よくある詐欺の手口を分解してくれる。顔交換や音声合成はこの数年、電気通信ネットワーク詐欺でますます多く見られるようになっており、AIコンテンツに表示を付けることは、この連鎖にもう一段の抵抗を設けることになる。

表示弁法は孤立した動きではない。最高人民法院は「人工知能に関わる紛争案件の審理に関する意見」を発表し、AIによる顔交換・音声模倣、AIハルシネーションによる権利侵害、ネット上の個人情報晒し（開盒）といった問題を裁判の考え方に書き込んだ。中央インターネット情報弁公室は「清朗・AIアプリ乱象整治」特別行動を展開し、大規模モデルの届出未履行、AIデータ汚染、生成合成コンテンツ表示の実施不十分など、七類の整治対象を挙げた。9月14日に発表された「人工知能安全治理框架3.0」は、治理の範囲を単一の技術段階からデータ、アルゴリズム、モデル、アプリケーション、サプライチェーン全体の過程へと広げた。10月8日には、業界初の生成AIサービス安全分级標準が施行され、エージェント関連の基準では13大类、97項目のリスクが整理された。これらの文書の時期は近接しており、つなげて見ると、コンテンツから行為へ、単一モデルからチェーン全体へ向かう治理の道筋である。

他国も同じことをしている

視野を少し広げると、表示制度の立法はこの数年で世界的なコンセンサスになっている。米国、シンガポール、EU、英国はいずれもそれぞれの生成AI表示ルールを進めている。EU「AI法」の透明性条項は2026年8月2日に発効し、AIとの対話の開示、合成コンテンツの表示、ディープフェイクのラベル付けを求め、違反時は最大3500万ユーロまたは全世界年間売上高の7％のいずれか高い方を科す。OpenAIはコンプライアンスのため、EU域内でChatGPTとCodexが生成するテキストに不可視のウォーターマークを付けると発表した。

違いは力点にある。EUはリスク分類と高額の罰金という道を歩み、圧力をサービス提供者に集中させる。中国国内のこの弁法は、チェーン全体の痕跡記録とプラットフォームの協調をより強調し、表示義務をサービス提供側、配信側、利用者の三者に分ける。二つの道の共通の前提は同じだ。まずコンテンツに出所情報を付け、そのうえで初めて責任追及とガバナンスが語れる。

クリエイターにとってどんな体験になるのか

一般のクリエイターにとって、変化は技術ではなく習慣にある。以前はAIが描いたイラストを普通の作品として投稿できた。今は自発的に申告しなければならず、申告後にアルゴリズムでリーチが抑制されるのではないかと、多くの人が疑問に思っている。今のところこれを回答できる公開データはない。プラットフォームの示唆は、自発的に表示したコンテンツは追加のペナルティを受けず、実際に対処されるのは、表示せずに本物の撮影と偽ろうとするものだ、というものだ。

本当に注目すべきは、暗黙的表示が二次加工に耐えられるかどうかだ。ウォーターマーク付きの動画が他人の作品に切り込まれ、何度かエンコードされ、スクリーンショットで再投稿されると、ウォーターマークの生存率は下がる。これはOpenAI自身が認めている弱点でもある。同社のテキストウォーターマークは、単語を10％置き換えると検出率が約92％から66％に落ち、25％置き換えると17％しか残らない。表示は偽造のコストを高められるが、偽造という道を完全に塞ぐことはできない。

より現実的な問題は境界にある。本物の写真がAIで肌を修正され、背景を変えられ、通行人を消された場合、それはAI生成に当たるのか。弁法は方向性を示したが、具体的な判断はプラットフォームの実施細則に委ねられる。ラベルを広くしすぎれば、誰もがラベルを付けることになり、ラベルは情報量を失う。狭くしすぎれば、グレーゾーンにある大量のコンテンツを取りこぼす。

表示弁法が変えるのはデフォルト値だ。これまでは、あるコンテンツがAI生成かどうかを判断するのは、プラットフォームの仕事であり、視聴者の仕事であり、ただ投稿者の仕事ではなかった。今ではまず投稿者の仕事になる。この一歩はすべての問題を解決しないが、「AI生成」を、隠せる選択肢から、必ず答えなければならない問いへと変える。