猿は犬を救わなかった。それでも涙は本物だった

10月7日、一本の動画がWeiboのテクノロジーランキングで20位まで浮上した。洪水のなか、猿が犬を安全な場所へ引きずっていく映像だ。ヒットに必要な要素はすべて揃っていた。災害、種を超えた思いやり、誰に命じられるでもなく道徳的に正しい選択をする本能。人々は共有し、涙を流した。そして、生成されたものだと確認された。

面白いのは、それが偽物だったことではない。世間がそれを処理した順番のほうだ。まず心を動かされ、次に疑い、最後に検証する。この順序は今やあまりに安定していて、時計合わせに使えるほどだ。

なぜ順番は変わらないのか

公開の瞬間に証拠を求められる工程が、どこにもないからだ。

報道機関には編集基準があり、署名があり、法務部門がある。ショート動画プラットフォームに動画を上げる個人には、そのどれもない。プラットフォームの初期設定は寛容だ。通報されるまでは本物として扱われる。視聴者に残された唯一の検査は「本物に見えるか」であり、本物に見えることこそ、生成動画が今もっとも得意とすることだ。

濡れた毛。水しぶきの独特な形。怯えた犬が体をよじる、あのよじり方。これらは取るに足らない細部ではない。人間の共感が「証拠」として読み取る特徴そのものだ。説得力のある映像を生成するよう訓練されたモデルは、機能的には、人が映像を信じるための手がかりを生成するよう訓練されたモデルである。

そこにあるのが非対称性だ。検証は遅く、敵対的で、退屈だ。感情は速く、社会的で、報われる。勝つのは、後者に最適化し、前者を飛ばすことにコストを課さない形式だ。

今月のサンプルは異常に多い

猿は孤立した事例ではない。同じ数週間のあいだに、次のようなものが並んだ。

大雨のなか旅客機が制御を失って回転する動画が海外プラットフォームで拡散した。Lead Stories が検証し、AI検出ツールが生成物だと判定した。新疆カナスで観光客が熊に餌をやるクリップは合成だと確認された。車比較サイト「懂車帝」の内部「整改通知」とされるスクリーンショットは、偽造だった。

まったく別の種類の話もある。チケット販売プラットフォーム淘票票の顧客対応ボットが利用者を侮辱した。企業の説明は「どの大規模言語モデルを使ったか分からない」というものだった。

並べてみると、パターンが見えてくる。一つは悪意ある捏造、一つは不注意な実装、一つは画像編集ソフトさえあれば誰でも作れるスクリーンショット。共通する欠陥は一つだ。何か問題が起きたとき、そのコンテンツを生成した特定可能な主体がいない。モデル提供者でも、プラットフォームでも、アカウントでもない。

コストは次の本物の動画に落ちる

この議論で過小評価されていると思うのは、次の点だ。

偽の救助動画がもたらす損害は、実在しない猿のために誰かが一度悲しんだことではない。次の本物の救助動画――必ず来る。次の雨季に、メディアの訓練を一切受けていない誰かがスマートフォンで撮る――が、到着した時点ですでに信用を失っていることだ。視聴者の第一反応は「たぶんAI」になるよう訓練されてしまった。

これは真正性への課税であり、しかも逆進的だ。大手メディアは検証チームを抱えられる。偶然本物の出来事を撮っただけの個人には抱えられない。拡散する偽物が一本増えるたび、誠実な目撃者は信用を失う。そしてその誠実な目撃者こそ、自ら証明する能力を最も持たない人間なのだ。

同じ実験は写真の時代に一度やっている。ロイターやAFPの検証部門、逆画像検索の習慣、「手を見ろ」という民間の知恵。すべて十年の写真加工史から生まれた。何年もかけて、それでも今なお確実には機能しない。動画はもっと難しい。動画は連続性の主張を暗黙に抱えているからだ。これは起きた、この順序で、これだけの時間のなかで。その主張を生成するのは今や安い。監査するのは安くない。

署名欄は地味だが、おそらく必要だ

中国のテック評論で繰り返し出てくる提案は複雑ではない。三つの署名欄だ。

生成側は、どのモデルが作ったかを書き出し時に明示する。公開側は、誰が何を根拠に保証するかを示す。プラットフォーム側は、何を検出し、何をしたかを示す。三つのどれかが欠ければ、その項目には既定で「合成の疑い」という可視ラベルが付く。

技術的にはどれも難しくない。C2PAマニフェストやSynthIDのような透かし方式はすでに存在する。難しいのは採用のほうだ。曖昧さから最も利益を得ている当事者が、署名しなければならない当事者だからだ。

そして正当な反論もある。義務化された来歴メタデータは、監視の面でもある。すべての画像をどのモデルが作り、それをアカウントに紐づけて記録するシステムは、人々が何を作ったかを記録するシステムだ。真面目な提案はこれに答えなければならないが、ほとんどが答えていない。

それまでのあいだ、実際に役立つこと

有用な順に、三つの習慣。

元の投稿を探す。拡散する合成動画はほとんどが再アップロードだ。見つけられる最も古い事例が履歴のないアカウントなら、それ自体が情報になる。

退屈な破綻を見る。生成された洪水は、水中の物体との相互作用がわずかにずれる傾向がある。残骸が減速しない、水が物を濡らさない。いつもではないし、確実でもない。それでも検出モデルより安い。

誰が得するかを問う。四秒以内に強い感情を動かし、しかも出所が特定できない動画は、証拠ではない。ファイル拡張子の付いた気分だ。

検出ツールが差を埋められない理由

「なら検出器を良くすればいい」というのは自然な発想だ。いくつも存在するし、モデルの生の出力に対してはかなりよく機能する。

問題は、生成と視聴のあいだにある工程だ。合成動画はあなたの目に触れるまでに三回再エンコードされる。アップロード時、プラットフォームのトランスコーダ内、そして誰かが画面収録して別の場所へ転載する時。そのたびに検出器が探す統計的指紋は剥がされ、壊される。あなたに届く動画は、圧縮され、切り取られ、色を変えられた派生物であり、検出器が識別できたのはその前の姿だ。

誤りの非対称性もある。本物の映像の5パーセントを合成と判定する検出器は、ニュースルームでは受け入れられない。モデルがそう言ったからという理由で、目撃者に「あなたの動画は偽物だ」とは言えない。偽物の5パーセントを見逃す検出器もまた受け入れられない。両方を満たすしきい値は存在せず、偽陽性のコストはプラットフォームではなく個人に落ちる。

だからツールの役割は狭い。トリアージだ。検証デスクに、どこから見るべきかを教える。視聴者が抱える問い、つまり「何かを感じるべきなのか」には答えない。

プラットフォームのインセンティブを、率直に言う

ラベルがなぜ導入されないのか、感傷抜きで見る価値がある。

動画に「合成」とラベルを付けたプラットフォームは、それまで負っていなかった責任を負う。本物の動画に誤ってラベルを付ければ、目撃者を中傷したことになる。偽物に付けなければ、視聴者を誤導したことになる。どちらにしても、今は下さなくてよい判断の責任を引き受けたことになる。ラベルを付けないのは無料だ。

計算はそれだけのことで、業界が何年も自発的な枠組みを作りながら、既定のラベルをほとんど作ってこなかった理由も説明できる。EUのやり方――AI法に基づく機械可読な表示義務――は既定値を変えようとする唯一の規制の試みであり、その実効性は、表示が上述のトランスコード工程を生き延びられるかどうかに完全にかかっている。初期の証拠は心もとない。

猿に戻ろう。生成された動物、どこかで起きた本物の洪水、スマートフォンを持つ視聴者、そしてその連鎖のなかに、それが何なのかを言うのが仕事の人間は一人もいない。

だから最も安い習慣に戻る。誰も聞きたがらない習慣だ。気分こそが目的だから。四秒で心を動かされたことから、誰が得をするのかを問う。猿は犬を救っていない。涙は本物だった。両方は同時に成り立つ。そのあいだの隙間こそが、この問題全体の居場所だ。