AI画像と本物の写真、まだ見分けられますか?正直な答えは「ノー」です。

今月、あるゲームが話題になっています。深刻な問いをスコアボードに変えてしまうゲームです。画面に画像が次々と流れてきて、どれがAI生成かを当てるというもの。多くの人は自分には見る目があると信じてプレイを始め、そしてAIが人間の手を正確に描けるようになったあたりで、自分の正答率が崩れていくのを眺めることになります。それが信頼できる手がかりだったのは、もう何年も前の話です。このゲームはHacker Newsで100ポイント以上を集め、コメント欄は、自分が実は何も見えていなかったと気づいた人たちの自助グループのようになっていました。

手がかりは消えた

かつて人々が頼っていた近道はすべて塞がれました。指の数が多い、文字が崩れる、プラスチックのような肌、ありえないライティング。現在のモデルはどれもある程度はうまく処理するので、単一の手がかりに頼ることはできません。特に文字の改善は劇的で、人間による検出の最後の楽な勝ち筋をひとつ奪いました。以前なら、シーンの中に読み取れる看板を描いてしまえば完全にアウトでした。今ではそれすら前提条件です。

その結果、奇妙な状況が生まれています。画像は良くなったのに、人間の見分ける力は良くなっていない。優れたAI画像と本物の写真を並べられたほとんどの人は、勘で答えています。このゲームの人気は、ある意味その証拠です。何度も間違えるからこそ面白く、間違えること自体がこのゲームの要点なのです。自信は高く、正答率はほぼコイントス並みです。

検出ツールも私たちを救ってはくれない

AI検出ツールという並行市場があり、こちらも同じくらい頼りになりません。AI画像を見つけると謳って新しいツールが登場し、実験室では機能しても実地では失敗します。あるモデルの痕跡に合わせて調整された検出器は、次のモデルでは苦戦します。画像を圧縮したり、リサイズしたり、SNSプラットフォームの再エンコードを通したりすると、検出器が頼っていた微妙な指紋は消されてしまいます。

さらに悪いことに、検出器は誤検知を起こします。特定の照明や強いフィルターがかかった本物の写真でも引っかかることがあります。画像への信頼を取り戻すためのツールにとって、誤検知は深刻な問題です。なぜなら、誰でも本物の写真を偽物として片付けられてしまうからです。つまり検出ツールは、双方向の武器になり得ます。これはトレーニングを増やせば直る欠陥ではありません。構造的なものです。

軍拡競争の勝者はひとつだけ

ここには、人々がずっと過小評価している根本的な非対称性があります。生成側は本物に見える画像を作ろうとしていて、明確な目的があります。検出側はそれを見つけようとしていて、どんどん良くなる動く標的を追いかけています。軍拡競争では、明確な目的と高速な反復ループを持つ側がたいてい勝ちます。そしてその側は生成側です。

新しいモデルが出るたびに検出器は再トレーニングを強いられ、追いつく頃には次のモデルが出荷されています。その差は縮まっていません。むしろ広がっており、リリースごとに広がっています。検出ツールを売る人たちには楽観的に聞こえさせる動機がありますが、実際のトレンドラインは彼らの味方ではありません。むしろ正直な立場は、信頼できる検出は負け戦であり、それを受け入れるのが早ければ早いほど、本当に役立つ取り組みに着手できるということです。

実際には何を意味するのか

「見分けられますか」に対する正直な答えは、確実には無理、そしてますます無理、です。より有益な問いは、それとどう共存するかです。検証は上流、つまり来歴(プロヴェナンス)へと移さなければなりません。画像が作成時に署名されていたり、どこから来てどう編集されたかの記録を伴っていたりすれば、ピクセルを睨む必要はありません。メタデータを確認すればいいのです。

そうしたインフラは一般ユーザーにはほとんど存在しません。一部のカメラメーカーやプラットフォームはコンテンツクレデンシャルを試験導入していますが、標準にはなっておらず、スクリーンショットを撮られた瞬間にチェーンは切れます。それが変わるまでは、デフォルトは懐疑心であり、懐疑心は消耗します。それは蝕むものでもあり、私たちがようやく感じ始めているのはその部分です。

本当の話は社会的コスト

被害の本質は、偽の画像に騙されることではありません。共有された信頼の崩壊です。あらゆる写真が捏造かもしれず、検出ツールも信頼できないとなれば、人々は本物の証拠も含めてすべてを疑い始めます。それは個々の画像より重い問題で、テクノロジーがまだ解決できていない問題です。

これが技術的な議論がいつも見落としている部分です。AI画像を心配する人々は、おかしなフィルターに騙されることを主に心配しているわけではありません。現実の出来事を写した本物の写真が偽物と片付けられ、偽物が本物と擁護され得る世界を心配しています。証拠そのものが疑わしくなれば、証拠に依拠する議論は機能しなくなります。それは検出器の問題ではありません。信頼の問題であり、その両側にあるどんなツールよりも大きな問題です。

責任は移ろい、誰も引き受けたがらない

静かな伏線のひとつは、責任がどこにも着地せず、押し付け合われ続けていることです。モデルメーカーは道具を提供しているだけだと言います。プラットフォームはすべての画像を検証できないと言います。ユーザーは自分が科学捜査官になるべきではないと言います。全員が技術的には正しく、その結果、偽画像が被害をもたらしたときに誰も責任を負いません。

この責任の拡散こそが実際の問題です。改変された画像が拡散して害を及ぼすとき、害は現実ですが、それを見つけるのが職務だった単一の主体はいません。モデルメーカーは高性能なツールを出荷し、プラットフォームはそれをホストし、ユーザーはそれを信じた。チェーンの各リンクは次のリンクを指して、自分は悪いことをしていないと言えます。

責任がどこか具体的な場所に着地するまで、デフォルトの答えはツールを責めるか、見る人を責めるかになり、どちらも機能しません。ツールを責めるのは、演出された写真についてカメラを責めるようなものです。見る人を責めるのは、もはや誰も確実に見分けられないという事実を無視しています。正直な解決策は構造的なもので、画像を公開・配布する人々を拘束する、開示と来歴に関する明確なルールです。それを見る人ではなく。

実際に次に来るもの

画像生成器が軍拡競争に勝ちました。彼らはあまりに上手くなり、「これは本物か」という問いに素早い答えはなくなりました。次に解くべき問題は、より優れた検出器を作ることではありません。画像の真実性が、あなたの目がたまたまそれを見抜けるかどうかに依存しない仕組みを作ることです。来歴、署名されたコンテンツ、検証可能な保管の連鎖。それらは地味ですが、実際に機能する唯一のものです。目は負けました。そうでないふりをするのは、全員に偽の安心感を与えるだけです。