Googleが「この画像はAI生成？」を確認するサイトを作った

10月7日、GoogleはSynthID Detectorを一般公開した。URLは短く、synthid.com。ログイン後、画像、動画、または音声をドラッグ＆ドロップすると、数秒後に「ウォーターマークを検出」または「検出されず」と結果を返す。

以前はGeminiに頼るしかなかった。ファイルをアップロードし、モデルが自然言語で見えた内容を説明するのを読むことになり、はっきりした「はい」か「いいえ」を得るのは面倒だった。今やGoogleは判定部分を切り出し、ログインするだけで使え、モデルの言い回しを理解する必要もない入口にした。

1800億枚の画像と、24万年分の音声

SynthIDは新しいものではない。Googleは2023年から自社の生成モデルに使っており、その方法は、人間の目には見えず耳には聞こえない信号を、ワンクリックで消せるメタデータに詰め込むのではなく、ピクセルや音声波形に直接埋め込むというものだ。この点は重要だ。メタデータは絵画の裏に貼った付箋のようなもので、コピー＆ペースト、スクリーンショット、保存し直しの後にはしばしば消えてしまう。一方、ピクセルに書き込まれた信号は画像と一緒に持ち運ばれる。Googleが公表した数字によれば、2023年の提供開始から現在までに、1800億枚を超える画像と動画、さらに24万年分に相当する音声コンテンツにマーキングしてきた。音声の桁は誇張に聞こえるが、実際にはLyriaの音楽生成とNotebookLMのポッドキャスト機能が生み出したすべてのコンテンツを算入している。

ウォーターマーク自体にも改変耐性が施されている。Google DeepMindの技術説明によると、画像と動画のウォーターマークは生成された瞬間に書き込まれ、トリミング、フィルター適用、フレームレート変更、非可逆圧縮を経ても検出される確率が比較的高い。音声ウォーターマークは、ノイズ付加、MP3圧縮、再生速度変更に対して強化されている。Geminiが生成するテキストは別ルートで、モデルを微調整して各候補単語のスコア分布に信号を埋め込む。肉眼で見える文字はまったく変わらない。

今回の公開で重要な変化は提携先にある。以前の検出器はGoogle自社のウォーターマークしか認識せず、ChatGPTが生成した画像がSynthIDを帯びていても、Googleのツールでは相変わらず検出されなかった。今はこの制限がなくなり、検出器はOpenAI、NVIDIA、韓国のKakaoを同時にサポートし、Appleも後から加わると約束している。

つまり、1回のアップロードで複数社の生成痕跡をまとめて照合でき、各社の検証ページを一つずつ回る必要はない。Googleはついでにこの機能を検索、Geminiアプリ、Chromeにも組み込み、この3か所だけで1日100万件超の検証リクエストを処理している。

なぜ無制限に調べられないのか

ツール自体は無料だが、制限がある。1アカウントあたり1日およそ10回まで、画像・動画・音声をチェックできる枠があり、利用にはGoogle、OpenAI、またはAppleアカウントへのログインが必要だ。Googleのエンジニアは理由をこう説明している。アクセスを制限するのは、検出結果を使って「ウォーターマーク除去」ツールを逆に訓練する行為を防ぐためだ。枠の数字は意図的に曖昧にされており、非常に似た画像を連続で大量にアップロードすると、何らかの回避策を試しているように見えるため、より早くロックされる可能性がある。

もう一つ注目すべき細部がある。アップロードされたファイルはリアルタイムで処理され、結果が出た直後に削除されるが、ファイルのデジタル署名は当日の割り当てを集計するために24時間保持される。

「検出されなかった」は「AI生成ではない」ではない

これはこのツール全体で最も明確にすべき点であり、Google自身もFAQに書いている。これは汎用のAI検出器ではない。SynthID技術を採用した企業が生成したコンテンツしか識別できない。

現実には、その判定範囲から自然に外れるコンテンツが大量にある。MicrosoftとMetaはそれぞれ独自のウォーターマーク標準を採用しており、どちらもGoogleの提携リストには入っていない。Metaは今年、自社の検出器が自社でトリミングされたAI画像を見逃すという出来事もあった。さらに重要なのはオープンウェイトモデルで、誰でも自分のマシン上で動かせ、生成されたコンテンツには最低限のメタデータ標識すらない。

したがって「ウォーターマーク未検出」の正しい読み方は「出所不明」であり、「これは本物」ではない。ファイルはSynthID未対応のモデル由来かもしれないし、トリミング、圧縮、再録音が激しすぎて信号が削れただけかもしれない。

Googleのもう一つの考え方は正反対だ。AIコンテンツに印を付けるより、本物のコンテンツに印を付ける。C2PAのような暗号学的手法は、撮影デバイスの時点で出所情報を署名として埋め込む。Pixelスマートフォンは、すでにこれを実践している数少ない製品だ。一方は偽のコンテンツにラベルを貼り、もう一方は本物のコンテンツにラベルを貼る。二つの道はそれぞれ別の端を受け持っている。

一般ユーザーにとって、このサイトの実用価値は統一された入口であることにある。怪しい画像を見かけたら、まずここに投入して一度調べ、そのうえで出所、時間、文脈を合わせて判断するほうが、結果だけを見るより信頼できる。注目すべきは対応形式の広さだ。画像はJPG、PNG、WEBP、HEIC、動画はMP4、MOV、WEBM、音声はWAV、MP3、FLACなどの一般的な形式をカバーし、日常で出会う大半のファイルをそのままアップロードできる。

中国語圏では、この半年、「この画像はAIが描いたのか」をめぐる議論が絶えず、ストックフォトサイトの完成品とスマホで流れてくるイラストはますます見分けにくくなっている。調べられる場所が一つ増えるのは常に良いことだが、それを判決文と見なさないことが前提だ。本当に身につけるべき判断習慣はこれだ。ウォーターマーク検出が与えるのは単一のシグナルであり、「あり」と言うときは信頼度が比較的高いが、「なし」と言うときはほとんど何も語っていない。ある画像が信頼できるかどうかは、最終的には誰が撮影または生成し、どのような場で公開し、第三者が裏付けられるかによる。ツールは一部を排除する助けにはなるが、結論を下す助けにはならない。