100元で買える30秒の、あなたのものではない顔

ある女優が朝起きたら、自分が一度も使ったことのないコラーゲン美容液をすすめている動画が出回っていた。リップシンクは合っている。声も、本人の仕事を知っている人が疑わない程度には似ていた。画面の隅に、小さな文字で一行だけあった。このコンテンツにはAI生成の素材が含まれます、と。

そのアカウントは10月19日までに消えていた。永久凍結だ。消える前に、この美容液は30日で7,000本以上売れ、売上はおよそ500,000元。女優のWu YueはWeiboで公に問いかけた。騙された人は何人いるのか、と。

ラベルは誰も救わなかった。そこにはあった。見れば読めた。それでも7,000人がスキンケア商品を買った。ここは少し立ち止まりたいところだ。

ラベルがあっても売れた

これが成立するには三つの条件がそろっている必要があって、技術に関係するのはそのうち一つだけだ。

まず、顔が手に入ること。Wu Yueの公開映像はネット中にある。インタビュー、レッドカーペット、ドラマの切り抜き。20分あれば、スマホ画面の9:16のトリミングを経ても通用する似顔を作れる。

次に、音が近いこと。数分のきれいな音声から声をクローンするのは、いまや研究課題ではなく既製品だ。このアカウントはそれにリップシンクの調整と書き換えたセリフを重ねていた。俳優もセットもスクリプト監督もいらない、いちばん安い制作体制だ。

そして、ラベルが無視できること。実際そうだった。縦動画の隅に8ポイントの文字が一行、しかもそのプラットフォームのUIは下三分の一を字幕とボタンで埋めている。機能的には見えない。ラベルは開示要件を満たし、誰の行動も変えなかった。

{{INLINE1}}

サプライチェーンには価格表がある

出どころを探した記者が見つけたのは、場当たり的な詐欺師が数人ではなく、もっと組織立ったものだった。大手ECや中古売買プラットフォームの店がAI動画のカスタマイズを公然と広告し、数百元から千元超まで見積もっている。ある店は30秒の著名人推薦動画を100元と答え、1週間でフォロワー10,000人のアカウントを育てる方法まで説明した。

売り手の合法性についての説明はばらばらで、そのばらばらさが逆に雄弁だ。著名人の案件は権利侵害だとしてきっぱり断り、汎用のデジタルヒューマンを勧める店もあった。技術面は些細で、難しいのはコピーと筋書きだと言う店もあった。権利について聞くと、一人は質問に答えず、AIコンテンツだと表示しておけばいいと言った。

これがビジネスモデルだ、一文で言えば。ラベルは法的な防御ではなくコンプライアンスコストとして、正しく理解されていた。つまり執行はアカウント単位で、販売が終わったあとにしか起こりえない。実際そうなったし、来月また別の顔で同じことが起きる理由もそこにある。

法律は実際に何と言っているか

中国の弁護士はラベルの問題について率直だった。ラベルが答えるのは「これはAIが作ったか」だけだ。「許諾はあったか」「それは事実か」には答えない。民法では自然人の肖像権が保護され、声は肖像権に準じて保護される。同意なく他人の容貌と声を使って物を売るのは典型的な商業的権利侵害で、隅に「AI生成」と足しても免除にはならない。

裁判所はすでにルールを作っている。最高裁の指導の下で出た事件では、ある会社が人物の公開講演の映像を使い、その声質に近い合成音声を重ねて推薦動画を作った。裁判所は肖像権と声の権益の双方の侵害を認めた。素材の許諾を確認しなかったことを過失と認定し、共同不法行為者とした。損害賠償と費用は合わせて120,000元、加えて謝罪。

9月7日、最高裁はAI関連紛争の審理に関する意見を公表し、顔の入れ替え、声のクローン、故人のAI再現に具体的に触れた。方向は一貫している。軸は同意であり、開示ではない。

差があるのは執行の速さで、それは構造的なものだ。動画は午後ひとつで作れて、二週間売れて、通報されてから削除される。売上は、申し立てる資格のある誰かが気づく前に回収される。

これは例外的な話ではない

Wu Yueの話は表に出た一つにすぎないが、パターンはもっと広い。別の女優Wen Zhengrongは自分の容貌を使ったAIライブ配信を見つけ、運営者に詰め寄ってブロックされた。Kenneth Fokは自分の声と容姿が切り出されて短編動画にされたと述べ、同僚さえしばらく見てから気づいたという。Jin Dongの容貌は高齢の視聴者に向けて使われている。確認する手段がいちばん少ない層だ。

共通しているのは、標的にされた誰も無名ではないことだ。何かを売れる程度には知られていて、すべてのクリップを監視するには分散しすぎている。かつて知名度は防御だった。よく知られた顔は偽りにくい。いまは訓練素材の供給源だ。

もっと悪くなってから良くなる版もある。説得力のある著名人広告を作る道具は、同じように説得力のある「推薦」を、中堅のインフルエンサーや、町の医師や、学校の校長で作れてしまう。彼らには取材の窓口も法務もなく、オーディエンスはより小さく、だからこそより信じている。

本当に効くこと

四つある。新しいものは一つもなく、どれも地味だ。

ラベルを投稿の属性ではなく画像の一部にする。フレームに焼き込んだ可視のマークは、スクリーンショットにも再アップロードにも圧縮の連鎖にも耐える。キャプションは耐えない。

本人確認をマネタイズの時点で要求する。投稿の時点ではなく。効くボトルネックはディープフェイクのアップロードではなく、決済手段を紐づけて売上を受け取る瞬間だ。監視すべき面はずっと小さく、500,000元が動いたのもそこだ。

顔を使われた人に優先レーンを用意する。順番待ちの列に流れる一般的な通報フォームではなく、公人が合成推薦に印を付けて数時間で凍結できる、認証済みの経路。一部を実装しているプラットフォームはある。二週間の販売期間に間に合う速さで持っているところは少ない。

そして、ラベルを答えにするのをやめる。開示は視聴者への礼儀だ。同意が本来のルールで、隅の文字をいくら増やしても代わりにはならない。

居心地の悪いところ

7,000人が美容液を買った。見覚えのある顔が、いいと言ったからだ。この経済学は微妙でも何でもない。信頼される顔の説得力ある偽物は、たいていの正規広告より成果を出す。しかも作るのに100元しかかからない。

つまり問いは、プラットフォームが合成推薦を全部捕まえられるか、ではない。捕まえられないし、ラボもそう言っている。問いは、捕まるコストが作るコストより速く上がるかどうかだ。今は上がっていない。隅に置かれたあのラベルは、誰がそれをどれだけ本気で想定していたかの、かなり正確な物差しだ。