AIが描いた世界1万1064種の鳥、観鳥家が最初に直したのは眉だった

11月初め、バードウォッチング界は一枚の貼り絵で沸いた。
野鳥記録アプリの一つが、AIで世界11064種の鳥の「ブロマイド風シール画像」を描いたと宣伝した。千種余りに千枚余りの画像。聞こえは、長年画像が足りないという問題を一度に片付けたというものだ。鳥の識別や科学普及に携わる人間なら知っている。世界の鳥種のかなりの部分は標本写真か手描き図、あるいは数十年前のフィルムにしか残っておらず、一般の人が目にする機会はない。その穴を埋めようという人が出るのは、筋は通っている。
反発はすぐ来た。長年観鳥を続けるある書き手が澎湃に意見を寄せた。怒りの中心は「AIを使ったこと」ではなく、相手の小紅書の広告投稿をちらっと見ただけで分かる点にあった。あのキマユペンギンの眉がおかしい、と。ペンギンの眉部の特徴はこのグループの分類の要の一つで、描き間違いは美的な問題ではなく識別の問題になる。
絵はAIが描き、検収もAIがやった
観鳥者が本当に気にしているのは、この画像群が制作から検収まで、誰も実際には見ていないという点だ。
鳥種の違いは数パーセントの細部に宿る。眉斑の長さ、初列風切の露出比、嘴の湾曲、跗蹠の色。まさに生成モデルが潰しやすいところで、学習で見てきた「鳥」の大半は構図の美しい写真作品であり、計測用の注記が入った標本写真ではない。モデルが学んだのは「鳥に見える」であって、「これは何某というホオジロだ」ではない。

そうした画像を識別ツールや教材に放り込むと、起きるのは見栄えの問題ではない。誤りが参照基準として固定される。利用者はそれを基準に照合し、照合するほどずれる。入門者はまず間違った一枚を覚え、後から直すのに何倍も苦労する。筆者が使った言葉は「データ汚染」で、的確だ。
もう一つある。この画像群はAIが描き、AIが検収した。モデルでモデルの出力を検査するのは、同じ偏りに自分で署名させるようなものだ。やるなら少なくとも人手の抜き取り検査を一工程置き、誤りやすい分類群を別枠で再確認すべきだ。
学習と描き直しは別の話
第二の争点は著作権だ。
筆者は、この画像群がかなりの数の写真を雛形として取り込んだと指摘する。画像を集めてモデルを学習させるのと、無許諾で画像を取って描き直すのは別のことだ。前者は多くの法域でなお灰色で、後者は複製と認定されやすい。描き直しが原図を強く参照し、出来上がりが原作に似ていれば、それは「少し変えた複製」に近く、「独立した創作」ではない。このプロジェクトには商用の可能性もある。コードがオープンソースでも、性質はオープンソースだからと変わらない。
線引きはそれほど複雑ではない。モデルが膨大な画像から「鳥とはどんな姿か」を学ぶのと、モデルが一枚の写真を睨んで構図・姿勢・光を再現するのは、別の行為だ。前者は学習、後者は模写。違いは、その過程に特定でき指摘できる原作があるかどうかにある。
実務的な提案が一つ
筆者の提案は批判より書き留める価値がある。どうしてもAIに鳥を描かせたいなら、写実でない画風にすればいい。
この一言で問題の大半は片付く。イラスト調、版画調、色面のコラージュ、極端に簡略化したシルエット。見る側は一目で写真ではないと分かり、識別の根拠にはしない。データ汚染の前提は「本物と誤認されること」にあり、画風の時点で見本だと宣言してしまえば前提が消える。もちろん写実でやるのも不可能ではないが、その場合は11064枚を一枚ずつ確認することになる。コストは自分で計算すればいい。
彼はもう一つ、丁寧な言い方もしている。プログラミングと自然は全く別の世界で、別の世界に入りながらその作法を守らず、その世界に奉仕すると称するのは、胸が焼ける、と。
同じ週、小紅書は別の「本物らしさ」を掃除していた
観鳥の件が「正確でなければならない」にAI生成画像がぶつかった話なら、小紅書の今回の取り締まりがぶつかったのは「本物でなければならない」だ。
11月5日ごろ、小紅書はコンテンツの特別整理を始め、AIによる著名人なりすましの商品販売を今回の重点に据えた。対象は二種類。一つはAIの顔入れ替えで、著名人の顔を販売動画に合成し、本人が薦めているように見せるもの。もう一つはAI音声で、著名人の声を再現し、編集済みの素材に乗せて商品紹介を読ませるもの。
措置はノートとアカウントの両方に及ぶ。違反ノートは即時削除し、配信を止める。繰り返し投稿したアカウントは流量を制限し、商業権限を調整し、悪質なら凍結する。著名人の特徴を意図的に真似たり、AIで似た風貌の人物を作って販売したりする、境界ぎりぎりの手口も調査対象に入る。
この動きの論理は観鳥の件と通じている。消費者は顔を見、声を聞いて、「この人を知っている、この人の言うことなら信じる」と判断する。AIはこの経路を非常に滑らかにした。滑らかすぎて、途中に本物を必要とする工程が一つもない。商品に問題が出て購入者が権利を主張しようとしたとき、本人はこの販売に関わっていないと分かる。その時点で責任の所在はもう曖昧だ。
どちらも同じ穴を埋めている
二つの件を並べると、埋めている空白が同じ種類だと分かる。
鳥類図鑑に画像が足りないのは、撮れない、買えない、許諾が下りないからだ。販売動画に人が足りないのは、呼べない、高すぎる、日程が合わないからだ。AIはどちらの位置でも有能で、コストは計算不要なほど低く、速度は数か月対数時間。問題は、二つの空白の性質が違うことだ。一方が欠いているのは「見本」、もう一方が欠いているのは「推薦」だ。
見本はAIでいい。見本だと明示すればいい。推薦はAIではだめだ。推薦の価値は「この人が本当にそう思っている」ことに全部乗っている。後者をモデルに任せるのは、取引の前提そのものを抜くことになる。
中国では10月1日から生成合成コンテンツの表示規則が施行され、明示的な表示と埋め込み型の表示の二種類が求められている。どこまで実効性があるかは、プラットフォームが流量とコンプライアンスのどちらを取るかに大きくかかっている。小紅書の今回の整理は一つの見本を示した。まず流量に手を付け、表示の話は後でする。表示は事後に確認できるが、流量制限は事前に痛い。
コンテンツを作る人への率直な話
第一に、データセット、図鑑、教材のようなものは、AIは初稿と場所埋めに向き、決定稿には向かない。実際に外に出すなら、人による確認のコストを予算に入れる必要があり、省けない。
第二に、画風そのものが宣言になる。写実は「これは本物」という約束であり、イラストは「これは絵」という宣言だ。どちらを選んでもいいが、選び間違えてから、見る側の誤解を責めてはいけない。
第三に、実在の人物の姿と声が絡むなら、許諾に近道はない。小紅書の今回の動きは、プラットフォームがなりすまされた側に代わって動き始めたことを示す。他人からの通報を待つ代償は、事前に許諾を取るよりはるかに高い。
眉を描き間違えたあのキマユペンギンは、結局かなり高くつく注意喚起になった。モデルは鳥に見える画像を十万枚描ける。だが、どの一枚が鳥の見分け方を教えるのに使えるかは知らない。