レビューがAI製ではないかと疑われ始めた読書アプリ

微信読書は中国最大の読書アプリで、いちばん特徴的な機能は本の中ではなく、本の横にある。他人のハイライトとコメントが本文に沿って流れるあの層のことだ。ページの端の細い一行に、見知らぬ他人の字がびっしり並ぶ。小説を読んでいると、数千人が肩越しに一緒に読んでいて、気に入った一文のところで立ち止まり、自分の感想をそこに貼っていく。
長いあいだ、この層はこのアプリのいちばん良い部分だった。うまく言えない一文を代わりにハイライトしてくれる人がいて、冗談の下により鋭い一言を足す人がいた。それが今月、論争の現場になった。
きっかけは小さなことだった。ある読者がアガサ・クリスティーの小説を友人に勧め、友人がこう報告した。アプリは第一章より前に結末を明かしてしまった、と。コメント欄が本文へ入る途中で、先の展開の議論を前面に出してしまったからだ。この投稿は11月11日に出て広く共有されたが、いま出回っている不満の中ではいちばん面白みのない一本だ。ネタバレは製品の作りで直せる問題で、その後の話はそうではない。
非難は双方向に飛ぶ
その前日には、逆の主張をする投稿があった。コメント欄が、モデルが書いたとしか思えないレビューで埋まっている、というものだ。型どおりの書き出し、整いすぎた三段構成、まず感想、次に背景、最後にまとめ、末尾で情緒的な転換を入れて何も解決しない。そして痛いのはその後半だ。丁寧に書いている読者が、AIだと疑われている。文が通っていて、句読点が正確で、段落に筋が通っているという理由で、見知らぬ人から名指しされる。
これが新しい社交の力学だ。ある空間に生成されたテキストが十分に増えると、証明の負担は人間の側へ移る。文体が証拠になる。よく整理された段落は怪しい。きれいな要約は兆候だ。わざと誤字を二つ残さないと人間に見えない、という時代に片足を突っ込みかけている。
コメントとは誰かが声に出して考えていることだ、という前提で建てられた空間なので、この変化の効き方は具体的だ。コメント欄の価値は、誰かがわざわざ手間をかけたという事実から来ていた。その手間が大規模に偽造できるなら、残る信号は書き手にとってのコストだけになり、コストはスクリーンショットからは見えない。きれいな文章が三分で書かれたのか三時間で書かれたのか、そこから読み取る方法はない。

指標が事態を悪くした
微信読書はコメントを表示するだけではない。おすすめ値を計算し、高評価ランキングも維持している。おすすめ値の高いレビューは本をそのランキングに押し上げ、ランキングは読者を本へ送り返す。今年8月、973文字の長文レビューが92%以上のおすすめ値に達したと報じられ、その本ははるかに多くの読者の前に出た。数字はきれいで、仕組みも明快だ。
そういう指標は、読書とは無関係な動機を生む。整った構造、届く情緒、少し曖昧な結論のレビューが高く評価されるなら、整った構造、届く情緒、少し曖昧な結論のレビューを作ることが合理的な戦略になる。それが人間でもスクリプトでも同じだ。この戦略の産物は、読者がいまAI味と呼んでいるものと区別がつかない。もともと同じ制約から育ったものだからだ。
このアプリは5月にAI機能も出している。会社の説明は読者のためのアシスタントで、要約もできれば質問もでき、雑談もできる。この機能の存在は問題の背景であって原因ではない。あらゆる非難に、もっともらしい経路を与えてしまう。レビューが生成されたと証明する必要はなく、生成され得たと指摘すれば足りる。
この非対称性が議論を終わらせない。疑う側はアプリ自身のアシスタントを指させる。疑われた側は何も指せない。入力欄に書き手の身元を証明するものは入っていないからだ。片方には道具があり、片方には語気しかない。議論が荒れるのは当然だった。
そして著者の側
10月、ある読者が本に中の上くらいの評価をつけ、著者から直接メッセージが届いた。評価を変えてほしいという内容だった。スクリーンショットは1700以上のいいねと数百のコメントを集め、反応の中心は評価そのものではなく、変えろと言ってきた行為に向かった。書いた人がコメント欄を見張り始めたという事実のほうが、一件のメッセージより記録に値する。
三つの話を並べると、パターンが見える。コメント欄は社交の場として設計され、製品指標として測定され、いまは公共フォーラムのように取り締まられている。三つの枠組みはそれぞれ別の直し方を要求するのに、このアプリはずっと二番目で走り、三番目で管理してきた。客間と棚と広場を同時に兼ねた空間は、どれとしても中途半端になる。
読者が実際に求めているもの
不満を丁寧に読むと、要求はAIを追い出すよりずっと狭い。おおむねこうだ。自分なりの反応を持つ前に、他人の反応を差し出さないでほしい。その反応を並べるなら、何のために並べているのか教えてほしい。どちらも検出の話ではなく、画面のどこに何をいつ置くかという話だ。
ネタバレにはきれいな解がある。読書進捗フィルターで、いま開いているページより先のコメントを隠す。すでにそうしているアプリもある。仕組みは単純で、スイッチ一つとデータモデル一つ。難しいのはデータモデルのほうだ。アプリは各読者が各本のどこにいるかを知り、240ページに紐づいたコメントが30ページの人に何を明かしてよいかを決めなければならない。同じ一文に、二人分の権限が要る。
微信読書はもともとその位置を追跡している。端末をまたいで進捗を同期しているからだ。携帯からタブレットに切り替えても続きから読める。情報はすでにある。足りないのは誰が何を見てよいかという規則で、そういう規則は製品チームの内部では政治になる。エンゲージメントを測っているまさにその画面で、エンゲージメントを下げるからだ。コメントを半分隠せば、数字は必ず落ちる。
AIの問題にきれいな解はない。検出は当てにならず、非難は安く、誤検出の代償はすべて疑われた側が払う。レビューに生成の印を付け始めたプラットフォームは、次の一年、その印について議論し続けることになる。議論のたびに、印の信頼は少しずつ削れる。
もっと面白い選択肢は、レビューを並べ替えるのをやめることだ。おすすめ値は会話をランキングに変える。そしてランキングは、文章を生成的見た目にする性質をちょうど報いる。新着順だけ、あるいは同じ一文を何人がハイライトしたかだけで並ぶ空間は、最高のレビューを浮かび上がらせる力は落ちる。だがはるかに遊びにくく、書く人に同じ口調を真似させる圧力も生まない。
居心地の悪いバージョン
この話には、何も生成されていなかったという版もある。騒ぎ全体が一つの文体についての話だったという版だ。中国語の書評には独自の作法があり、それは紙の時代に育った。そしてその作法は、いま人々がモデルの文章として認識するものと重なっている。対称の構造、清潔な結論、末尾に置かれた情緒の山、そしてうまく決まる最後の一文。
もしそうなら、教訓はAIの版より始末が悪い。ネット書評のハウススタイルはもともと機械の形をしていて、モデルはそれを私たちから学んだということになる。読者はジャンルを見分けているのであって、そのジャンルは十年かけてずっと機械的になってきた。大規模言語モデルがなくても、同じ方向に進んでいた。
どちらにせよ、コメント欄はいま、読者が互いの綻びを探す場所になった。図書館の隣にそんなものを建てたのは奇妙な話だ。本は変わっていない。余白が変わった。
関連記事
フアン抜きの初決算、聞くべきは四半期の数字ではない
四半期の数字はほぼ決まっている。問題は次の4四半期で、暫定CEOにそれを説明する電話会議は一度しかない。
ジェンスン・フアンが去った日、Nvidiaは25%安くなった
決算は崩れず注文も逃げていないのに、市場は創業者プレミアムを切り離し、Nvidiaから25%を削った。
中国製 Android のシステム UI に載った広告を切る、コミュニティ管理のタップ表
システムには触らず、アンロックも書き込みもしない。ベンダーがもともと用意したスイッチを一つずつ倒すだけだ。代償は、この一覧を書き続ける人が要ることにある。
GPT Image 2.6 はトークン単価を据え置き、請求額を上げた
GPT Image 2.6 は 2.5 のトークン単価をすべて引き継ぎながら、1 枚あたりの費用は上がった。仕事の多くが出力トークン側に移ったからだ。11 日目の価格構造は、ランキングより多くを語る。