모두가 리뷰가 AI라고 의심하기 시작한 독서 앱

위챗두서는 중국에서 가장 큰 독서 앱이고, 가장 개성적인 기능은 책 안이 아니라 책 옆에 있다. 다른 사람의 밑줄과 댓글이 본문을 따라 흐르는 그 층이다. 페이지 가장자리의 좁은 한 줄에 낯선 사람들의 글씨가 빽빽하게 늘어선다. 소설을 읽는 동안 수천 명이 어깨 너머로 같이 읽고 있고, 마음에 드는 문장에서 멈춰 자기 생각을 거기 붙여 놓는다.
오랫동안 이 층은 이 앱에서 가장 좋은 부분이었다. 말로 다 못 한 문장을 대신 밑줄 그어 주는 사람이 있었고, 농담 아래에 더 독한 한마디를 붙이는 사람이 있었다. 그 층이 이번 달에 논쟁의 현장이 되었다.
계기는 작았다. 한 독자가 아가사 크리스티 소설을 친구에게 권했고, 친구는 이렇게 보고했다. 앱이 1장이 시작되기도 전에 결말을 드러냈다고. 본문으로 들어가는 길에 댓글창이 뒤쪽 전개의 이야기를 먼저 펼쳐 놓았기 때문이다. 11월 11일에 올라온 이 불평은 널리 공유되었지만, 지금 돌아다니는 불만들 가운데 가장 재미없는 항목이다. 스포일러는 제품 설계로 고칠 수 있는 문제이고, 그 뒤의 이야기들은 그렇지 않다.
비난은 양방향으로 간다
그 전날에는 반대 주장을 하는 글이 하나 있었다. 댓글창이 모델이 쓴 것처럼 읽히는 리뷰로 가득 찼다는 것이다. 상투적인 도입, 지나치게 정돈된 3단 구성, 감상에서 시작해 배경을 거쳐 마무리로 올라가고, 마지막 문단에서 감정적 전환을 넣고는 아무것도 해결하지 않는다. 그리고 아픈 것은 그 뒷부분이다. 정성껏 쓰는 독자가 AI라는 의심을 받고 있다. 문장이 매끄럽고, 문장부호가 정확하고, 문단에 논리가 있다는 이유로 낯선 사람에게 지목된다.
이것이 새로운 사회적 역학이다. 한 공간에 생성된 텍스트가 충분히 많아지면 증명의 부담은 사람에게로 옮겨간다. 문체가 증거가 된다. 잘 정리된 문단은 수상하다. 깔끔한 요약은 신호다. 일부러 오타를 두 개 남겨야 사람처럼 보이는 시대로 반 발짝 들어선 셈이다.
댓글이란 누군가 소리 내어 생각한 것이라는 전제 위에 세워진 공간이므로, 이 변화의 타격은 구체적이다. 댓글창의 가치는 누군가 굳이 수고를 했다는 사실에서 나왔다. 그 수고를 대규모로 위조할 수 있다면 남는 신호는 글쓴이가 치른 비용뿐인데, 비용은 스크린샷에서 보이지 않는다. 잘 쓴 문장이 3분에 나왔는지 3시간에 나왔는지 알아낼 방법은 없다.

지표가 일을 더 키웠다
위챗두서는 댓글을 보여 주는 데 그치지 않는다. 추천값을 계산하고, 고평가 순위표도 유지한다. 추천값이 높은 리뷰는 책을 그 순위표로 밀어 올리고, 순위표는 다시 사람들을 책으로 보낸다. 올해 8월에는 973자짜리 장문 리뷰가 92%가 넘는 추천값을 받았다는 이야기가 돌았고, 그 책은 훨씬 많은 독자 앞에 놓였다. 숫자는 예쁘고 구조는 명확하다.
그런 지표는 독서와 무관한 동기를 만든다. 구조가 반듯하고 감정이 닿고 결론이 살짝 모호한 리뷰가 높은 점수를 받는다면, 구조가 반듯하고 감정이 닿고 결론이 살짝 모호한 리뷰를 생산하는 것이 합리적 전략이 된다. 사람이 하든 스크립트가 하든 같다. 그 전략의 산물은 독자들이 요즘 AI 냄새라고 부르는 것과 구별되지 않는다. 애초에 같은 제약에서 자란 것들이니까.
이 앱은 5월에 AI 기능도 내놓았다. 회사 설명은 독자를 위한 비서였고, 요약도 하고 질문도 받고 대화도 한다. 이 기능의 존재는 문제의 배경이지 원인이 아니다. 모든 비난에 그럴듯한 경로를 붙여 준다. 리뷰가 생성되었다는 것을 증명할 필요 없이, 생성될 수 있었다고 지적하면 충분해진다.
이 비대칭이 논쟁을 끝나지 않게 만든다. 의심하는 쪽은 앱 자체의 비서를 가리킬 수 있다. 의심받는 쪽은 가리킬 것이 없다. 입력창 안에 글쓴이의 신원을 증명하는 물건은 없기 때문이다. 한쪽에는 도구가 있고 한쪽에는 어조만 있다. 싸움이 험해지는 것은 당연하다.
그리고 저자 쪽
10월, 한 독자가 책에 중간 정도의 평점을 남겼고, 저자에게서 쪽지가 왔다. 평점을 바꿔 달라는 내용이었다. 스크린샷은 좋아요 1700개가 넘고 댓글 수백 개를 모았으며, 반응의 중심은 평점이 아니라 바꿔 달라고 요구한 행위였다. 책을 쓴 사람이 댓글창을 지켜보기 시작했다는 사실이 쪽지 한 통보다 기록할 만하다.
세 이야기를 나란히 놓으면 패턴이 보인다. 댓글창은 사교 공간으로 설계되었고, 제품 지표로 측정되었고, 지금은 공론장처럼 관리되고 있다. 세 가지 틀은 각각 다른 해법을 요구하는데, 이 앱은 계속 두 번째로 달리면서 세 번째로 관리해 왔다. 거실과 진열대와 광장을 동시에 맡은 공간은 결국 어느 쪽도 제대로 하지 못한다.
독자들이 실제로 요구하는 것
불만을 천천히 읽어 보면 요구는 AI를 없애 달라는 것보다 훨씬 좁다. 대체로 이렇다. 내 반응을 만들기 전에 남의 반응을 들이밀지 말아 달라. 그 반응을 정렬하려면 무엇을 위해 정렬하는지 알려 달라. 둘 다 탐지의 문제가 아니라 화면 어디에 무엇을 언제 놓을지의 문제다.
스포일러에는 깔끔한 해법이 있다. 읽기 진행률 필터로, 지금 펼친 페이지를 넘어선 댓글을 감추는 것이다. 이미 그렇게 하는 앱도 있다. 비용은 스위치 하나와 데이터 모델 하나인데, 어려운 쪽은 데이터 모델이다. 앱은 각 독자가 각 책의 어디쯤인지 알아야 하고, 240쪽에 붙은 댓글이 30쪽에 있는 사람에게 무엇을 밝혀도 되는지 판단해야 한다. 같은 문장에 두 사람 몫의 권한이 필요한 셈이다.
위챗두서는 원래 그 위치를 추적한다. 기기를 넘나들며 진행률을 동기화하기 때문이다. 휴대폰에서 태블릿으로 옮겨도 이어서 읽힌다. 정보는 이미 있다. 없는 것은 누가 무엇을 봐도 되는지에 대한 규칙이고, 그런 규칙은 제품 팀 안에서 정치가 된다. 참여도를 재는 바로 그 화면에서 참여도를 떨어뜨리기 때문이다. 댓글 절반을 감추면 숫자는 반드시 빠진다.
AI 문제에는 깔끔한 해법이 없다. 탐지는 믿을 수 없고, 비난은 싸고, 오탐의 대가는 전부 의심받은 사람이 치른다. 리뷰에 생성 표시를 붙이기 시작한 플랫폼은 다음 한 해 동안 그 표시를 두고 싸우게 된다. 싸울 때마다 표시의 신뢰는 조금씩 깎인다.
더 흥미로운 선택지는 리뷰 정렬을 아예 그만두는 것이다. 추천값은 대화를 순위표로 바꾸고, 순위표는 글을 생성된 것처럼 보이게 만드는 성질을 정확히 보상한다. 최신순으로만, 또는 같은 문장을 몇 명이 밑줄 그었는지로만 정렬하는 공간은 최고의 리뷰를 끌어올리는 힘은 약해지겠지만, 훨씬 놀기 어렵고 글 쓰는 사람에게 같은 말투를 흉내 내라는 압력도 만들지 않는다.
불편한 버전
이 이야기에는 아무것도 생성되지 않았다는 판본도 있다. 소란 전체가 하나의 문체에 관한 이야기였다는 판본이다. 중국어 서평에는 고유한 관습이 있고, 그것은 종이 매체 시절에 자랐다. 그리고 그 관습은 지금 사람들이 모델의 문장으로 알아보는 것과 겹친다. 대칭 구조, 깨끗한 결론, 끝에 놓인 감정의 마루, 잘 마무리되는 마지막 한 문장.
만약 그렇다면 교훈은 AI 판본보다 더 나쁘다. 온라인 서평의 하우스 스타일이 애초에 기계의 모양이었고, 모델이 우리에게서 그것을 배웠다는 뜻이 된다. 독자는 하나의 장르를 감지하고 있고, 그 장르는 십 년 동안 계속 더 기계적으로 변해 왔다. 대규모 언어 모델이 없어도 같은 방향으로 가고 있었다.
어느 쪽이든 댓글창은 이제 독자들이 서로의 허점을 찾는 곳이 되었다. 도서관 옆에 그런 것을 세워 놓은 것은 이상한 일이다. 책은 변하지 않았다. 여백이 변했다.
관련 글
중국산 안드로이드 시스템 UI의 광고를 끄는, 커뮤니티가 관리하는 탭 표
시스템을 건드리지 않고, 잠금 해제도, 플래싱도 하지 않는다. 제조사가 이미 열어 둔 스위치를 하나씩 뒤집을 뿐이다. 대가는 이 목록을 계속 써 줄 사람이 필요하다는 것이다.
GPT Image 2.6, 토큰 단가는 그대로 두고 청구서를 올렸다
GPT Image 2.6은 2.5의 토큰 단가를 하나도 바꾸지 않았는데 이미지 한 장 값은 올랐다. 작업의 상당 부분이 이제 출력 토큰에서 일어나기 때문이다. 출시 11일째, 가격 구조가 순위표보다 많은 것을 말한다.
IDM을 바깥에서 다시 만든 사람이 손대지 않은 부분을 적어 두었다
Mister Download Manager는 Internet Download Manager의 흐름을 Rust로 다시 구현해 5배 속도와 86개 언어를 내건다. 더 흥미로운 문서는 아무것도 복사하지 않고 어떻게 만들었는지 설명하는 문단이다.
Rune은 에이전트가 자기 작업을 검증할 수 있도록 만든 Rust UI 프레임워크
Rune은 헤드리스로 렌더링하고 요소 트리를 덤프하며 스크립트 입력을 받는다. 스크린샷으로는 얻을 수 없는, diff 가능한 신호를 코딩 에이전트에게 준다. 프레임워크는 프리릴리스이며 풀 리퀘스트를 받지 않는다.