100위안으로 사는 30초, 내 것이 아닌 얼굴

한 여배우가 아침에 일어났더니, 한 번도 써본 적 없는 콜라겐 세럼을 추천하는 자기 영상이 돌고 있었다. 입모양은 맞았고, 목소리는 그 배우의 작품을 아는 사람이 의심하지 않을 만큼 비슷했다. 화면 구석에 작은 글씨로 한 줄이 있었다. 이 콘텐츠에는 AI 생성물이 포함되어 있습니다.

그 계정은 10월 19일까지 사라졌다. 영구 정지였다. 사라지기 전에 그 세럼은 30일 동안 7,000개 넘게 팔렸고, 매출은 약 500,000위안이었다. 배우 Wu Yue는 웨이보에 공개적으로 물었다. 얼마나 많은 사람이 속은 거냐고.

라벨은 아무도 구하지 못했다. 거기 있었고, 보려고 하면 읽을 수 있었고, 그래도 7,000명이 스킨케어 제품을 샀다. 잠깐 그 사실을 곱씹어 볼 필요가 있다.

라벨이 붙어 있어도 팔렸다

이 일이 성립하려면 세 가지가 동시에 참이어야 했고, 그중 기술에 관한 것은 하나뿐이다.

먼저 얼굴을 구할 수 있어야 했다. Wu Yue의 공개 영상은 인터넷에 널려 있다. 인터뷰, 레드카펫, 드라마 클립. 20분이면 휴대폰 화면의 9:16 크롭을 거치고도 통하는 얼굴을 만들 수 있다.

다음으로 목소리가 비슷해야 했다. 몇 분 분량의 깨끗한 음성으로 목소리를 복제하는 건 이제 연구 과제가 아니라 상용품이다. 이 계정은 여기에 립싱크 보정과 각색한 대사를 붙였다. 배우도, 세트도, 스크립트 감독도 필요 없는 가장 싼 제작 방식이다.

그리고 라벨은 무시할 수 있어야 했다. 실제로 그랬다. 세로 영상 구석의 8포인트짜리 한 줄, 게다가 플랫폼 UI가 이미 화면 아래 3분의 1을 자막과 버튼으로 덮고 있는 곳에서 그것은 사실상 보이지 않는다. 라벨은 공개 요건을 충족했고, 아무의 행동도 바꾸지 못했다.

{{INLINE1}}

공급망에는 가격표가 있다

출처를 찾아 나선 기자들이 발견한 것은 기회주의적 사기꾼 몇 명이 아니라 훨씬 조직적인 구조였다. 대형 이커머스와 중고 거래 플랫폼의 상점들이 AI 영상 맞춤 제작을 공개적으로 광고하고, 수백 위안에서 천 위안 이상까지 견적을 냈다. 한 곳은 30초짜리 유명인 추천 영상에 100위안을 불렀고, 일주일에 팔로워 10,000명 계정을 키우는 방법까지 설명했다.

판매자들의 적법성에 대한 말은 일관되지 않았고, 그 불일치가 오히려 많은 것을 말해준다. 어떤 이들은 유명인 작업은 침해라며 아예 거절하고 범용 디지털 휴먼을 권했다. 어떤 이들은 기술적인 부분은 사소하고 어려운 건 카피와 스토리라인이라고 했다. 권리에 대해 묻자 한 명은 질문에 답하지 않고 그냥 AI 콘텐츠라고 표시하면 된다고 했다.

비즈니스 모델이 한 문장으로 여기 있다. 라벨은 법적 방어가 아니라 컴플라이언스 비용으로, 정확하게 이해되고 있었다. 즉 집행은 계정 단위에서, 판매가 끝난 뒤에만 일어날 수 있다. 실제로 그렇게 됐고, 다음 달에 다른 얼굴로 또 일어날 이유도 바로 거기에 있다.

법은 실제로 뭐라고 하는가

중국 변호사들은 라벨 문제에 대해 직설적이었다. 라벨이 답하는 것은 '이게 AI가 만든 것인가'다. '허락을 받았는가', '이게 사실인가'에는 답하지 않는다. 민법상 자연인의 초상권은 보호되고, 목소리는 초상권에 준해 보호된다. 동의 없이 타인의 얼굴과 목소리로 물건을 파는 것은 교과서적인 상업적 침해이며, 구석에 'AI 생성'을 붙인다고 면책이 생기지 않는다.

법원은 이미 규칙을 세워놓았다. 대법원의 지도 아래 내려진 한 사건에서, 한 회사가 어떤 사람의 공개 강연 영상을 가져다 그 목소리 특성에 매우 가까운 합성 음성을 입혀 추천 영상을 만들었다. 법원은 초상권과 목소리 이익 모두의 침해를 인정했다. 자료의 허락 여부를 확인하지 않은 것을 과실로 보아 공동 침해자로 판단했다. 손해배상과 비용은 합계 120,000위안, 여기에 사과가 더해졌다.

9월 7일 대법원은 AI 관련 분쟁 심리에 관한 의견을 발표했고, 여기에는 얼굴 합성, 목소리 복제, 고인을 AI로 재현하는 문제가 구체적으로 다뤄졌다. 방향은 일관된다. 축은 동의이지 공개가 아니다.

격차는 집행 속도에 있고, 그것은 구조적이다. 영상은 오후 한나절이면 만들어지고, 2주 동안 팔리고, 신고가 들어오면 삭제된다. 매출은 권리를 주장할 자격이 있는 누군가가 알기 전에 이미 걷힌다.

예외적인 사건이 아니다

Wu Yue의 이야기가 세상에 알려진 그 사건이지만, 패턴은 더 넓다. 또 다른 배우 Wen Zhengrong은 자신의 얼굴로 된 AI 라이브 방송을 발견하고 운영자에게 따졌다가 차단당했다. Kenneth Fok은 자신의 목소리와 외모가 추출돼 짧은 영상으로 만들어졌고, 자기 동료들조차 한참 보다가 알아챘다고 말했다. Jin Dong의 얼굴은 확인할 능력이 가장 없는 고령 시청자를 겨냥하는 데 쓰였다.

공통점은 이 대상들이 하나같이 무명이 아니라는 것이다. 무언가를 팔 수 있을 만큼 알려져 있고, 모든 클립을 감시하기에는 너무 널리 흩어져 있다. 예전에는 유명세가 방어막이었다. 잘 알려진 얼굴은 위조하기 어렵다. 지금은 훈련 자료의 공급원이다.

더 나빠졌다가 나아지는 버전도 있다. 설득력 있는 유명인 광고를 만드는 도구는 중간 규모 인플루언서, 동네 의사, 학교 교장의 설득력 있는 '추천'도 만들어낸다. 그들에게는 언론 창구도 법무팀도 없고, 그들의 청중은 더 작아서 오히려 더 잘 믿는다.

실제로 도움이 될 것

네 가지다. 새로운 건 하나도 없고, 전부 매력적이지 않다.

라벨을 게시물이 아니라 이미지의 일부로 만든다. 프레임에 구워 넣은 눈에 보이는 표시는 스크린샷과 재업로드, 압축 체인을 견딘다. 캡션은 못 견딘다.

수익화 지점에서 본인 확인을 요구한다. 게시 지점이 아니라. 중요한 병목은 딥페이크를 업로드하는 것이 아니라 결제 수단을 연결하고 수익을 받는 순간이다. 감시할 면적이 훨씬 작고, 500,000위안이 오간 곳도 거기다.

얼굴이 쓰인 사람에게 빠른 통로를 준다. 대기열로 흘러가는 일반 신고 양식이 아니라, 공인이 합성 추천을 표시하면 몇 시간 안에 동결되는 인증된 경로. 일부 플랫폼은 조각을 갖고 있다. 2주짜리 판매 창구 안에 의미가 있을 만큼 빠른 곳은 거의 없다.

그리고 라벨을 답으로 취급하는 것을 그만둔다. 공개는 시청자에 대한 예의다. 동의가 실제 규칙이고, 구석의 글자를 아무리 늘려도 그것을 대신하지 못한다.

불편한 부분

7,000명이 세럼을 샀다. 그들이 아는 얼굴이 좋다고 말했기 때문에. 이 경제학은 미묘하지 않다. 믿을 만한 얼굴의 설득력 있는 가짜는 대부분의 정당한 광고보다 성과가 좋고, 만드는 데 100위안이 든다.

그러니까 질문은 플랫폼이 모든 합성 추천을 잡아낼 수 있느냐가 아니다. 못 잡는다. 연구소들도 그렇게 말했다. 질문은 잡힐 때의 비용이 만드는 비용보다 빨리 오르느냐다. 지금은 아니다. 그리고 구석에 놓인 그 라벨은, 누가 이걸 얼마나 진지하게 예상했는지를 꽤 정확하게 보여주는 척도다.