AI가 그린 세계 1만1064종의 새, 탐조인들이 먼저 본 건 눈썹이었다

11월 초, 탐조 커뮤니티가 이미지 한 묶음에 들썩였다.
한 탐조 기록 앱이 AI로 전 세계 11064종의 새를 그린 “실사풍 스티커 이미지”를 만들었다고 홍보했다. 천여 종에 천여 장, 듣기에는 오래된 이미지 부족 문제를 한 번에 해결한 것처럼 들린다. 조류 식별이나 과학 커뮤니케이션을 하는 사람은 안다. 세계 조류 종의 상당수는 표본 사진이나 손그림, 또는 수십 년 전 필름으로만 남아 있어 일반인이 볼 방법이 없다. 그 구멍을 메우겠다는 사람이 나오는 건 앞뒤가 맞는 일이다.
반발은 빠르게 왔다. 오래 새를 관찰해 온 한 필자가 펑파이에 글을 올렸다. 화의 핵심은 “AI를 썼다”가 아니라, 상대의 샤오홍슈 광고 게시물만 슬쩍 봐도 보이는 지점이었다. 노란눈썹펭귄의 눈썹이 틀렸다는 것이다. 펭귄의 눈썹 부위 형질은 이 분류군을 나누는 핵심 중 하나라, 잘못 그리면 미관 문제가 아니라 식별 문제가 된다.
그림은 AI가 그렸고, 검수도 AI가 했다
탐조인들이 실제로 신경 쓰는 건, 이 이미지들이 제작부터 검수까지 아무도 제대로 보지 않았다는 점이다.
종 사이의 차이는 몇 퍼센트의 세부에 있다. 눈썹선의 길이, 첫째날개깃이 드러난 비율, 부리의 휘어진 정도, 부척의 색. 생성 모델이 가장 쉽게 뭉개는 지점이고, 학습에서 본 “새”는 대부분 구도가 좋은 사진 작품이지 측정 표기가 붙은 표본 사진이 아니다. 모델이 배운 것은 “새처럼 보인다”이지 “이건 어떤 멧새”가 아니다.

이런 이미지를 식별 도구와 교육 자료에 넣으면 생기는 일은 못생겨 보이는 게 아니다. 오류가 참조 기준으로 굳는다. 사용자는 그것과 대조하고, 대조할수록 어긋난다. 입문자는 틀린 그림을 먼저 외우고, 나중에 고치는 데 몇 배의 노력이 든다. 필자가 쓴 표현은 “데이터 오염”인데, 정확하다.
한 겹이 더 있다. 이 이미지는 AI가 그리고 AI가 검수했다. 모델로 모델의 출력을 검사하는 것은 같은 편향이 스스로 서명하는 셈이다. 하려면 최소한 사람이 표본을 뽑아 확인하는 단계를 넣고, 틀리기 쉬운 분류군은 따로 묶어 재확인해야 한다.
학습과 다시 그리기는 다른 문제다
두 번째 쟁점은 저작권이다.
필자는 이 이미지들이 상당한 수의 사진을 원형으로 가져왔다고 지적한다. 사진을 모아 모델을 학습시키는 것과, 허락 없이 사진을 가져다 다시 그리는 것은 다른 일이다. 전자는 대부분의 관할에서 아직 회색지대이고, 후자는 복제로 인정되기 쉽다. 다시 그리기가 원본을 강하게 참조하고 결과물이 원작과 비슷하면, 그것은 “조금 바꾼 복제품”에 가깝지 “독립 창작”이 아니다. 이 프로젝트는 상업화 가능성도 있다. 코드가 오픈소스여도 성격이 오픈소스라서 달라지지는 않는다.
경계는 그렇게 복잡하지 않다. 모델이 방대한 이미지에서 “새는 어떻게 생겼나”를 배우는 것과, 모델이 사진 한 장을 들여다보며 구도와 자세와 빛을 그대로 옮기는 것은 다른 행위다. 전자는 학습, 후자는 모사다. 차이는 그 과정에 특정할 수 있고 지목할 수 있는 원작이 있느냐다.
실무적인 제안 하나
필자의 제안은 비판보다 적어 둘 가치가 있다. 굳이 AI로 새를 그려야 한다면, 사실적이지 않은 화풍으로 바꾸라는 것이다.
이 한마디로 문제의 절반 이상이 정리된다. 일러스트풍, 판화풍, 색면 콜라주, 극단적으로 단순한 실루엣. 보는 사람은 한눈에 사진이 아님을 알고, 식별 근거로 쓰지 않는다. 데이터 오염의 전제는 “진짜로 오인되는 것”이고, 화풍에서부터 도해라고 선언하면 그 전제가 사라진다. 물론 사실적으로 해도 되지만, 그러면 11064장을 한 장씩 확인해야 한다. 비용은 직접 계산하면 된다.
그는 한마디를 더, 꽤 정중하게 덧붙인다. 프로그래밍과 자연은 완전히 다른 세계이고, 다른 세계에 들어가면서 그 규칙을 지키지 않고 그 세계를 위해 일한다고 말하면 속이 탄다고.
같은 주, 샤오홍슈는 다른 “진짜처럼 보임”을 정리하고 있었다
탐조 건이 “정확해야 한다”에 AI 생성 이미지가 부딪힌 사안이라면, 샤오홍슈의 이번 단속이 부딪힌 것은 “진짜여야 한다”다.
11월 5일 전후로 샤오홍슈는 콘텐츠 특별 정리에 들어가며, AI로 유명인을 사칭해 상품을 파는 행위를 이번 중점으로 잡았다. 대상은 두 갈래다. 하나는 AI 얼굴 합성으로, 유명인의 얼굴을 판매 영상에 합성해 본인이 추천하는 것처럼 보이게 하는 것. 다른 하나는 AI 음성으로, 유명인의 목소리를 복제해 편집된 소재에 얹어 상품 소개를 읽게 하는 것.
조치는 게시물과 계정 양쪽에 적용된다. 위반 게시물은 즉시 내리고 노출을 멈춘다. 반복 게시한 계정은 노출을 제한하고 상업 권한을 조정하며, 정도가 심하면 정지한다. 유명인의 특징을 의도적으로 흉내 내거나, AI로 비슷하게 생긴 인물을 만들어 판매하는 경계선 사례도 점검 대상에 들어간다.
이 조치의 논리는 탐조 건과 통한다. 소비자는 얼굴을 보고 목소리를 듣고 “이 사람을 알고, 이 사람 말이라면 믿는다”고 판단한다. AI는 이 경로를 아주 매끄럽게 만들었다. 너무 매끄러워서 중간에 진짜가 필요한 단계가 하나도 없다. 상품에 문제가 생겨 구매자가 책임을 물으려 하면, 본인은 그 판매에 관여한 적이 없다는 사실이 드러난다. 그 시점에 책임 소재는 이미 흐려져 있다.
양쪽 모두 같은 구멍을 메우고 있다
두 사건을 나란히 놓으면, 메우는 빈자리가 같은 종류임을 알 수 있다.
조류 도감에 그림이 없는 건 찍을 수 없고, 살 수 없고, 라이선스를 못 받기 때문이다. 판매 영상에 사람이 없는 건 부를 수 없고, 너무 비싸고, 일정이 안 맞기 때문이다. AI는 두 자리 모두에서 유능하고, 비용은 계산할 필요가 없을 만큼 낮고, 속도는 몇 달 대 몇 시간이다. 문제는 두 빈자리의 성격이 다르다는 점이다. 한쪽이 모자란 것은 “도해”이고, 다른 쪽이 모자란 것은 “보증”이다.
도해는 AI로 해도 된다. 도해라고 분명히 표시하면 된다. 보증은 AI로 하면 안 된다. 보증의 가치는 “이 사람이 실제로 그렇게 생각한다”에 전부 걸려 있다. 후자를 모델에 맡기는 것은 거래의 전제를 뽑아내는 일이다.
중국은 10월 1일부터 생성·합성 콘텐츠 표시 규정을 시행해, 명시적 표시와 내장 메타데이터 두 가지를 요구한다. 현장에서 얼마나 효과가 있을지는 플랫폼이 트래픽과 컴플라이언스 사이에서 어느 쪽을 택하느냐에 크게 달려 있다. 샤오홍슈의 이번 정리는 한 가지 표본을 보여 줬다. 먼저 트래픽을 건드리고, 표시는 나중에 이야기한다. 표시는 사후에 확인할 수 있지만, 노출 제한은 사전에 아프다.
콘텐츠 만드는 사람에게 하는 솔직한 말
첫째, 데이터셋, 도감, 교육 자료 같은 것은 AI가 초안과 자리 채우기에 알맞고 최종본에는 알맞지 않다. 실제로 내보낼 것이라면 사람이 확인하는 비용을 예산에 넣어야 하고, 아낄 수 없다.
둘째, 화풍 자체가 하나의 선언이다. 사실화는 “이건 진짜”라는 약속이고, 일러스트는 “이건 그림”이라는 선언이다. 무엇을 골라도 되지만, 잘못 고르고 나서 보는 사람의 오해를 탓하면 안 된다.
셋째, 실존 인물의 얼굴과 목소리가 걸리면 허락에 지름길은 없다. 샤오홍슈의 이번 움직임은 플랫폼이 사칭당한 쪽을 대신해 나서기 시작했다는 뜻이다. 다른 사람의 신고를 기다리는 대가는 사전에 허락을 받는 것보다 훨씬 비싸다.
눈썹을 잘못 그린 그 노란눈썹펭귄은 결국 꽤 값비싼 경고가 됐다. 모델은 새처럼 보이는 그림을 10만 장 그릴 수 있다. 하지만 어느 한 장이 새를 가르치는 데 쓸 수 있는 그림인지는 모른다.
관련 글
중국산 안드로이드 시스템 UI의 광고를 끄는, 커뮤니티가 관리하는 탭 표
시스템을 건드리지 않고, 잠금 해제도, 플래싱도 하지 않는다. 제조사가 이미 열어 둔 스위치를 하나씩 뒤집을 뿐이다. 대가는 이 목록을 계속 써 줄 사람이 필요하다는 것이다.
GPT Image 2.6, 토큰 단가는 그대로 두고 청구서를 올렸다
GPT Image 2.6은 2.5의 토큰 단가를 하나도 바꾸지 않았는데 이미지 한 장 값은 올랐다. 작업의 상당 부분이 이제 출력 토큰에서 일어나기 때문이다. 출시 11일째, 가격 구조가 순위표보다 많은 것을 말한다.
IDM을 바깥에서 다시 만든 사람이 손대지 않은 부분을 적어 두었다
Mister Download Manager는 Internet Download Manager의 흐름을 Rust로 다시 구현해 5배 속도와 86개 언어를 내건다. 더 흥미로운 문서는 아무것도 복사하지 않고 어떻게 만들었는지 설명하는 문단이다.
Rune은 에이전트가 자기 작업을 검증할 수 있도록 만든 Rust UI 프레임워크
Rune은 헤드리스로 렌더링하고 요소 트리를 덤프하며 스크립트 입력을 받는다. 스크린샷으로는 얻을 수 없는, diff 가능한 신호를 코딩 에이전트에게 준다. 프레임워크는 프리릴리스이며 풀 리퀘스트를 받지 않는다.