'AI 티'의 세 가지 균열 — 4픽셀 어긋남, 보이지 않는 도장, 이름 없는 자리

먼저 결론부터

지난 2주 동안 겉보기에 전혀 무관해 보이는 뉴스 세 개가 나왔다. 그런데 사실은 같은 이야기다.

10월 7일, Google이 자사 SynthID 워터마크 탐지기를 누구나 쓸 수 있게 열었다. 10월 9일, Nikon이 현미경 이미지 공모전 1위 수상을 취소했다. 누군가 영상에서 워터마크를 검출했기 때문이다. 거의 같은 시기, 코딩 에이전트용 도표를 만들어 주는 오픈소스 프로젝트가 GitHub 트렌드에 올랐다. 홍보 문구는 이랬다. “그림자 없음, Mermaid 안 씀, 모든 간격은 4로 나누어떨어져야 함.”

탐지, 책임, 미감. 그런데 셋을 겹쳐 놓으면 ‘AI 티’는 더 이상 요상한 단어가 아니다. 구체적인 출처가 셋 있다. 정렬, 출처, 크레딧. 앞의 둘은 고칠 수 있다. 세 번째는 어렵다.

균열 하나: 4픽셀 차이

그 도표 프로젝트 이름은 Diagram Design이고, 만든 사람은 Cathryn Lavery다. 규칙이 하나 있는데, 듣기에 지루하기 짝이 없다. 모든 좌표와 너비, 간격이 4로 나누어떨어져야 한다.

그녀의 말에 따르면 이것이 결과물이 “AI가 만든 것처럼 보이지 않게” 하는 핵심이다. 곱씹어 볼 만하다. 박스가 137픽셀인지 136픽셀인지는 눈치채지 못한다. 하지만 “뭔가 이상하다”는 느낌은 든다. 이유는 말할 수 없지만. 사람의 눈은 어긋난 것에 극도로 민감하다. 다만 그 민감함이 ‘명확한 판단’이 아니라 ‘흐릿한 불편함’으로 보고될 뿐이다.

그래서 AI가 만든 이미지의 첫 번째 ‘가짜’는 내용이 아니라 리듬에 있다. 사람 디자이너는 간격을 리듬 있는 값의 묶음으로 잡는다. 모델은 13.5, 27, 54처럼 “대충 맞아 보이는” 숫자를 내놓는다. 그 ‘대충’이 전부다.

좋은 소식은 이 층이 고치기 가장 쉽다는 것이다. 규칙을 정하고, 그리드를 깔고, 간격을 변수로 만들면 된다. 전부 엔지니어링 문제다.

균열 둘: 보이지 않는 도장

SynthID는 미디어 파일에 심어 넣은 보이지 않는 워터마크다. 눈으로 볼 수 없고, 압축하거나 잘라도 대개 남아 있다. 10월 7일 이후로는 누구나 이미지, 영상, 오디오를 올려서 이 도장이 있는지 확인할 수 있다. 대상은 Google 자체 모델에 그치지 않는다. OpenAI, Nvidia, Kakao도 포함되고, Apple도 곧 합류한다고 한다.

그런데 이 도장을 공적인 사건으로 만든 건 Nikon 쪽이었다.

Nikon의 Small World in Motion 공모전은 섬모가 움직이는 현미경 영상에 1위를 줬다. 제작자는 Xu Ning이고, 원발성 섬모 운동 이상증을 앓는 아이의 기도 조직을 찍은 것이다. 결과가 발표되자 과학자들이 흠을 잡기 시작했다. 보라색 구조가 갑자기 나타났다 사라진다는 사람, 초록색 섬모가 “어디선가 불쑥 튀어나온다”는 사람. UT Southwestern Medical Center의 박사과정 학생이 소재를 Gemini에 돌려 SynthID를 검출했다.

Xu Ning의 설명은 이렇다. AI는 후반 작업에만 썼고, 재구성한 그레이스케일 데이터에서 모양이 비슷한 구조를 분리해 색을 입혔을 뿐이며, 원본 영상과 섬모의 움직임 자체는 진짜라는 것이다. Nikon의 대응은 상당히 절제돼 있었다. “이번 대회의 생성형 AI 규정에 부합하지 않는다”고만 했고, 문제를 참가 자격으로 한정했으며, 이것이 제작자의 학술적 명성이나 의도에 대한 판단은 아니라고 분명히 밝혔다. 순위는 이후 조정됐고 작품은 수상 갤러리에서 내려갔다.

가장 곤란한 지점은 현미경 이미징에는 원래 처리가 필요하다는 것이다. 노이즈 제거, 디컨볼루션, 가색상은 “뭔가를 볼 수 있게” 만드는 필수 단계다. 그래서 Nikon이 그어야 할 선은 “AI를 썼느냐”가 아니라 “처리가 원래 없던 것을 더했느냐”였다. 워터마크는 그 질문에 답하지 못한다. “어떤 도구가 이 파일을 건드렸다”고만 말할 뿐이다.

다른 사건은 더 일상적이다. Fortnite에 ‘Meow’라는 곡이 올라왔는데, 커버 오른쪽 아래에 Gemini 워터마크가 있었다. 플레이어들이 발견했고 이미지는 교체됐다. 유통사는 아티스트가 준 이미지라고 했고, 아티스트는 전혀 몰랐다고 했다. 플랫폼이 조작했다고 비난한 사람은 없었다. 워터마크는 아주 작은 기능 하나를 해냈다. 이 파일을 누가 건드렸는지 알려 준 것. 나머지는 SNS 반응이 알아서 자라났다.

균열 셋: 아무도 이름을 걸지 않는다

세 번째 층은 고치기 가장 어렵다. 기술 문제가 아니기 때문이다.

Wired가 이번 달 보도한 바에 따르면, 미국 5대 출판사 가운데 최소 세 곳—HarperCollins, Simon & Schuster, Hachette—이 공개적으로 알리지도, 저자에게 통보하지도 않은 채 AI 도구를 썼다. 쓰인 곳은 표지뿐 아니라 문학 에이전트에게 보내는 메일, 홍보 문구, 뒤표지 문구, 마케팅 자료까지였다. 직원들 말로는 상당수가 경영진의 지시였다.

세 곳의 답변이 흥미롭다. Hachette은 저자의 책이 더 많은 독자에게 닿도록 돕는 ‘운영적’ 업무에 AI를 쓰는 것은 지지하지만, “저자 및 파트너와의 커뮤니케이션을 포함한 창작 목적의 AI 사용은 지지하지 않는다”고 했다. 문제는 에이전트에게 메일을 쓰는 건 운영이고 뒤표지 문구는 창작인데, 그 선은 자사 직원들 말로 이미 넘어졌다는 것이다. Simon & Schuster는 직원이 제한된 수의 기업용 도구를 쓸 수 있고, 강제는 아니며, 승인되지 않은 도구는 금지라고 했다. 하지만 ‘강제가 아님’과 ‘일어나지 않음’은 다른 얘기다. HarperCollins는 답하지 않았다.

표지가 민감한 이유는 출판 과정에서 이름이 분명히 붙는 몇 안 되는 지점이기 때문이다. 일러스트레이터에겐 포트폴리오가 있고 단가가 있고 에이전트가 있다. 외주 한 건을 생성으로 대체하면 아끼는 건 돈만이 아니다. 신인이 이 업계에 들어오는 문 하나가 사라지는 것이다. 그리고 표지에 이름이 인쇄되는 저자는 대개 그 표지가 어디서 왔는지 마지막에 아는 사람이다.

이 층에는 기술적 해법이 없다. 워터마크는 어떤 도구가 파일을 건드렸음을 증명하고, 그리드는 이미지를 더 사람이 만든 것처럼 보이게 한다. 하지만 “이 이미지를 누가 만들었고, 그 사람이 크레딧을 받았는가”는 제도만 답할 수 있다. 판권 페이지에 한 줄, 계약서에 한 조항, 메타데이터에 한 필드.

그래서 한 장의 이미지가 ‘AI가 만든 것 같은지’ 어떻게 판단할까

먼저 골격을 본다. 정렬, 간격, 여백에 리듬이 있는가. 이 층이 8할이고, 거의 전부가 규칙에 달려 있지 모델에 달려 있지는 않다.

다음은 흔적이다. 그 보이지 않는 도장이 있는가, 파일에 추적 가능한 내력이 있는가. 이 층은 도구화가 진행 중이고, 일반인이 쓰기도 점점 쉬워지고 있다.

마지막은 크레딧이다. 누가 만들었고, 누가 승인했고, 누가 서명했는가. 이 층에는 도구가 없다. 습관만 있다.

앞의 두 층은 기술로 메울 수 있다. 세 번째는 못 메운다. 누군가 자기 이름을 올리겠다고 나설 때만 고쳐진다.