보이지 않는 워터마크가 닷새 만에 세 가지 결과를 바꿨다

이번 달 닷새 사이에 보이지 않는 워터마크는 기술 덕후들의 호기심거리에서, 사람의 상을 앗아가고 기업이 작품을 다시 찍게 만드는 것으로 바뀌었습니다.

10월 7일 구글은 계정만 있으면 누구나 SynthID Detector를 쓸 수 있게 열었습니다. 10월 9일 Nikon은 Small World in Motion 공모전 1등 수상자를 실격 처리했습니다. 그 사이 어디쯤에서 Fortnite는 팬들이 구석에서 Gemini 워터마크를 발견하자 어떤 곡의 커버 아트를 조용히 교체했습니다.

세 사건 모두 탐지 기술이 마법 같다는 얘기가 아닙니다. 셋 다 어떤 표식이 사회적으로 행동을 일으키는 신호가 되었을 때 무슨 일이 벌어지는가에 대한 이야기입니다.

SynthID는 실제로 무엇이고, 탐지기는 실제로 무엇을 말하는가

SynthID는 구글이 자사 모델이 만든 미디어에 심는 워터마크입니다. 눈에 보이지 않고, 압축과 크롭을 견디도록 설계됐습니다. 탐지기는 무료 웹페이지 하나입니다. 이미지, 영상, 오디오 파일을 올리면 그 워터마크가 들어 있는지 알려줍니다.

적용 범위는 구글 자사 모델보다 넓습니다. 구글은 이 도구가 자사 모델은 물론 OpenAI, Nvidia, Kakao 같은 파트너사의 모델로 만든 미디어까지 표시하며, Apple 지원도 곧 시작된다고 밝혔습니다. 의미 있는 진전입니다. 한 업체의 결과물만 알아보는 탐지기는 무결성 도구가 아니라 멤버십 프로그램이니까요.

한계도 그만큼 중요하고, 구글이 이를 분명히 밝힌 점은 평가할 만합니다. 탐지기는 SynthID만 찾고 그 밖의 것은 찾지 못합니다. 다른 회사들은 다른 표준을 쓰기 때문에 표식이 없다고 해서 아무것도 증명되지 않습니다. 양성 결과가 나와도 그 파일이 처음부터 생성된 것인지, 표식을 남기는 도구로 편집만 된 것인지는 알 수 없습니다. 게다가 워터마크는 위조 방지가 아닙니다. 마음먹은 사람은 떼어내거나 망가뜨릴 수 있습니다.

그러면 실무적인 질문이 남습니다. 표식이 증거가 아니라면, 왜 일주일 만에 세 가지 결과를 바꿀 수 있었을까요.

Nikon: 몇 년이고 인용될 사건

제16회 Small World in Motion 공모전은 Ning Xu 박사에게 1등을 줬습니다. 기도 내벽을 덮은 머리카락 같은 구조, 섬모가 비정상적으로 움직이는 영상이었고, 조직은 원발성 섬모 운동 이상증이라는 희귀 유전 질환을 앓는 아이의 것이었습니다.

그러자 과학자들이 들여다보기 시작했습니다. 플로리다대 부교수 Edward Phelps는 구조적 문제를 공개적으로 지적했습니다. 보라색 구조물이 생겼다 사라지고, 초록색 섬모가 어디선가 나타난다는 것이었습니다. UT Southwestern의 MD/PhD 과정 학생 Ian Donovan은 이 영상을 Gemini에 돌려 SynthID 워터마크가 나왔다고 보고했습니다.

Xu의 설명은 이후 삭제된 LinkedIn 댓글에 담겼습니다. AI는 후반 작업에 쓰였다는 것입니다. 재구성한 그레이스케일 데이터에 비지도 신경망을 적용해 비슷한 모양의 구조를 분리하고 채색했다는 겁니다. 그는 원본 영상과 섬모, 그 움직임은 진짜이며 자신이 규정을 어기고 있다고 생각하지 않았다고 주장합니다.

Nikon의 판정은 인터넷의 판정보다 좁았습니다. 회사는 해당 출품작이 “생성형 AI에 관한 공모전 규정을 준수하지 않았다”고 밝혔고, 결정은 오로지 출품 자격에 근거한 것이며 Xu의 직업적 평판이나 과학적 기여, 의도에 대한 판단으로 읽혀서는 안 된다고 했습니다. 또한 후반 작업과 시각화 과정에 비지도 신경망 기법이 쓰였다는 점을 인정하고, 규정과 심사 절차를 다시 살펴보겠다고 했습니다. 순위는 바뀌었습니다. 이제 Nguyen Nam Nhat이 1위이고 Benedikt Pleyer, Andrew Moore, Patrick Hickey, Igor Adameyko가 뒤를 잇습니다. 실격된 작품은 갤러리에서 사라졌습니다.

불편한 지점은 여기입니다. 가색은 수십 년째 현미경 촬영의 표준이었습니다. 노이즈 제거와 디컨볼루션, 재구성은 회절 한계를 넘어서려 할 때 이미지를 아예 얻기 위한 방법입니다. Nikon이 그어야 했던 선은 “AI를 썼느냐 아니냐”가 아닙니다. 그 처리가 데이터에 없던 구조를 더했느냐입니다. 훨씬 긋기 어려운 선이고, 워터마크는 그 질문에 답하지 못합니다.

Fortnite: 아무도 확인하지 않은 워터마크

두 번째 사건은 더 작고, 어떤 면에서는 더 많은 것을 보여줍니다. Fortnite는 Ironmouse, Sleeping Forest, HalaCG의 “Meow”라는 곡을 추가했습니다. 팬들이 아트워크 오른쪽 아래 구석에서 구글 Gemini 워터마크를 발견했습니다. 게임 안에서만이 아니라 스트리밍 플랫폼에서도요.

Epic의 답변은 이랬습니다. 아트는 아티스트가 제공한 것이고 다른 곳에서 쓰인 것과 일치했으며, 아티스트가 교체본을 주자 이미지를 바꿨다는 것입니다. Ironmouse는 전혀 몰랐고, 팀이 교체를 요구했으며, 이 상황이 무척 유감스럽다고 말했습니다.

여기서 무슨 일이 있었는지 보십시오. Epic이 아트를 생성했다고 비난한 사람은 없습니다. 워터마크는 출처 신호로서 제 역할을 했습니다. 이 파일에 Gemini 모델이 손댔다는 사실을 알려줬고, 사회적 결과는 거기서부터 따라왔습니다. 흥미로운 실패는 탐지가 아닙니다. 워터마크가 찍힌 소재가 아티스트와 레이블, 게임 플랫폼, 여러 스트리밍 서비스를 거치는 동안 구석의 작은 표식을 아무도 알아채지 못했다는 점입니다.

스튜디오가 지금 기록해야 할 것

이미지로 먹고사는 사람에게 이번 달의 실질적인 답은 탐지 서비스 구독을 사는 게 아닙니다. 분쟁을 견디는 출처 기록을 남기는 것입니다.

내보낸 파일만이 아니라 원본 촬영본을 말합니다. 레이어 스택이 그대로 살아 있는 프로젝트 파일. 어느 생성 도구가 어느 단계에 손댔는지에 대한 기록, 답이 “아무것도 안 댔다”여도 남겨야 합니다. 공개한 모든 것에 대한 날짜별 변경 이력. 어느 것도 흥미롭지 않지만, 표식이 뜨는 순간 공모전이, 클라이언트가, 플랫폼이 요구하는 것이 바로 이것들입니다.

필요해지기 전에 공개 방침을 정해두는 일이기도 합니다. “생성형 채우기는 먼지 제거에만 쓰고 그 외엔 안 쓴다”고 말할 수 있는 사진가는, 압박 속에서, 공개된 자리에서, 기억에 의존해 그 답을 다시 조립해야 하는 사람보다 훨씬 유리한 위치에 있습니다.

제도 쪽도 같은 숙제를 안고 있습니다. “AI 생성 영상은 허용하지 않는다”는 공모전 규정은 누군가 '보정'이 어디서 끝나는지 정의하기 전까지 검증 가능한 규정이 아닙니다. Nikon은 이제 규정과 심사 절차를 다시 살펴보겠다고 했습니다. AI 조항이 있는 다른 모든 공모전도 곧 같은 구멍을 발견하게 될 겁니다.

조용한 전환: “AI인가”에서 “누가 손댔나”로

2년 동안 AI 탐지를 둘러싼 논쟁은 이분법으로 짜였습니다. 진짜냐 가짜냐. 그리고 기술은 계속 그 논쟁에서 졌습니다. 탐지는 확률적이고, 고발은 확률적이지 않기 때문입니다.

워터마크는 질문을 바꿉니다. 이미지가 진실인지를 묻지 않습니다. 특정 도구가 그 제작에 관여했는지를 묻습니다. 훨씬 약한 주장이고, 훨씬 변호하기 쉬운 주장입니다. 그리고 그것은 제도가 필요로 하는 주장이기도 합니다. 공모전은 자격 규정을 집행할 수 있고, 플랫폼은 공개를 요구할 수 있고, 출판사는 공급자에게 질문을 던질 수 있습니다.

EU의 AI 표시 규정도 같은 논리 위에 서 있습니다. 올해 본 모든 공개 체크박스도 마찬가지입니다. 어느 것도 이미지가 합성임을 증명하라고 요구하지 않습니다. 파일에 사실 하나를 붙이라고 요구합니다.

그러면 사진가들이 계속 듣고도 계속 무시해온 이야기로 돌아옵니다. 원본을 남기십시오. RAW, 프로젝트 파일, 촬영 로그, 아무도 열지 않는 지루한 아카이브. 표식 하나가 상을 앗아갈 수 있는 세상에서 유일하게 믿을 만한 알리바이는 무엇으로 시작했는지를 보여주는 서류의 흔적입니다.

탐지기는 이제 무료입니다. 그렇다고 해서 판사가 되는 건 아닙니다. 증인일 뿐입니다. 그리고 증인은 누군가 증거를 보관했을 때만 쓸모가 있습니다.