구글이 '이 이미지가 AI로 생성된 건지 확인해 보기'를 웹사이트로 만들었다

10월 7일, Google은 SynthID Detector를 공개 웹에 선보였다. 주소는 아주 짧다. synthid.com이며, 로그인만 하면 이미지 한 장, 동영상 한 편, 또는 오디오 한 트랙을 끌어다 넣을 수 있고, 몇 초 뒤 “워터마크가 감지되었습니다” 또는 “감지되지 않았습니다”라고 알려준다.

예전에는 이 일을 Gemini에게만 부탁할 수 있었다. 파일을 업로드하고 나면 모델이 무엇을 보았는지 자연어로 설명하는 걸 봐야 했고, 깔끔한 “예” 또는 “아니요”를 얻기는 꽤 번거로웠다. 이제 Google은 판단 기능을 따로 떼어내, 로그인만 하면 되고 모델의 말투를 이해할 필요도 없는 창구로 만들었다.

1800억 장의 이미지, 그리고 24만 년 분량의 오디오

SynthID는 새로운 것이 아니다. Google은 2023년에 이미 자사의 생성 모델에 이를 적용하기 시작했으며, 방식은 사람 눈에는 보이지 않고 사람 귀에는 들리지 않는 신호를 메타데이터에 넣는 대신 픽셀과 오디오 파형에 직접 인코딩하는 것이었다. 이 점이 중요하다. 메타데이터는 액자 뒤에 붙인 메모처럼 복사·붙여넣기, 스크린샷, 다른 곳에 저장하기를 거치면 흔히 사라지지만, 픽셀에 새겨진 신호는 이미지와 함께 따라간다. Google이 공개한 수치에 따르면 2023년 서비스 시작 이후 지금까지 1800억 장이 넘는 이미지와 동영상, 그리고 24만 년에 해당하는 오디오 콘텐츠에 표시를 남겼다. 오디오 쪽 규모는 과장처럼 들리지만, 실제로는 Lyria 음악 생성과 NotebookLM 팟캐스트 기능이 만들어낸 모든 콘텐츠를 합산한 것이다.

워터마크 자체도 변형에 강하도록 처리되었다. Google DeepMind의 기술 설명에 따르면 이미지와 동영상의 워터마크는 생성되는 순간 기록되며, 자르기, 필터 추가, 프레임 레이트 변경, 손실 압축을 거친 뒤에도 비교적 높은 확률로 감지된다. 오디오 워터마크는 노이즈 추가, MP3 압축, 배속 재생에 대비해 보강되었다. Gemini가 생성한 텍스트는 다른 경로를 탄다. 모델을 미세 조정해 각 후보 단어의 점수 분포에 신호를 심는 방식이며, 눈에 보이는 글자는 전혀 달라지지 않는다.

이번 개방의 핵심 변화는 협력사에 있다. 이전의 검출기는 Google 자사 워터마크만 인식했기 때문에, ChatGPT가 생성한 이미지가 SynthID를 함께 지니고 있더라도 Google 도구에서는 표시되지 않았다. 이제 이 제한은 사라졌고, 검출기는 OpenAI, NVIDIA, 한국의 Kakao를 동시에 지원하며 Apple도 곧 합류하겠다고 약속했다.

이를 환산하면 한 번 업로드로 여러 회사의 생성 흔적을 동시에 확인할 수 있어, 각 회사의 자체 검증 페이지를 일일이 찾아갈 필요가 없다. Google은 이 기능을 검색, Gemini 앱, Chrome에도 연결했으며, 이 세 곳에서 합쳐 하루 100만 건이 넘는 검증 요청을 처리한다.

왜 무제한으로 조회하게 두지 않는가

도구 자체는 무료지만 제한이 있다. 계정마다 하루에 이미지, 동영상, 오디오 검사 횟수가 대략 10회뿐이며, Google, OpenAI 또는 Apple 계정으로 로그인해야 사용할 수 있다. Google 엔지니어는 그 이유를 설명했다. 접근을 제한하는 것은 누군가 검출 결과를 이용해 “워터마크 제거” 도구를 역으로 학습시키는 것을 막기 위해서다. 할당량 숫자는 일부러 모호하게 말하고 있는데, 매우 비슷한 이미지를 연속으로 올리면 시스템이 더 일찍 계정을 잠글 수 있다. 우회 방법을 시험하는 것처럼 보이기 때문이다.

주의할 만한 세부 사항이 하나 더 있다. 업로드한 파일은 실시간으로 처리되고 결과가 나오면 즉시 삭제되지만, 파일의 디지털 서명은 24시간 동안 보관되어 당일 할당량을 집계하는 데 사용된다.

“감지되지 않음”은 “AI가 생성하지 않음”과 같지 않다

이것은 이 도구 전체에서 가장 분명히 해야 할 부분이며, Google도 자체 FAQ에 적어 두었다. 이것은 범용 AI 검출기가 아니다. SynthID 기술을 채택한 기업이 만든 콘텐츠만 식별할 수 있다.

현실에는 이 도구의 판단 범위 밖에 자연스럽게 놓이는 콘텐츠가 많다. Microsoft와 Meta는 각자의 워터마크 표준을 사용하며, 두 회사 모두 Google의 협력 목록에 없다. Meta는 올해 자사 검출기가 자사에서 잘라낸 AI 이미지를 놓친 사례도 있었다. 더 중요한 것은 오픈 웨이트 모델이다. 누구나 자기 컴퓨터에서 실행할 수 있으며, 생성된 콘텐츠에는 최소한의 메타데이터 표시조차 없다.

따라서 “워터마크가 감지되지 않음”의 올바른 해석은 “출처 불명”이지 “이것은 진짜”가 아니다. 파일은 SynthID에 연결되지 않은 모델에서 왔을 수도 있고, 자르기, 압축, 재녹음이 너무 심해 신호가 닳아 없어졌을 수도 있다.

Google의 또 다른 접근은 정반대다. AI 콘텐츠에 표시를 하는 대신, 진짜 콘텐츠에 표시를 하자는 것이다. C2PA 같은 암호학적 수단은 촬영 기기에서부터 출처 정보를 서명해 넣으며, Pixel 휴대폰은 이미 이렇게 하고 있는 몇 안 되는 제품이다. 하나는 가짜 콘텐츠에 라벨을 붙이고, 다른 하나는 진짜 콘텐츠에 라벨을 붙인다. 두 경로가 각각 한쪽을 담당한다.

일반 사용자에게 이 웹사이트의 실질적 가치는 통합 창구라는 점에 있다. 수상한 이미지를 보면 먼저 여기에 넣어 한 번 확인하고, 출처, 시간, 맥락을 함께 고려해 판단하는 편이 결과만 보는 것보다 믿을 만하다. 눈여겨볼 점은 지원 형식이 상당히 넓다는 것이다. 이미지는 JPG, PNG, WEBP, HEIC를 아우르고, 동영상은 MP4, MOV, WEBM을, 오디오는 WAV, MP3, FLAC 등 흔한 유형을 포함해 일상에서 마주치는 대부분의 파일을 바로 업로드할 수 있다.

중국어권에서는 지난 반년 동안 “이 이미지가 AI가 그린 것인가”를 둘러싼 논쟁이 멈추지 않았고, 이미지 스톡 사이트의 완성본과 휴대폰에서 스크롤하며 보는 일러스트는 갈수록 구분하기 어려워지고 있다. 확인할 수 있는 곳이 하나 더 생기는 것은 언제나 좋은 일이다. 다만 그것을 판결문으로 여기지만 않는다는 전제에서다. 진짜로 길러야 할 판단 습관은 이것이다. 워터마크 검출이 주는 것은 단일 신호이며, “있음”이라고 할 때는 신뢰도가 비교적 높지만 “없음”이라고 할 때는 거의 아무것도 말해주지 않는다. 어떤 이미지가 믿을 만한지는 결국 그것을 촬영하거나 생성한 사람이 누구인지, 어떤 자리에서 공개되었는지, 제3자가 뒷받침할 수 있는지에 달려 있다. 도구는 일부를 걸러내는 데 도움을 줄 수 있지만 결론을 내려주지는 못한다.