구글이 SynthID 탐지기를 모든 사람에게 공개했습니다. 세부 약관을 읽어보세요.

구글은 10월 7일 SynthID 탐지기를 일반에 공개하여, 누구나 이미지, 동영상 또는 오디오 파일에 숨겨진 AI 워터마크가 있는지 확인할 수 있게 했습니다. synthid.com의 포털은 전 세계에서 영어로 운영 중입니다. Google, OpenAI 또는 Apple 계정으로 로그인하고 파일을 업로드하면 됩니다.

이는 이전 상황에 비하면 확실한 개선입니다. 당시 Google의 신뢰할 수 있는 테스터 프로그램 밖에서 SynthID를 확인하는 유일한 방법은 Gemini에게 물어보고 그 답변을 해석하는 것이었습니다. 워터마크를 탐지하는 데 워터마크를 적용한 모델과 대화가 필요해서는 안 됩니다. 이번 주까지 탐지기는 작년 Google I/O에서 접근 권한을 받은 언론인, 미디어 전문가, 연구원 테스트 그룹에만 제공되었고, 원하는 것은 단 한 비트의 정보였는데도 답변은 종종 한 단락의 산문으로 돌아왔습니다.

규모 확장의 현황

SynthID를 뒷받침하는 수치는 큽니다. 2023년 출시 이후 Google은 1,800억 개 이상의 이미지와 동영상, 그리고 24만 년 분량의 오디오 콘텐츠에 워터마크를 삽입했다고 밝혔습니다. 검색, Gemini 앱, Chrome 전반에서 실행되는 검증은 이제 하루 100만 건 이상의 요청을 처리합니다.

흥미로운 부분은 메커니즘입니다. SynthID는 제거될 수 있는 메타데이터가 아니라 이미지나 동영상의 픽셀 자체, 그리고 오디오의 주파수 성분에 신호를 직접 삽입합니다. 이미지와 동영상의 경우 워터마크는 생성되는 순간 기록되며 자르기, 필터, 프레임 레이트 변경, 손실 압축에도 살아남도록 설계되었습니다. 오디오의 경우 추가된 노이즈, MP3 압축, 재생 속도 변경을 견디도록 만들어졌습니다. Gemini 앱의 텍스트 워터마킹은 다르게 작동하는데, 모델이 후보 단어에 부여하는 확률 점수를 조정하여 보이는 출력은 변하지 않게 합니다.

신호가 어디에 존재하는지의 차이 덕분에 SynthID는 메타데이터를 완전히 제거하는 작업에서도 살아남습니다. 스크린샷, 재인코딩, 메타데이터 삭제는 모두 출처 태그를 제거하지만, 픽셀 값 자체에 짜여진 패턴은 제거하지 못합니다. 그 대가로 픽셀 수준 신호는 강한 변환을 거치면 가장 쉽게 손상될 수 있는 신호이기도 하며, 그래서 탐지기는 가장 높은 품질의 파일을 업로드하라고 요구합니다.

지원 형식은 다양합니다. JPG, PNG, WEBP, HEIC 및 기타 여러 이미지 유형, 동영상의 경우 MP4, MOV, WEBM, 오디오의 경우 WAV, MP3, OGG, FLAC, AAC, M4A를 지원합니다.

진짜 확장은 파트너십

이전에는 탐지기가 Google 자체의 SynthID만 확인했습니다. ChatGPT 이미지에도 SynthID가 포함되어 있었지만 Google 도구는 이를 표시하지 않았습니다. 그 한계는 사라졌습니다. 이제 탐지기는 OpenAI, NVIDIA, Kakao를 포함한 모든 SynthID 파트너의 워터마크를 지원하며, Apple도 곧 합류할 예정입니다.

실질적인 효과는 한 번의 업로드로 여러 주요 제공업체의 출력을 식별할 수 있다는 점이며, 각 회사의 자체 검증 페이지에서 별도로 확인할 필요가 없습니다. OpenAI는 여전히 자체 페이지를 운영하므로, ChatGPT 이미지로 의심되는 경우 확인할 곳이 두 곳입니다.

한계도 동등하게 다뤄야 한다

이 사이트는 자신이 범용 AI 탐지기가 아니라고 분명히 밝히고 있으며, 이 면책 조항은 기능보다 더 중요합니다. SynthID를 도입한 회사의 미디어만 식별할 수 있습니다. Microsoft와 Meta는 자체 워터마킹 및 검증 표준을 운영하며, 둘 다 파트너 목록에 없습니다. Meta의 탐지기는 이미 자체 AI 이미지 중 잘린 일부를 놓친 사례가 있습니다.

그다음에는 오픈 웨이트 문제가 있습니다. 누구나 자신의 하드웨어에서 오픈 모델을 실행해 워터마크도 메타데이터 라벨도 전혀 없는 출력을 만들 수 있습니다. 그런 콘텐츠는 탐지기에 절대 나타나지 않습니다.

따라서 부정 결과는 파일의 출처가 알려지지 않았다는 뜻입니다. 파일이 진본이라는 뜻은 아닙니다. 파트너 네트워크 밖의 모델에서 나왔거나, 심한 수정으로 신호가 탐지 가능 범위를 넘어 손상되었을 수 있습니다. 사이트 자체 지침은 사용 가능한 가장 높은 품질의 버전을 업로드하고, 결론을 내리기 전에 여러 데이터 포인트를 수집하라는 것입니다.

사이트는 또한 덜 주목받는 반대 실패 모드도 언급합니다. 드물게 탐지기가 워터마크가 전혀 없는 콘텐츠에서 잘못 반응할 수 있습니다. 위양성은 위음성보다 더 피해가 큰 오류입니다. 실제 사진을 합성 이미지라고 비난하도록 만들 수 있기 때문입니다. 두 방향의 오류가 모두 존재하며, 어느 것도 파일의 출처를 확인하는 일을 대신할 수 없습니다.

접근은 의도적으로 제한됩니다

이 도구는 무료지만 제한이 있습니다. 사용자는 이미지, 동영상, 오디오 검사를 합쳐 하루 약 10회의 할당량을 받으며 로그인해야 합니다. Google 엔지니어들은 이 제한이 사람들이 검사를 이용해 SynthID 제거 도구를 개발하는 것을 막기 위해 존재한다고 말했습니다. 할당량 수치는 대략적으로 설명되는데, 매우 유사한 파일을 많이 검사하면 시스템이 더 일찍 차단할 수 있기 때문입니다. 그런 패턴은 누군가 우회 방법을 조정하는 것처럼 보입니다.

개인정보 고지에 따르면 업로드된 미디어는 실시간으로 처리되고 결과가 반환된 후 삭제되지만, 할당량 시행을 위해 파일의 디지털 서명은 24시간 동안 보관됩니다. 약관은 탐지 로직의 리버스 엔지니어링, 쿼리 자동화, 제한을 회피하기 위한 다중 계정 생성을 금지합니다.

출처 증명에 대한 두 가지 철학

SynthID는 사전 예방적 워터마킹입니다. 즉, AI 콘텐츠에 라벨을 붙입니다. 대안적 접근은 대신 진본 콘텐츠에 라벨을 붙이는 것으로, C2PA 같은 암호화 표준을 사용해 촬영 순간에 출처 정보를 파일에 서명하는 것입니다. Google의 Pixel 휴대폰은 이를 수행하는 몇 안 되는 기기 중 하나입니다.

두 접근 방식은 서로 다른 방식으로 실패합니다. 워터마킹은 생성기의 협조에 의존하는데, 오픈 웨이트 모델은 그럴 유인이 없습니다. 암호화 서명은 촬영 기기의 협조에 의존하므로 해당 기능을 기본 탑재한 하드웨어로 제한됩니다. 어느 것도 혼자서 전체 문제를 해결하지 못하며, 실용적인 조언은 출처, 날짜, 맥락을 확인하는 매력적이지 않은 작업과 함께 두 가지를 모두 사용하라는 것입니다.

워터마킹 접근 방식이 먼저 출시된 데에는 구조적 이유가 있습니다. 새로운 하드웨어도, 콘텐츠가 소비되는 방식의 변화도 필요하지 않습니다. 업데이트만으로 기존 모델에 소급 적용할 수 있습니다. 암호화 출처 증명은 표준에 모두 동의하는 촬영 기기, 편집 도구, 뷰어 생태계가 필요하며, 그 생태계는 아직 대부분 희망 사항에 가깝습니다. 더 쉬운 길이 먼저 만들어졌고, 더 쉬운 길에는 더 큰 사각지대가 있습니다.

그리고 아무도 좋은 답을 내놓지 못하는 적대적 질문이 있습니다. 워터마크는 내구성을 갖도록 설계되지만, 제거 불가능하다는 뜻은 아닙니다. 모든 공개 탐지 도구는 이를 무력화하려는 사람에게 학습 신호를 제공하며, 바로 그래서 Google이 할당량을 제한하고 자동 쿼리를 금지하는 것입니다. 탐지기는 유용하며, 동시에 표시를 지우려는 사람들에게 지도가 되어 줍니다.

핵심 정리

유용한 정신 모델은 SynthID가 강한 ‘예’ 하나와 매우 약한 ‘아니오’ 하나를 준다는 것입니다. 긍정 일치는 특정 제공업체 집합을 가리킵니다. 부정 일치는 거의 아무것도 알려주지 않습니다. 후자를 완전한 무혐의 증명으로 받아들이는 사람은 도구를 잘못 사용하는 것이며, Google 자체 문서도 이 점을 이례적으로 솔직하게 인정합니다.

탐지에 대한 더 넓은 접근은 미디어 리터러시에 있어 진정한 승리입니다. 그 승리는 발표가 들리게 하는 것보다 좁으며, 실제 유용성은 그 주의 사항들에 있습니다.