C2PA와 SynthID: EU AI Act 이후, 미디어 출처 증명은 엔지니어링 과제다

AI가 생성한 텍스트, 이미지, 오디오, 비디오는 인간이 만든 결과물과 구분하기가 점점 더 어려워지고 있습니다. 이로 인해 출처 증명은 연구 주제에서 파이프라인 요구사항으로 바뀌었고, 마감 시한이 구속력을 갖기 시작했습니다.

EU AI Act 제50조의 투명성 의무는 2026년 8월 2일부터 적용되며, 표시에 대한 유예 기간은 2026년 12월 2일까지 이어집니다. 인도는 2026년 2월 IT 규칙을 개정하여 합성 생성 정보를 포함하도록 했습니다. 이제 생성 미디어에 표시를 하는 것은 팀이 논의할 대상이 아니라 구현해야 하는 일입니다.

서로 다른 질문에 답하는 세 가지 도구

대부분의 팀이 하는 실수는 출처 증명, 워터마킹, 탐지를 서로 바꿔 쓸 수 있는 것으로 취급하는 것입니다. 그렇지 않으며, 이들은 각기 다른 방식으로 실패합니다.

C2PA 의미에서 출처 증명은 파일에 첨부되거나 파일에서 참조되는 암호화 서명 메타데이터입니다. 이는 특정 질문에 답합니다. 누가, 어떤 도구로 서명했으며, 그 이후 변경되었는가? 주요 약점은 제거하기 쉽다는 점입니다. 스크린샷, 재인코딩, 또는 메타데이터를 버리는 플랫폼은 매니페스트를 제거합니다.

보이지 않는 워터마크는 픽셀, 오디오 샘플 또는 토큰 선택 등 콘텐츠 자체에 삽입된 신호입니다. 이는 다음 질문에 답합니다. 이것이 이 워터마크를 적용하는 시스템에 의해 생성되었는가? 약점은 과도한 편집, 재작성 또는 적대적 공격이 신호를 약화시키거나 제거할 수 있으며, 일반적으로 공급업체 자체 탐지기로만 탐지할 수 있다는 점입니다.

탐지 분류기는 콘텐츠가 합성인지 추측하도록 훈련된 모델입니다. 이는 다음 질문에 답합니다. 이것이 AI 생성처럼 보이는가? 확률적이며, 생성기가 발전함에 따라 성능이 변하고, 실제 콘텐츠에 대해 오탐을 생성합니다.

핵심 차이는 출처 증명과 워터마크는 협조하는 주체가 생성 시점에 적용한다는 것입니다. 탐지는 이후에 적대자를 포함한 누구의 콘텐츠에도 적용되므로 가장 약한 형태의 증거가 되지만, 한 번도 표시된 적 없는 콘텐츠에 대해서는 유일한 선택지입니다.

탐지만으로는 충분하지 않은 이유

탐지는 군비 경쟁입니다. 분류기는 알려진 생성기의 아티팩트를 학습하지만, 새로운 모델과 간단한 후처리가 그러한 아티팩트를 바꿉니다. 오탐은 실제 사람에게 피해를 줍니다. 편집된 실제 사진, 압축된 비디오, 비원어민의 글쓰기가 플래그되기 때문입니다. 이것이 공정성 문제가 되면, 진짜 고객의 셀피가 거부됩니다.

그리고 깨끗한 점수는 아무것도 증명하지 못합니다. 콘텐츠는 모델이 한 번도 본 적 없는 생성기에서 나왔을 수 있습니다. 실용적인 지침은 탐지를 하나의 위험 신호로 취급하고, 중대한 결정에는 인간 검토를 두라는 것입니다.

C2PA는 실제로 어떻게 작동하는가

C2PA(콘텐츠 출처 및 진위 연합)는 디지털 콘텐츠의 원본과 편집 이력을 기록하기 위한 공개 기술 표준을 발표합니다. 운영 위원회에는 Adobe, Google, Microsoft, Meta, OpenAI, Amazon, Sony, BBC 등이 포함되어 있습니다. 사양은 2.x 시리즈에 있으며 정기적으로 개정되므로, 설계 시 하나의 릴리스에 고정하기보다 현재 버전을 확인해야 합니다.

핵심 단위는 C2PA 매니페스트로, 자산의 출처를 설명하는 암호화 서명 데이터 구조입니다. 매니페스트 저장소는 자산 수명 주기의 각 단계마다 하나씩 여러 개를 보관할 수 있습니다. 어서션은 자산에 대한 개별 진술이며, 표준 어서션은 AI 시스템에 의한 경우를 포함해 생성됨 또는 편집됨 같은 작업과 구성 요소 및 썸네일을 포괄합니다.

2026년 중반까지 OpenAI는 자사 이미지 모델이 생성한 모든 이미지에 C2PA 매니페스트를 첨부하고, Google은 이미지 및 비디오 생성 출력물에 C2PA 매니페스트와 SynthID 워터마크를 모두 첨부합니다. Adobe의 Firefly는 2024년부터 같은 일을 해왔습니다. Canon, Sony, Nikon, Leica의 카메라 펌웨어는 이제 촬영 시점에 Content Credentials를 기록합니다. 이는 뉴스룸이 사진을 검증할 수 있게 하는 동일한 체계가 채용 관리자가 프로필 사진을 검증할 수 있게도 한다는 뜻입니다.

SynthID가 다르게 하는 일

Google DeepMind의 SynthID는 모든 콘텐츠에 하나의 기법을 사용하는 대신 각 콘텐츠 유형에 맞게 신호를 조정하는 워터마킹 기술군입니다. 이미지는 이미지 전체에 신호를 퍼뜨려 일반적인 시각 품질이 유지되고 일부 흔한 변환으로도 지워지지 않게 합니다. 비디오는 프레임 전반에 워터마크 정보를 분산시켜 검증자가 고립된 한 영역이 아니라 클립 전체를 조사할 수 있게 합니다. 오디오는 소리 안에 신호를 배치하며, 들리지 않지만 기계가 탐지할 수 있습니다. 텍스트는 모델이 토큰 확률을 미묘하게 이동시키고, 검증자는 예상되는 통계적 패턴에 충분한 텍스트를 조사합니다.

텍스트 워터마킹은 가장 취약한 경우입니다. 짧은 답변은 충분한 증거를 포함하지 않을 수 있습니다. 과도한 바꿔쓰기, 번역 또는 여러 모델의 출력을 섞는 것은 패턴을 약화시킬 수 있습니다. 그렇기 때문에 부정적 결과는 "인간이 작성함"이 아니라 "지원되는 워터마크가 탐지되지 않음"으로 보고해야 합니다.

생성 미디어를 출시하는 팀에게 이것이 의미하는 것

도구의 차이에서 세 가지 실천 원칙이 나옵니다.

생성 시점에 서명하고 원본을 보존하십시오. C2PA는 때때로 재인코딩을 견디지만, 메타데이터는 다운스트림에서 자주 버려집니다. 출처 증명의 유일하게 신뢰할 수 있는 기록은 여러분이 보관한 파일입니다.

워터마크가 없다고 해서 인간이 작성했다는 증거로 취급하지 마십시오. 신호가 없다는 것은 생성기가 워터마크를 적용하지 않았거나, 편집이 이를 제거했거나, 탐지기를 사용할 수 없었음을 의미할 수 있습니다. 각각은 서로 다른 사실입니다.

기술적 질문과 진실 질문을 분리하십시오. C2PA 암호화는 무단 변경을 드러내는 데 도움이 되지만, 그 자체로 제품 묘사가 정확하다거나 매니페스트의 모든 진술이 사실임을 인증하지는 않습니다. 출처 증명은 파일이 어디서 왔는지 알려줍니다. 파일이 정직한지는 알려주지 않습니다.

시장은 이 모든 것에 반응해 왔습니다. AI 워터마킹 및 출처 증명 지출은 2025년에 약 4억 8,000만 달러로 평가되었으며, 2034년까지 연평균 28퍼센트 이상의 성장이 예상됩니다. 이는 소비자 채택이 아니라 기업 지출이며, 간단한 현실을 반영합니다. 미디어 생성 비용이 낮아질수록 미디어의 출처를 증명하는 가치는 높아집니다. 출처 증명을 실험실의 호기심이 아니라 파이프라인 인프라로 취급하는 팀이 표시 규칙이 구속력을 갖게 될 때 준비된 팀이 될 것입니다.

규정을 준수하는 파이프라인의 모습

추상적인 논의를 제쳐두고, 이제 생성 미디어를 표시해야 하는 팀에는 구체적인 단계 순서가 필요하며, 각 단계는 위의 도구 중 하나에 대응합니다.

생성 시점에 파이프라인은 출력에 서명합니다. 주요 API를 통해 생성된 이미지의 경우 이는 자동으로 이루어집니다. OpenAI는 모든 이미지에 C2PA 매니페스트를 첨부하고, Google은 매니페스트와 SynthID 워터마크를 모두 첨부하며, Adobe는 Firefly를 통해 같은 일을 합니다. 소규모 제공업체를 통해 작업하는 팀은 매니페스트를 직접 추가해야 할 수 있습니다.

편집 과정에서 파이프라인은 체인을 보존합니다. 자산을 다루는 각 도구는 매니페스트를 교체하는 대신 어서션을 추가해야 하므로 이력이 유지됩니다. 바로 이 지점에서 대부분의 파이프라인이 정보를 잃습니다. 파일을 재인코딩하는 도구가 이해하지 못하는 메타데이터를 버릴 수 있기 때문입니다.

배포 시점에 파이프라인은 원본을 보관합니다. 플랫폼은 일상적으로 메타데이터를 제거하고, 업로드를 재압축하며, 미리보기를 생성합니다. 프로덕션 시스템을 떠나는 서명된 파일이 유일하게 신뢰할 수 있는 기록이며, 이미지가 어디에 게시되든 관계없이 독립적으로 보관해야 합니다.

인간 계층에서는 파이프라인이 라벨을 붙입니다. 가시적 라벨은 가장 단순한 공개 형태이며 규제 기관이 특정 용도에서 기대하는 방식입니다. 또한 가장 쉽게 잘려 나가는 것이기도 하므로, 기계 판독 가능 신호를 대체하는 것이 아니라 그와 나란히 존재합니다.

규제 기관이 긋는 구분

EU AI Act 제50조와 인도의 개정 IT 규칙은 모두 엔지니어링 논의에서 흐려지기 쉬운 경계를 긋습니다.

의무는 정확성이 아니라 투명성에 관한 것입니다. 표시된 이미지는 식별된 프로세스에 의해 생성 또는 편집되었음이 인증되며, 표시가 주장하는 것은 그뿐입니다. 이 구분이 중요한 이유는 매니페스트의 목적을 결정하기 때문입니다. 매니페스트는 파일을 누가 어떻게 만들었는지인 출처를 기록합니다. 파일이 묘사하는 내용이 실제인지에 해당하는 콘텐츠를 보증하지는 않습니다.

이 구분을 잘못하면 예측 가능한 실패로 이어집니다. 팀이 유효한 Content Credential을 이미지가 신뢰할 수 있다는 증거로 취급하지만, 그 자격 증명은 이미지가 주장하는 시스템에서 왔다는 것만 확인합니다. 매니페스트가 온전한 조작된 사진은 여전히 조작된 사진이며, 매니페스트는 그 조작을 탐지하지 않습니다.

실무 팀을 위한 핵심 요약

세 가지가 따라오며, 모두 기술이 아니라 규율에 관한 것입니다.

표시를 나중에 추가하는 것이 아니라 내보내기 단계의 일부로 취급하십시오. 출처 증명은 생성 시점에 적용되며, 이미 유통 중인 자산에 나중에 끼워 넣는 것은 불가능합니다.

원본을 보관하십시오. 다른 사람들이 보는 복사본에서는 보통 메타데이터가 제거되기 때문입니다. 매니페스트는 팀이 이를 담고 있는 파일을 제시할 수 있을 때만 유용합니다.

그리고 팀이 출력물에 대해 이야기하는 방식에서 출처 증명 질문과 탐지 질문을 분리하십시오. 출처 증명은 파일이 어디서 왔는지 알려줍니다. 탐지는 모델이 한 번도 본 적 없는 콘텐츠에 대해 추측하는 것을 알려주며, 이는 더 약한 주장입니다. 내부적으로나 고객에게 이를 분명히 말하는 것이 컴플라이언스 프로그램이 증명할 수 있는 것과 없는 것에 대해 정직하게 유지되게 합니다.