딥페이크 반발은 전 세계로 번지고 있다, 이제 한 기업의 문제가 아니다

한동안 딥페이크 문제는 일련의 고립된 사건처럼 보였다. 어느 정치인, 어느 배우, 느슨한 안전장치를 달고 나왔다가 나중에 패치된 도구. 지난 한 달 사이 달라진 점은 전 세계의 규제기관과 법원이 이런 사안을 일회성 사건으로 취급하기를 멈추고, 초상과 동의, 책임을 둘러싼 공통의 법적 체계를 세우기 시작했다는 것이다.

가장 먼저 나선 곳은 유럽연합이었다. 8월 2일부터 EU AI법은 진짜처럼 보이는 모든 AI 생성 이미지·오디오·텍스트에 합성 출처를 드러내는 워터마크와 함께 눈에 보이는 라벨을 붙이도록 요구한다. 위반 기업에는 최대 1,500만 유로 또는 글로벌 매출의 3%에 달하는 과징금이 부과된다. 기존 시스템에는 4개월의 준수 기간이 주어진다. 라벨링을 자발적 약속이 아닌 강제 요건으로 만든 첫 주요 관할권이며, 인간의 편집 검토를 거치지 않은 공익 텍스트에도 적용된다.

EU 집행 체계의 규모는 짚고 넘어갈 만하다. 구글의 SynthID는 이미 1,000억 장이 넘는 이미지와 6만 년 분량에 해당하는 오디오에 보이지 않는 워터마크를 삽입했다. 180개 넘는 조직이 유럽위원회의 자발적 실천 규약에 서명했다. 라벨링 규칙은 이러한 자발적 움직임을 뒷받침하는 법적 안전판이며, 규제기관에 이전에는 없던 구체적인 지렛대를 쥐어준다.

인도는 다른 축에서 움직이고 있다. 대법원은 구자라트 고등법원의 심리를 중단시키고 딥페이크 소송을 전국 단위로 통합할지 심리하고 있으며, 오는 10월 5일까지 답변서를 제출하라는 통지가 나갔다. 중앙집중화를 밀어붙이는 배경에는 관료적으로 보이지만 실은 실무적인 우려가 있다. 각 고등법원이 "딥페이크"를 서로 다르게 정의하면, 플랫폼은 구자라트의 규칙은 지키면서 뭄바이의 규칙은 위반하는 상황에 놓이게 된다. 한편 뭄바이 고등법원은 이번 주 배우 사만다 루스 프라부의 이름과 이미지, 목소리를 무단으로 사용하는 것을 금지하고 AI 생성 및 합성(모프) 콘텐츠의 삭제를 명령했으며, 그녀의 인격권과 퍼블리시티권에 대한 표면적 침해가 성립한다고 판단했다. 그녀는 이 소송에 이름을 올린 플랫폼, AI 개발사, 미디어 기업 등 18명의 피고 중 한 명이다. 법원은 이 결정을 헌법상 권리에 근거해 내렸으며, 그녀의 퍼블리시티권과 인격권이 표현의 자유와 생명·프라이버시·존엄에 대한 권리 모두의 보호를 받는다고 규정했다.

미국은 자체적인 경로로 움직이고 있다. 개인의 이미지와 초상, 목소리의 디지털 복제물에 대한 연방 차원의 퍼블리시티권을 신설하는 노 페이크스 법(No Fakes Act)이 다시 발의되어 6월 상원 사법위원회에서 호의적인 보고를 받았다. SAG-AFTRA가 강하게 밀어붙였고, 할리우드가 시험대다. 개봉 예정작 <As Deep as the Grave>의 티저에는 2025년에 사망한 발 킬머를 AI로 생성해 살아 있는 배우에게 대사를 말하게 하는 장면이 등장했다. 킬머는 사망 전에 캐스팅됐고 AI 음성 작업에도 지지 의사를 밝혔지만, 스튜디오가 고인의 초상을 법적 마찰 없이 되살릴 수 있는지라는 더 큰 질문은 바로 노 페이크스 법이 답하려는 지점이다.

이 모든 사안을 관통하는 흐름은 법이 업계가 2년 동안 저항해온 원칙으로 수렴하고 있다는 점이다. 바로 사람의 얼굴과 목소리는 공짜 원재료가 아니라는 것이다. EU는 초상을 라벨링해야 하는 대상으로 취급한다. 인도 법원은 인격권으로 본다. 미국은 연방 퍼블리시티권을 논의하고 있다. 어느 것도 아직 확정되지 않았지만 방향은 일관되며, "빠르게 출시하고 나중에 패치하라"는 태도에 우호적이지 않다.

시민 자유 단체들이 지적해온 실질적인 긴장도 존재한다. ACLU와 EFF, 민주주의기술센터(CDT)는 6월 서한에서 지나치게 넓은 퍼블리시티권이 "야유꾼의 거부권(heckler's veto)"을 만들어, 조롱당하는 것을 싫어하는 유력 인사가 풍자와 논평의 삭제를 요구할 수 있게 될 것이라고 경고했다. 타당한 우려다. 피해자를 보호하는 것과 검열자를 무장시키는 것 사이의 경계는 정말로 얇으며, 지금 초안이 작성되는 법들이 그 경계가 어느 쪽으로 기울지를 결정할 것이다. 너무 좁은 권리는 피해자를 구제하지 못한다. 너무 넓은 권리는 유력자에게 비판에 맞설 무기를 쥐어준다.

법적 논의가 계속 맴도는 기술적 차원도 있다. 학습 단계에서 안전성을 내장하는 모델과 생성 후에 필터를 덧붙이는 모델의 구분이 법적으로 중요해졌다. 이미지가 한 번 생성되면 필터는 실패할 수 있고, 파일은 퍼져나가며, 피해는 이미 발생한 뒤다. 규제기관은 이 차이를 인지했고, 책임을 배분하는 방식에 반영되기 시작했다. 먼저 생성하고 나중에 모더레이션하는 기업은 제약을 모델 자체에 심은 기업보다 더 큰 위험을 안게 된다.

이 분야를 지켜보는 사람이라면 주목해야 할 신호는 다음 모델 출시가 아니다. 다음 법원 판결, 다음 규제 지침, 다음 삭제 명령이다. 그것들이 도구가 무엇을 할 수 있는지를 규정하는 변수이며, 업계가 익숙하지 않은 속도로 쏟아지고 있다. 기술이 더 이상 법보다 앞서 있지 않다. 법이 따라잡고 있고, 그 격차는 안전 팀이 대응할 수 있는 속도보다 빠르게 좁혀지고 있다.

이번 물결이 이전의 조용한 집행과 다른 점은 서로 무관한 관할권에서 같은 원칙을 놓고 사건들이 동시다발적으로 쌓이고 있다는 것이다. 더 이상 한 규제기관이 하나의 스캔들에 대응하는 것이 아니다. 서로 협의하지 않는 법 체계들이 일제히 같은 방향으로 수렴하는 것이며, 이는 어떤 단일 판결보다도 강한 신호다. EU와 인도, 미국이 같은 몇 주 안에 "개인의 초상은 보호받는다"는 결론에 도달했다면, 업계는 이를 예외의 연속이 아니라 새로운 기준선으로 받아들여야 한다.

기술적 논증에도 관통하는 흐름이 있다. 이들 사건에서 반복적으로 등장하는 세부 쟁점은 피해가 사후 모더레이션이 아니라 설계 단계에서 예방될 수 있었는지다. 문제에 휘말린 모델은 먼저 생성하고 나중에 필터링하는 모델이다. 책임 있는 모델로 거론되는 것은 학습 과정에서 제약을 내장하고 출처 메타데이터를 기본값으로 제공하는 모델이다. 내장된 안전성과 덧붙인 안전성의 이 구분은 법적 분기점이 되어가고 있으며, 모든 연구소에 "제대로 하는 것"이 이제 무엇을 뜻하는지에 대한 구체적인 체크리스트를 제공한다.

크리에이터와 도구 개발자에게 실질적인 변화는 이미 시작됐다. 예전에는 선택 사항이던 질문들, 즉 이 모델이 실존 인물을 겨냥한 요청을 처리하는가, 출처 메타데이터를 삽입하는가, 실질적인 신고 경로가 있는가가 이제는 방어 가능한 제품과 법적 책임 사이를 가르는 기준이 됐다. 딥페이크는 더 이상 트러스트 앤 세이프티 팀이 처리할 틈새 문제가 아니다. 지금 이 순간, 여러 관할권에서 과징금이 붙는 컴플라이언스 이슈다.

가장 유력한 결과는 생성 미디어가 사라지는 것이 아니다. 동의 없이 타인의 얼굴을 사용하는 데 드는 비용이 가격에 반영되는 것이며, 살아남는 도구는 스캔들 이후에 덧붙이는 대신 처음부터 동의와 출처를 내장한 도구다. 이는 실질적인 변화이고, 업계 대부분이 예상했던 것보다 빠르게 진행되고 있다. 악용 가능성을 고민하지 않고 이미지·영상 도구를 출시할 수 있는 창은 닫히고 있으며, 전 세계적으로 같은 시간표에 맞춰 닫히고 있다.