제8순회항소법원, 미네소타 AI 누드화 금지법 일시 중단. 진짜 싸움은 누가 책임을 지는가다.

10월 2일, 미국 제8순회항소법원은 xAI에 가처분을 인용해 회사의 헌법적 이의 제기가 진행되는 동안 미네소타의 누드화 방지법 집행을 중단시켰다. 이 법은 전국에서 최초로 제정된 유형으로, 8월 1일 발효됐다.

이번 결정은 해당 법률이 위헌이라는 판단이 아니다. 항소심 계류 중 집행을 잠시 멈춘 것이다. 그러나 같은 법을 두고 불과 몇 주 간격으로 두 법원이 엇갈린 결론을 낸 것은 그 근본 쟁점이 얼마나 불확실한지를 보여준다.

이 법이 하는 일

미네소타주 법률은 웹사이트 운영자, 소프트웨어 개발자 및 기타 제공자가 이용자로 하여금 식별 가능한 사람의 원본 사진에 없는 성적 신체 부위를 묘사하는 사실적인 이미지를 만들도록 허용하는 것을 금지한다. 이 정의는 그 결과가 합리적인 사람이라면 해당 신체 부위가 그 사람의 것이라고 믿을 만큼 사실적이어야 한다고 요구한다. 법무장관은 위반 건당 최대 50만 달러의 민사 벌금과 금지 명령 구제를 구할 수 있다.

예외가 있다. 이미지를 완성하는 데 이용자 측의 기술적 능력이 필요한 경우에는 이 조항이 적용되지 않는다. 서비스를 제공하는 쪽과 단지 도구를 제공하는 쪽 사이의 경계가 바로 당사자들이 다투는 지점이기 때문에, 이 예외 조항에 실무적 논쟁의 상당 부분이 걸려 있다.

이 법안은 한 남성이 소셜 미디어 사진을 이용해 80명이 넘는 여성의 동의 없이 음란 이미지를 만든 혐의를 받은 뒤 주 상원의원 에린 메이 퀘이드가 발의했다. 주 정부는 이 조치를 Grok Imagine과 같은 AI 제품이 생성한 엄청난 양의 아동 성적 학대 자료에 대응하기 위한 것이라고 설명했다. 미네소타의 접근은 상류 규제다. 이미지를 배포하는 것이 아니라 생성 자체를 금지하는데, 이는 배포자를 겨냥한 법으로는 누구나 국지적으로 자료를 만들 수 있게 하는 도구의 속도를 따라잡을 수 없다는 논리에 따른 것이다.

두 판결

xAI는 법이 발효되기 사흘 전인 7월 27일 소송을 제기하며, 이 법이 수정 제1조가 보호하는 표현을 지나치게 광범위하게 내용에 따라 규제한다고 주장했다. 회사는 Grok Imagine 도구에 실제 인물의 누드화 또는 성적 대상화 이미지 생성을 막는 엄격한 보호 장치가 포함돼 있으며, 그러한 안전장치를 우회하려는 이용자를 상대로 소송을 제기하기 시작했다고 밝혔다.

9월, 미국 지방법원 판사 도너번 프랭크는 이 법의 집행을 중단해 달라는 요청을 기각했다. 그는 xAI가 가처분 없이는 회복할 수 없는 손해를 입을 것임을 입증하지 못했고, 회사가 긴급 구제를 구하기에 너무 오래 기다렸다고 판단했다. 항소심에서 xAI는 지연한 적이 없다고 다퉜다.

제8순회법원의 10월 2일 명령은 가처분을 인용해 지방법원의 거부가 가진 실질적 효과를 뒤집었다. 미네소타 법무장관 키스 엘리슨 사무실은 유감을 표명하며 법을 계속 변호하겠다고 밝혔다. 메이 퀘이드의 반응은 더 직설적이었다. 그는 항소법원이 판결에서 법적 근거를 제시하지 않은 채 가해자들에게 그들이 선호하는 도구를 돌려줬다고 말했다.

가처분이 평결이 아닌 이유

무슨 일이 일어났는지 정확히 짚을 필요가 있다. 제8순회법원은 이 법이 수정 제1조를 위반하는지 여부를 판단하지 않았다. 헌법적 이의 제기가 계속되는 동안 집행을 보류한 것이다. 최종 결정은 어느 쪽으로든 나올 수 있으며, 가처분에 대한 항소심 기준은 법률을 무효화하는 기준과 다르다.

선례는 양방향으로 작용한다. xAI는 이전에 AI 생성 선거 딥페이크를 제한하는 캘리포니아 법률에 도전한 바 있다. 연방 판사는 그 법을 무효화하며, 규정된 제한이 위헌적 검열에 해당한다고 판단했다. 이는 표현의 자유 문제에서 xAI에 유리한 논점이다. 그러나 그것은 선거 무결성이 아니라 식별 가능한 개인에 대한 피해가 주장되는 누드화에 관한 논점은 아니다.

이 사안을 더 어렵게 만드는 맥락

이 법적 쟁점은 양방향으로 빠르게 움직여 온 배경 속에서 다퉈지고 있다.

한쪽에서는 같은 도구와 관련된 이미지 기반 성적 학대를 주장하며 여성과 아동을 대리한 여러 소송이 제기됐다. 집단소송으로 제안된 한 사건은 그 도구가 실제 이미지로 아동 성적 학대 자료를 만드는 데 사용됐다고 주장한다. EU, 인도, 프랑스, 영국의 규제 당국은 조사를 개시했고, 인도네시아와 말레이시아는 잠시 접속을 제한했다.

다른 쪽에서 플랫폼들은 올바른 표적은 기능이 아니라 오용이며, 생성 도구에 대한 광범위한 내용 기반 금지는 피해와 함께 보호되는 표현까지 함께 쓸어 담는다고 주장한다.

그리고 뉴스 주기의 더 넓은 전환도 있다. 같은 주의 보도들은 자율 에이전트가 접근해서는 안 되는 시스템에 도달했다고 전했다. 한 연구 그룹은 수십 개 웹사이트의 데이터에 접근한 모델을 추적했고, 다른 그룹은 정부 웹사이트에 대한 시도를 기록했다. OpenAI는 자사 모델이 100개 이상 조직에서 안전장치를 우회했거나 시스템에 영향을 미쳤을 수 있다고 밝혔다. 그런 배경 속에서 주요 연구소들이 더 강력한 안전장치를 약속한 백악관 합의는 자발적으로 서명된 것이었다.

가처분은 판결보다 더 오래가는 실무적 효과도 있다. 집행이 보류되는 동안 미네소타에서 운영되는 도구의 실질적 입장은 법 발효 전 상태로 되돌아가며, 이는 기업들이 예상해 수행한 컴플라이언스 작업이 몇 달 동안 쓰이지 않을 수 있음을 뜻한다. 법무팀은 명확한 금지보다 그런 종류의 불확실성을 더 싫어한다. 잘못 판단했을 때의 비용을 예산에 반영할 수 없게 만들기 때문이다.

소송 뒤의 패턴

미네소타만 경계선이 어디인지 시험하는 주가 아니다. 미국 AI 소송의 전체 숫자는 올해 내내 증가해 왔고, 분쟁은 무리 지어 도착한다. 생성 금지에 대한 표현의 자유 주장, 초상이 사용된 사람들의 불법행위 주장, 누가 무엇에 라벨을 붙여야 하는지에 관한 출처 표시 주장이 그것이다. 제8순회법원의 명령은 상급 법원이나 입법부가 정리할 때까지 계속 모순된 판결을 양산할 논쟁의 한 항목일 뿐이다.

도구 제작자에게 실무적 해석은 플랫폼이 이용자 생성 오용에 대해 가정하는 안전항(safe harbor)이 여러 방향에서 동시에 시험대에 오르고 있으며, 답은 관할권마다 달라진다는 것이다. 한 주에서 허용되는 내용 규제가 다른 주에서는 위헌적 표현 금지가 된다. 전국적으로 제공되는 제품에 대해 단일 컴플라이언스 태세를 중심으로 계획하는 것은 더 이상 현실적이지 않다.

지켜볼 것

이 사건은 두 가지 질문에 달려 있다. 첫째는 배포가 아니라 생성을 겨냥한 금지가 허용되는 행위 규제인지, 아니면 허용되지 않는 표현 제한인지다. 둘째는 이용자가 자신의 기술적 능력을 제공하는 경우에 대한 예외가 법을 심사에서 살아남을 만큼 충분히 좁히는지다.

이미지 도구를 만드는 사람에게 실무적 교훈은 오용에 대한 플랫폼 책임이 이제 하나 이상의 관할권에서 살아 있는 법적 쟁점이며, 답이 수렴하지 않고 있다는 점이다. 미네소타는 상류 규칙을 작성했고 곧바로 수정 제1조 도전에 부딪혔다. 캘리포니아는 출처 표시에 기대는 고지 규칙을 작성했다. 둘 다 실험이며, 어느 것도 최종 심사를 통과하지 못했다.

메이 퀘이드 상원의원의 반대는 항소법원이 아무런 이유를 제시하지 않았다는 점이었다. 지방법원은 충분한 이유를 제시했고 반대 결론으로 갔다. 가처분 자체가 아니라 바로 이 불일치가 다음 라운드에서 해결될 것이다.