애리조나 법원, AI 영상이 피해자를 대신해 발언했다는 이유로 형량 선고를 파기하다

애리조나주 항소법원이 과실치사 사건에서 새로운 형량 선고 심리를 명령했다. 원래 형을 선고한 판사가 인공지능으로 재현된 사망한 피해자가 법정에 말을 거는 듯한 영상을 시청한 뒤였다. 3인 재판부는 9월 30일 유죄 판결은 유지했지만 형 선고는 파기하며, AI로 생성된 묘사가 신뢰할 수 없는 정보를 끌어들여 절차를 근본적으로 불공정하게 만들었다고 판시했다.

이 사건은 도로 분노(로드 레이지) 총격으로 시작됐다. 2021년 11월, 당시 55세였던 가브리엘 폴 호르카시타스는 챈들러의 한 교차로에서 37세 크리스토퍼 펠키를 총으로 쏴 숨지게 했다. 호르카시타스는 경찰에 펠키가 자신의 차로 돌진해 협박했다고 진술했다. 목격자들은 펠키가 자신의 트럭 뒤쪽을 넘어오지 않았다고 말했다. 두 배심원단은 정당방위 주장을 받아들이지 않았다. 호르카시타스는 과실치사로 유죄 판결을 받고 2025년 5월 기준형 10.5년을 선고받았다.

이후 벌어진 일이 국제적인 주목을 끌었다. 형량 선고 심리에서 가족과 친구들은 자신들의 상실감을 이야기했다. 펠키의 형은 펠키가 생전에 쓴 진술문을 낭독했다. 그리고 펠키가 스스로 말하는 듯한 모습이 등장했다.

누나의 영상, 그리고 판사의 반응

펠키의 누나 스테이시 웨일스는 AI를 이용해 동생의 실제 영상과 얼굴·목소리의 합성 재현을 결합한 영상을 만들었다. 생성된 인물은 서두에서 자신이 AI로 재현된 자신의 한 버전이라고 밝혔다. 그것은 법정에 자신이 살아생전 어떤 사람이었는지를 진실하게 나타낸 것이라 말하고, 호르카시타스에게 직접 말을 걸며, 용서와 용서하시는 신을 믿는다고 말했다. 마지막으로 가족에게 저 세상에서 만나자고 말했다. 이 법정 영상은 미국 법정에서 처음 있는 사례로 여겨진다.

고등법원 판사 토드 랭은 자신의 반응을 숨기지 않았다. 그는 가족에게 감사를 표하고, 그 말이 진심에서 우러나온 것이라 믿는다고 말했으며, 그 발표에 얼마나 감동했는지 법정에 이야기했다. 그리고 10.5년을 선고했다. 검찰은 9년을 구형했다. 변호인은 7년을 요구했다.

호르카시타스의 변호인은 항소하며, 자신이 형량 선고 판사가 의존한 AI 생성 자료에 실질적으로 반박할 기회가 없었다고 주장했다. 심리에서 이의가 제기되지 않았기 때문에 항소법원은 근본적 오류에 대한 까다로운 기준에 따라 이 문제를 심리했다.

법원이 그은 선

재판부의 논리는 이 사건을 훨씬 넘어서 중요해질 구분에 달려 있다. 피해자의 실제 녹음이나 사진은 허용되는 피해자 영향 진술 증거다. 애리조나주 법은 범죄 피해자에게 발언할 폭넓은 권리를 부여하며, 형량 선고 단계에서는 통상적인 증거 규칙이 완화된다. 법원이 문제 삼은 것은 더 좁은 범위의 무언가였다. AI 부분이 새로운 발언과 표정, 몸짓을 만들어내어, 그것을 확인할 수도 부인할 수도 없는 사람에게 귀속시킨 점이다.

재판부는 “사건을 기록하거나 특정 순간을 녹화하는 대신, 이 AI 영상은 피해자의 누나가 상상한 것을 바탕으로 만들어진 피해자와 그의 생각에 대한 묘사를 제시한다”라고 썼다. 또한 그 발표는 “피해자가 무슨 말을 했을지에 대한 가족의 믿음과 피해자 자신의 목소리와 의견 사이의 해석적 거리를 지워버린다”고 덧붙였다.

적법절차는 형벌을 정하는 데 사용되는 정보가 신뢰할 수 있어야 한다고 요구한다. 피고인은 정확한 사실적 근거 위에서 선고받을 권리가 있기 때문이다. 법원은 판사 자신의 발언이 그 영상이 비중을 지녔음을 보여준다고 판단했기에, 그 비중이 얼마나 컸는지 따질 필요가 없다고 봤다. 유죄 판결은 유지된다. 호르카시타스는 다시 선고받게 된다.

이 판결이 겉보기보다 좁은 이유

자세히 읽어보면, 이 결정은 법정에서 AI를 금지하지 않으며, 피해자가 어떻게 슬퍼해야 하는지도 말하지 않는다. 화면에서는 똑같아 보이는 두 가지 용도를 구분한다. 진본 자료를 재현하는 기술은 제시될 수 있다. 그러나 새로운 행동을 생성하고 그것을 말하지 않은 사람의 목소리로 제시하는 기술은 형량 선고 법원이 한 번도 답해본 적 없는 신뢰성 문제를 제기한다. 최근까지 그렇게 할 도구가 존재하지 않았기 때문이다.

웨일스는 결과에 동의하지 않는다. 그녀는 기자들에게 자신의 유일한 목표는 판사 앞에서 동생을 인간적으로 드러내는 것이었으며, 가족이 동생이 했을 것이라고 믿는 말을 골랐고, 항소법원이 미디어 형식 사이에 자의적인 경계를 그었다고 말했다. 그녀는 가족들이 슬픔을 전하기 위해 흔히 슬라이드쇼를 틀고, 콜라주를 보여주고, 시를 낭독한다고 말했다. 그리고 현대 디지털 도구가 같은 메시지를 전할 수 없다고 판결하는 것은 피해자가 헌법상 발언할 권리를 행사하는 방식을 제한하는 것이라고 했다. 그녀의 변호사는 가족에게 AI를 다시 사용하면 또 다른 항소를 초래할 수 있다고 말했다.

더 넓은 흐름

애리조나만 이런 문제를 풀어가는 것이 아니다. 9월 30일 도쿄지방법원은 연기자의 상업적 가치가 걸린 경우 사람의 목소리가 퍼블리시티권 보호를 받을 수 있다고 판결하며, 자신의 목소리를 AI로 모방한 것에 관한 분쟁에서 배우 츠다 켄지로의 손을 들어주었다. 8월에는 델리 고등법원이 한 TV 기자의 딥페이크 영상을 유포한 소셜 미디어 계정에 대해 영구 금지 명령을 내리며 플랫폼에 36시간 내 삭제 기한을 설정했다. 전용 AI 법률이 따라가지 못한 탓에, 법원들은 퍼블리시티권부터 허위 표시에 이르기까지 기존 법을 적용하고 있다.

관통하는 주제는 출처다. 생성된 내레이션이 검증된 증거와 나란히 놓일 때, 문제는 그 자료가 무엇을 말하는지뿐 아니라 그 뒤에 누가 서 있는지도 포함한다. 애리조나 재판부는 한 형량 선고 심리에 대해 그 질문에 답했고, 그렇게 함으로써 나머지 시스템이 이제 검증해야 할 규칙을 기록으로 남겼다. 사람이 한 일을 재현하는 것은 한 가지이고, 그를 대신해 말하는 것은 또 다른 일이다.

변호사들이 다음으로 주목하는 것

이 결정은 여러 실무적 질문을 남겨두었고, 각각은 이제 막 시작된 작업을 가리킨다. 법원은 하나의 증거물 안에서 진본 영상과 생성된 영상을 구별할 방법이 필요할 것이다. 애리조나 영상은 둘을 섞었고 재판부는 실제 클립은 문제없다고 본 반면 합성 클립은 배척했기 때문이다. 일부는 진본이고 일부는 조작된 미디어는 어느 극단보다 판단하기 어려우며, 어느 쪽이 진본인지 인증하는 도구는 아직 성숙 중이다.

법무법인이 아니라 가족이 그 자료를 만들었을 때 누가 책임지는가 하는 문제도 있다. 웨일스는 이 사건의 당사자가 아니었고 동생이 무슨 말을 했을지에 대해 스스로의 판단으로 행동했다. 법원은 그 영상을 절차에 제출된 증거로 취급했지만, 그것을 만든 사람은 그 한계를 알릴 직업적 의무가 없었고, 판사는 스스로 인정한 대로 그것이 충분히 감동적이라고 소리 내어 말했다. 진실한 제작자와 방심한 의사결정자라는 이 조합은 바로 계속 분쟁을 낳을 조합이다.

사전 고지 문제도 있다. 기록 어디에도 법원이나 변호사들이 AI 생성 진술이 재생될 것임을 사전에 알고 있었는지 분명하지 않다. 향후 규칙이 사전 고지를 요구한다면, 이 관행은 더 제한된 형태로 살아남을 수 있다. 그렇지 않다면, 애리조나 판결은 좁은 선례로 남을 것이다. 당시에는 허용되지만 항소에서는 신뢰할 수 없는 것으로, 그리고 그렇게 뒤늦게 알게 되는 데는 비용이 든다.

다른 관할권들도 면밀히 지켜볼 것이다. 같은 도구가 저렴하고 널리 이용 가능하기 때문이다. 이제 검찰과 변호인 양측 모두 합성 피해자 진술과 합성 피고인을 함께 고민할 이유가 생겼으며, 애리조나에서 지방법원 단위로 하나씩 나오는 기준이 전국의 법원이 실제로 존재하지 않는 증인을 어떻게 다룰지 형성할 것이다.