Tavus Griffin, 인간으로 통과한 비율 48%, 그리고 회사는 이를 출시하지 않는다

Tavus는 10월 1일 Griffin을 공개하며, 이를 최초의 인간 상호작용 모델(Human Interaction Model)이라고 설명했다. 이는 실시간으로 듣고, 반응하고, 말하는 전이중 방식의 비디오 대 비디오 시스템이다. 라이브 화상 통화 연구에서 참가자 54명 중 26명은 1분간 대화 후 Griffin-Lite가 인간이라고 믿었다. 이전 세대 시스템은 41명 중 1명, 즉 2.4%에 그쳤다.

이는 합성 참가자가 실제인 것처럼 사람을 설득하는 능력이 약 20배 향상되었음을 의미한다. Tavus는 안전 장치가 준비될 때까지 Griffin을 대중에 공개하지 않겠다고 분명히 밝혔다. 이 모델이 하는 일과 실패 모드가 어떤 모습인지를 고려하면, 그 결정은 데모 영상보다 더 많은 주목을 받을 가치가 있다.

기술적 그림

Griffin은 720p, 초당 25프레임으로 작동하며 오디오-비디오 지연은 약 0.43초다. NVIDIA의 VideoFDB 벤치마크 인식 트랙에서 3.73으로 1위를 차지했으며, 인간 기준선은 4.20이다. 립싱크 정확도에서는 2위이고, 사람보다 반응이 느리다.

중요한 부분은 접근 문턱이다. 사진 한 장과 10초 분량의 오디오만 있으면 작동하는 디지털 더블을 생성하기에 충분하다. Tavus의 API에는 약 15만 명의 개발자와 기업이 등록되어 있다.

이 두 사실을 나란히 놓으면 위험 프로필은 가상의 것이 아니다. Surfshark 데이터에 따르면 2025년 딥페이크 사기 손실은 11억 달러로 2024년 수치의 3배다. 2024년 홍콩 Arup 사례에서 한 직원이 다른 모든 참가자가 AI로 조작된 화상회의에 참여했고, 회사는 2,500만 달러를 잃었다.

Griffin이 딥페이크를 가능하게 만든 것은 아니다. 그것은 수년 전부터 가능했다. Griffin은 딥페이크를 상호작용 가능하게 만든다. 미리 녹화된 가짜는 제작자가 예상한 질문에만 답할 수 있다. 실시간 시스템은 상대방이 동료와 대화하고 있다고 믿는 대화 속에서, 어떤 질문이든 답한다.

가짜가 즉흥적으로 대응할 수 있을 때 달라지는 것

Arup 사례가 통한 것은 사기꾼들이 시나리오를 준비했고 대상이 그것을 받아들였기 때문이다. 실시간 생성은 준비 제약을 제거한다. 이제 발신자는 예상치 못한 질문(프로젝트 세부 사항을 묻거나, 함께한 회의를 언급하거나, 농담에 반응하는 것)을 통해 즉흥적으로 대응하고 0.5초 이내에 그럴듯한 답변을 생성할 수 있다.

바로 여기서 0.43초 지연 수치가 스펙 표의 항목이 아니게 된다. 인간의 대화 순서 교대는 약 200밀리초의 간격으로 이루어진다. 430밀리초에서 Griffin은 눈에 띄게 느리지만, 연결 상태가 나쁘거나 시끄러운 방에 있는 사람의 범위를 벗어나지는 않는다. 이 간격은 맥락으로 가려질 수 있으며, 바로 그 점이 위험하다. 사용자들은 이를 네트워크 상태 탓으로 돌리지, 뭔가 잘못되고 있다고 생각하지 않는다.

Tavus가 출시하지 않기로 한 결정은 이를 정확히 읽은 것이다. 이 회사는 두 입장 사이에 있다. 이 기술은 통제된 연구에서 참가자 대다수를 속일 수 있음이 입증되었다. 대응책(출처 표시, 라이브니스 탐지, 통화 내 신원 검증)은 이 기술이 필요로 할 규모로 마련되어 있지 않다.

벤치마크에는 인간 기준선이 있고, 그게 핵심이다

VideoFDB가 Griffin의 3.73에 대해 인간 점수 4.20을 보고한다는 점은 주목할 만하다. 이 모델은 시스템 중 1위지만 여전히 사람보다 낮다. 이 격차가 현재 최첨단이며, '인간 이하'라는 위안이 줄어들 정도로 빠르게 좁혀지고 있다.

더 유용한 숫자는 시간 경과에 따른 참가자 신뢰율이다. 이 연구는 1분 후의 믿음을 측정했다. 대부분의 탐지 전략은 관찰자가 더 긴 시간 창에서 무언가를 알아차리는 데 의존한다. 반복되는 제스처, 대화 이력과 맞지 않는 응답, 두 번 회피된 질문 같은 것이다. 첫 1분은 견디지만 5분에 걸쳐 무너지는 시스템은 한 시간 동안 버티는 시스템과 다른 위협이며, 공개된 수치는 첫 1분만 다룬다.

조직이 지금 해야 할 일

방어 조언은 화려하지 않고 대부분 조직 운영에 관한 것이다.

금융 지시에 대한 텍스트 기반 검증은 더 이상 충분하지 않으며, 음성도 마찬가지다. 알려진 번호로의 콜백은 알 수 없는 참가자와의 화상 통화보다 낫다. 왜냐하면 그 채널은 검증되지만, 채널 위의 사람은 그렇지 않을 수 있기 때문이다. 공유 비밀은 유출될 때까지 작동하는데, 실제로 유출된다.

더 강력한 조치는 절차적이다. 고액 지시에는 두 번째의 독립적인 채널이 필요해야 하며, 그 두 번째 채널은 요청자가 시작할 수 없는 것이어야 한다. 이는 바로 이런 이유로 자금 관리 운영에서 표준 관행이며, 모든 화상 참가자가 합성일 수 있는 세계로 확장된다.

플랫폼 운영자에게 압박은 라이브니스와 출처에 있다. C2PA 매니페스트와 SynthID 워터마크는 생성된 미디어에 출처를 부착하지만, 둘 다 재인코딩을 안정적으로 견디지 못한다. 실시간 비디오에는 매니페스트가 전혀 없다. 즉 검증은 수신 측에서, 통화 중에, Griffin이 그럴듯하게 생성하도록 훈련된 바로 그 행동 신호를 바탕으로 이루어져야 한다.

여기에는 이름 붙일 가치가 있는 불편한 순환성이 있다. 사람들이 화상 참가자가 실제인지 판단할 때 사용하는 행동 신호(자연스러운 멈춤, 미세 표정, 예상치 못한 내용에 대한 적절한 반응)는 실시간 모델이 그럴듯하게 재현하도록 최적화된 바로 그 신호다. 그런 신호에 기반한 탐지는 방어자를 영구적인 뒤처진 위치에 놓는다. 항상 현재 세대가 회피하는 법을 배운 뒤에 지난 세대의 단서를 확인하게 된다.

가짜로 만들기 더 어려운 신호는 모델의 통제 밖에 있는 것들이다. 신원 주장이 독립적인 채널을 통해 검증 가능한지, 계정에 이력이 있는지, 같은 사람에게 다른 경로로 두 번째 연락이 가능한지 여부다. 행동 탐지가 아니라 신원 인프라다.

공개 표시 기준이 진짜 싸움이다

Tavus의 자제는 회사 결정이며, 회사 결정은 뒤집힐 수 있다. 지속적인 질문은 한 시스템이 짧은 상호작용의 대다수에서 인간으로 통과할 수 있을 때 기본값이 무엇이어야 하는가이다.

비교할 대상은 EU AI Act와 전 세계적으로 시행되고 있는 합성 콘텐츠 라벨링 제도다. 그 규칙들은 생성 후에 표시할 수 있는 미디어를 전제로 설계되었다. 메타데이터와 가시적 라벨이 있다. 실시간 합성 비디오는 그렇지 않다. 표시할 것이 없다. 출력이 일시적이고 대화적이기 때문이다. 공개는 통화를 거는 시스템의 속성, 즉 수신 당사자가 확인할 수 있는 자동 참가자의 등록되고 검증 가능한 신원이어야 한다.

그것은 해결 가능한 공학 문제이며, 아무도 그것을 출시하지 않았다. 누군가 해내기 전까지 솔직한 상황은 이렇다. 한 회사가 기계를 화상 통화에서 사람이라고 대다수를 설득할 수 있는 무언가를 만들고, 그것이 작동한다는 데이터를 공개했으며, 출시를 거부했다. 이는 대안보다 나은 결과이며, 한 회사가 원하는 동안에만 유지되는 결정이다.