눈 깜빡임은 이제 증거가 아니다, AI 영상이 얼굴 인식을 뚫다

10월 26일, 'AI 생성 영상이 얼굴 인식을 통과할 수 있다'는 이슈가 웨이보 실시간 검색어에 올랐다. 댓글창은 '소름 돋는다'는 말로 가득했다. 그런데 정말 불편한 것은 기술 자체가 아니다. 그 검색어 아래에서 아무도 입 밖에 내지 못한 질문이다. 지난번 얼굴 인식을 할 때, 화면 건너편에서 '나'라고 확인한 것은 정말 나였을까, 아니면 15초짜리 영상이었을까.

항저우 중급인민법원이 올해 공개한 사건은 그 답을 탁자 위에 올려놓았다. 두 사람은 인터넷에서 남의 사진을 모아 AI로 끄덕이고, 고개를 젓고, 눈을 깜빡이는 영상을 만들고, 카메라 데이터까지 위조했다. 그걸로 한 쇼핑 플랫폼의 얼굴 인증을 통과해 계정에 있던 개인정보를 통째로 빼냈다.

창사 위화구 법원의 사건은 더 노골적이다. 한 대학생이 불법 사이트에서 'AI 얼굴 위조 영상' 기술을 사들여 남의 얼굴 영상을 만들고 결제 비밀번호를 재설정했다. 넉 달이 채 안 되는 기간에 5만 위안 넘게 긁어냈다. 해커 영화에 나오는 서버실도, 내부 공모자도 없다. 기숙사 방에서 혼자 해낼 수 있는 일이다.

'눈 깜빡이세요'라는 방어선은 원래 임시방편이었다

라이브니스 탐지의 논리는 단순하다. 카메라가 '화면 앞에 살아 있는 사람이 있다'고 확인하게 만드는 것이다. 초기에는 눈 깜빡임, 입 벌리기, 고개 젓기에 의존했다. 이후 조명 변화, 화면 반사, 적외선 깊이 정보가 붙었고, 다시 동작 무작위화가 더해졌다. 시스템이 왼쪽으로 고개를 돌리라고 하거나 숫자를 읽으라고 시키는 식이다.

이 설계에는 명시되지 않은 전제가 깔려 있다. 움직이는 얼굴을 위조하는 일이 정지된 얼굴을 위조하는 일보다 훨씬 어렵다는 전제다.

그 전제가 2026년에 무너졌다. 지금의 영상 생성 모델은 정면 사진 한 장을 넣으면 수십 초 만에 미세 표정과 호흡의 떨림, 머리의 미세한 흔들림까지 담은 클립을 뽑아낸다. 끄덕이라고 하면 끄덕이고, 눈을 깜빡이라고 하면 깜빡인다. 비용은 얼마일까. 환구시보가 인터뷰한 전문가는 구체적인 숫자를 냈다. 수십 위안과 십여 초 분량의 음성만 있으면 누구든 '복제'할 수 있다는 것이다.

진짜 구멍은 모델이 아니라 유통에 있다

분명히 해둘 것이 있다. 이런 공격은 '최첨단 알고리즘을 속이는' 데 거의 기대지 않는다. 노리는 것은 프로세스에서 가장 얇은 고리다.

첫 번째 고리는 데이터의 출처다. 당신의 얼굴 사진은 데이터베이스가 해킹당하지 않아도 구할 수 있다. 웨이보 타임라인, 채용 사이트, 중고거래 앱 프로필 사진, 택배 송장에 붙은 신분증 사본. 정면이 선명한 사진 한 장이면 충분하다. 항저우 사건에서 피의자들이 한 일은 그야말로 '인터넷 수집'이었다.

두 번째 고리는 카메라 데이터의 신뢰도다. 카메라 데이터를 위조한다니 고급 기술처럼 들리지만, 실제로 많은 클라이언트가 카메라가 넘겨준 화면을 그대로 신뢰 입력으로 받아들인다. 중간에 서명 검증이 없다. 자물쇠는 튼튼한데 문틀이 종이로 된 셈이다.

세 번째 고리는 재사용이다. 같은 템플릿을 수십 명에게 한꺼번에 씌우고, 계정이 정지되면 껍데기만 바꿔 다시 연다. 한계 비용은 사실상 0이다. 전문가가 말한 '진입 장벽이 극히 낮고, 템플릿은 대량 복제가 가능하며, 정지되면 껍데기를 갈아 끼운다'는 기술 이야기가 아니다. 이 사업의 한계 비용 이야기다.

이 사슬의 상류에는 훨씬 돈이 되는 장사가 있다

5만 위안 부정 결제는 형사사건 규모다. 진짜 규모가 붙는 쪽은 반대편 끝이다.

10월 18일, 배우 우웨가 입을 열었다. 한 계정이 AI로 자신의 얼굴과 목소리를 위조해 스킨케어 제품을 팔고 있다는 것이다. 그녀가 남긴 캡처 화면에 따르면 해당 제품의 누적 판매량은 1만 6492건, 매출은 대략 130만 위안을 넘겼다. 위조 영상 말미에는 덩야핑을 흉내 낸 이미지가 등장해 계속해서 판매를 이어갔다.

한쪽은 수십 위안의 제작비, 다른 쪽은 100만 위안대 매출. 이 비대칭이야말로 이런 콘텐츠가 계속 나오는 이유다. 계정 정지는 처벌이 아니라 비용이다.

규제 움직임도 동시에 있었다. 중국 국가광파전시총국은 'AI 마개조' 특별 단속을 시작해 사대명저와 역사 소재, 영웅 모범 인물을 소재로 한 위규 각색을 집중 정리했다. 주요 온라인 동영상 플랫폼은 9월 한 달에만 위규 영상 약 1만 3000건을 삭제했다. 정리 건수가 만 단위라는 것은 공급 측 생산능력이 이미 과잉이라는 뜻이다.

평범한 사람이 할 수 있는 일은 생각보다 구체적이다

CCTV가 내놓은 조언은 실용적이어서 그대로 적어둘 만하다.

영상 통화에서는 상대에게 지정 동작을 요구하라. 세 번 연속 눈을 깜빡이기, 코 만지기, 얼굴 앞에서 손 흔들기 같은 것이다. 얼굴 합성은 가림과 빠른 움직임에서 가장 쉽게 들통난다. 화면이 늦게 따라오거나 윤곽이 떨리거나 부자연스럽게 일그러진다.

모르는 번호로 걸려온 전화에서 상대가 계속 말이 없다면 먼저 입을 열지 마라. 조용히 3초를 기다리고, 그래도 침묵이면 끊어라. 음성 샘플은 복제의 원료다. 한마디 더 하면 소재가 한 토막 더 쌓인다.

주민등록번호, 직장, 집 주소, 직책은 꼭 필요하지 않으면 주지 마라. 출처가 불분명한 미니프로그램에 얼굴과 사진, 목소리, 지문을 남기지 않는 것이 좋다.

플랫폼 쪽에서 실제로 효과가 있는 것은 라이브니스 탐지를 더 화려하게 만드는 일이 아니다. 세 가지다. 수집 단계에서 서명을 붙여 '카메라 데이터'에 추적 가능한 출처를 만들 것. 고위험 작업에는 2차 인증을 강제하고 얼굴 인식을 유일한 자격 증명으로 삼지 말 것. 그리고 생성 콘텐츠에 서명 자리를 남길 것. 어느 모델이 만들었고, 누가 올렸고, 플랫폼이 식별한 뒤 무엇을 했는지다.

한 가지 불편한 결론

이번 논의에서 많은 사람이 '탐지 도구'에 희망을 걸었다. 하지만 탐지는 언제나 뒤늦다. 의심스러운 영상이 먼저 있어야 그것을 검증할 수 있다. 그런데 얼굴 결제는 당신이 그 영상을 보기도 전에 일어난다.

그래서 진짜 해법은 대개 알고리즘 쪽에 있지 않다. 제도와 제품 쪽에 있다. '얼굴'을 유일한 자격 증명에서 보조 수단으로 격하하고, 고액 이체와 비밀번호 변경 같은 동작을 다중 인증으로 되돌리고, 생성 콘텐츠의 출처 표시를 선택 사항이 아니라 기본값으로 만드는 일이다.

기술은 이미 '진짜처럼 보이는 것'의 가격을 배추값 수준으로 떨어뜨렸다. 이제 돈을 써야 할 곳은 '내가 맞다'는 확인이 무엇인지 다시 정의하는 일이다.