AI 이미지와 진짜 사진을 아직도 구별할 수 있을까? 솔직히 말하면, 아니다.

이번 달에는 진지한 질문을 점수판으로 바꾸는 게임이 돌고 있다. 이미지들을 쏟아 보여주고 어떤 것이 AI 생성인지 표시하라고 한다. 사람들은 자신이 눈썰미가 좋다고 믿으며 게임을 시작하지만, AI가 사실적인 사람 손을 제대로 그리기 시작하는 지점쯤에서 정확도가 무너지는 걸 본다. 그것이 신뢰할 만한 단서였던 때는 진작 지났다. 이 게임은 Hacker News에서 100점 넘게 올라갔고, 댓글창은 자기 눈이 얼마나 무딘지 발견한 사람들의 자조 모임처럼 읽힌다.

단서는 사라졌다

사람들이 의지하던 모든 요령은 막혔다. 손가락이 더 많거나, 텍스트가 뭉개지거나, 피부가 플라스틱 같거나, 불가능한 조명. 최신 모델들은 이 모두를 충분히 잘 처리해서 어느 하나에만 의존할 수 없다. 특히 텍스트가 극적으로 좋아졌고, 이는 인간이 탐지할 수 있는 마지막 쉬운 승리 중 하나를 없앴다. 장면 안에 읽을 수 있는 간판을 렌더링하는 모델은 예전에는 확실한 실마리였다. 이제는 기본이다.

결과는 이상한 상황이다. 이미지는 더 좋아졌지만, 사람이 그것을 알아보는 능력은 그렇지 않다. 대부분의 사람은 좋은 AI 이미지와 진짜 사진을 나란히 두고 보면 사실상 추측한다. 이 게임의 인기는 그 일부를 증명한다. 계속 틀리기 때문에 재미있고, 틀리는 것이 핵심이다. 자신감은 높고 정확도는 동전 던지기 수준이다.

탐지기도 우리를 구하지 못한다

AI 탐지 도구라는 별도의 시장이 있고, 그것도 마찬가지로 흔들린다. AI 이미지를 찾아낸다며 새 도구들이 나오지만, 실험실에서는 작동하고 현실에서는 실패한다. 한 모델의 아티팩트에 맞춰 학습된 탐지기는 다음 모델에서는 고전한다. 이미지를 압축하거나, 크기를 조정하거나, 소셜 플랫폼의 재인코딩을 거치면 탐지기가 의존하던 미세한 지문은 지워진다.

더 나쁜 것은 탐지기가 오탐을 낸다는 점이다. 특정 조명이나 강한 필터가 들어간 진짜 사진도 탐지기를 걸리게 할 수 있다. 이미지에 대한 신뢰를 되살리기 위한 도구에서 오탐은 심각한 문제다. 누구든 진짜 사진을 가짜라고 치부할 수 있게 만들기 때문이다. 다시 말해 탐지 도구는 양방향으로 무기가 될 수 있다. 이는 더 많은 학습으로 고쳐지는 결함이 아니다. 구조적 문제다.

군비 경쟁의 승자는 하나뿐이다

사람들이 계속 과소평가하는 근본적인 비대칭이 있다. 생성기는 진짜처럼 보이는 이미지를 만들려 하고, 목표가 명확하다. 탐지기는 그것을 찾아내려 하지만, 계속 더 나아지는 움직이는 표적을 쫓는다. 군비 경쟁에서는 명확한 목표와 빠른 반복 루프를 가진 쪽이 보통 이기고, 그쪽은 생성기다.

새 모델이 나올 때마다 탐지기는 재학습해야 하고, 따라잡을 즈음이면 다음 모델이 출시되어 있다. 격차는 좁혀지지 않는다. 벌어지고 있으며, 출시마다 더 벌어진다. 탐지 도구를 파는 사람들은 낙관적으로 들릴 유인이 있지만, 실제 추세선은 그들 편이 아니다. 오히려 솔직한 입장은 신뢰할 수 있는 탐지란 지는 게임이며, 이를 빨리 받아들일수록 실제로 도움이 되는 일에 착수할 수 있다는 것이다.

실제로 이것이 의미하는 것

“구별할 수 있나요”에 대한 솔직한 답은 ‘안정적으로는 아니다, 그리고 점점 더 아니다’이다. 더 유용한 질문은 우리가 그것과 어떻게 살아갈 것인가다. 검증은 상류로, 즉 출처로 옮겨가야 한다. 이미지가 생성 시점에 서명되거나, 어디서 왔고 어떻게 편집됐는지에 대한 기록을 갖고 있다면, 픽셀을 들여다볼 필요가 없다. 메타데이터를 확인하면 된다.

그런 인프라는 일반 사용자에게 거의 존재하지 않는다. 일부 카메라 제조사와 플랫폼이 콘텐츠 자격 증명(content credentials)을 실험하고 있지만, 표준이 아니며, 이미지가 스크린샷되는 순간 사슬은 끊긴다. 그것이 바뀔 때까지 기본값은 회의주의이고, 회의주의는 지치게 한다. 또한 부식성이 있으며, 그것이 우리가 이제서야 느끼기 시작한 부분이다.

진짜 문제는 사회적 비용이다

피해는 사실 가짜 이미지에 속는 것에 관한 게 아니다. 공유된 신뢰의 붕괴에 관한 것이다. 어떤 사진이든 조작될 수 있고 탐지 도구도 믿을 수 없다면, 사람들은 진짜 증거를 포함해 모든 것을 의심하기 시작한다. 이는 어떤 개별 이미지보다 무거운 문제이며, 기술이 아직 해결하지 못한 문제다.

이것이 기술 대화가 계속 놓치는 부분이다. AI 이미지를 걱정하는 사람들은 대부분 재미있는 필터에 속는 것을 걱정하지 않는다. 진짜 사건의 진짜 사진이 가짜라고 치부되고, 가짜가 진짜라고 옹호될 수 있는 세상을 걱정한다. 증거 자체가 의심받으면, 증거에 기대는 논증은 작동을 멈춘다. 이는 탐지기 문제가 아니다. 신뢰 문제이며, 그 양쪽의 어떤 도구보다도 크다.

책임은 이동 중이고, 아무도 떠맡으려 하지 않는다

조용한 부차적 줄거리 중 하나는 책임이 계속 떠돌기만 하고 어디에도 정착하지 않는다는 점이다. 모델 제작자는 그저 도구를 제공할 뿐이라고 말한다. 플랫폼은 모든 이미지를 검증할 수 없다고 말한다. 사용자는 자신이 포렌식 분석가가 되어서는 안 된다고 말한다. 모두 기술적으로는 맞고, 그 결과 가짜 이미지가 피해를 입혔을 때 아무도 책임지지 않는다.

그 책임의 확산이 실제 문제다. 조작된 이미지가 퍼져 피해를 주면 피해는 실재하지만, 그것을 잡아낼 일을 맡은 단일 행위자는 없다. 모델 제작자는 유능한 도구를 출시했고, 플랫폼은 그것을 호스팅했고, 사용자는 그것을 믿었다. 사슬의 각 고리는 다음 고리를 가리키며 자신은 잘못한 게 없다고 주장할 수 있다.

책임이 구체적인 어딘가에 정착할 때까지 기본 답은 도구를 탓하거나 보는 사람을 탓하는 것이고, 둘 다 통하지 않는다. 도구를 탓하는 것은 연출된 사진에 대해 카메라를 탓하는 것과 같다. 보는 사람을 탓하는 것은 이제 어떤 인간도 안정적으로 구별할 수 없다는 사실을 무시한다. 솔직한 해법은 구조적이다. 공개와 출처에 관한 명확한 규칙이 이미지를 보는 사람이 아니라 게시하고 유통하는 사람을 구속해야 한다.

실제로 다음에 오는 것

이미지 생성기가 군비 경쟁에서 이겼다. 너무나 좋아져서 “이것이 진짜인가”라는 질문에 더는 빠른 답이 없다. 다음에 풀 문제는 더 나은 탐지기를 만드는 것이 아니다. 이미지의 진실성이 당신의 눈이 우연히 그것을 잡아내는지에 달려 있지 않은 시스템을 구축하는 것이다. 출처, 서명된 콘텐츠, 검증 가능한 보관 사슬. 그것들은 지루하고, 실제로 작동할 유일한 것이다. 눈은 패배했고, 그렇지 않은 척하는 것은 모두에게 잘못된 안도감만 줄 뿐이다.