애플이 이제 사용자 데이터로 AI를 학습시키려 한다, 이미지 모델이 표적에 올랐다

애플은 수년간 스스로를 프라이버시 기업으로 포지셔닝해 왔다. “아이폰에서 일어난 일은 아이폰에 남는다”는 문구를 광고판에 내걸었고, 온디바이스 처리를 판매 포인트로 만들었으며, 데이터로 먹고사는 경쟁사들을 상대로 프라이버시를 무기로 썼다. 그래서 이번 달 애플이 이제 사용자 데이터로 AI 모델을 학습시키려 한다는 보도가 나왔을 때, 그 반전은 큰 충격으로 다가왔다.

독일 매체 하이제(Heise)가 보도하고 해커뉴스에서 널리 확산된 이 기사는 애플이 사용자 콘텐츠로 모델을 학습시키는 쪽으로 입장을 바꾸고 있다고 전하며, 옵트인과 프라이버시 보호에 관한 늘 그렇듯한 확언을 덧붙였다. 세부 내용보다 중요한 것은 방향이다. 사용자의 데이터를 건드리지 않는 것으로 브랜드를 세운 기업이 이제 그 데이터로 학습할 방법을 찾고 있으며, 이 두 입장 사이의 간극이 바로 이 사안의 핵심이다.

이미지 생성 분야에서 이것은 추상적인 정책 문제가 아니다. 텍스트-투-이미지와 이미지 편집 모델은 사용자가 끊임없이 만들어내는 바로 그런 종류의 데이터에 목말라 있다. 사진, 스크린샷, 그림, 편집된 이미지, 그리고 사람들이 원하는 것을 묘사할 때 쓰는 프롬프트까지 말이다. 말을 그림으로 바꾸는 모델에게 최고의 학습 신호는 방대한 양의 실제 이미지와 그것을 사람들이 어떻게 이야기하는지를 짝지은 데이터다. 모든 아이폰 사용자는 사실상 바로 이런 종류의 짝지어진 데이터를 걸어 다니는 데이터셋인 셈이다.

애플은 오픈AI, 구글, 어도비에 비해 이미지 생성 분야에서 조용했지만, 구성 요소들은 이미 갖춰져 있다. 온디바이스 생성, 사진 편집 기능, 그리고 계속 늘어나는 창작 도구들은 모두 사용자 데이터로부터 엄청난 이득을 얻을 모델들을 가리킨다. 사진 라이브러리만 해도 대부분의 연구소가 부러워할 만한 코퍼스다. 위치, 시간, 인물 태그가 붙은 수십억 장의 이미지는 ‘호수 위의 노을’이나 ‘우리 딸의 생일’이 어떻게 생겼는지 모델에게 가르치는 원료다. 문제는 애플이 자사의 차별점이었던 신뢰를 깨뜨리지 않으면서 그 데이터를 사용할 수 있느냐다.

이 긴장은 애플만의 것이 아니다. 모든 주요 모델 개발사가 같은 경제학에 직면해 있다. 학습 데이터가 병목이고, 고품질 데이터는 부족하며, 사용자 콘텐츠는 가장 큰 미개척 풀이다. 사용자 데이터로 학습하기를 거부했던 기업들은 이제 경쟁사가 그렇게 하는 것을 지켜보며 따라가야 한다는 압박을 느낀다. 웹은 대체로 이미 긁어낼 만큼 긁어냈고, 합성 데이터는 나름의 품질 한계가 있으며, 학습 데이터의 다음 개척지는 사람들이 사적인 앱과 기기에서 만들어내는 것들이다. 애플의 입장 번복은 많은 기업이 조용히 내리고 있는 결정의 가장 눈에 띄는 사례일 뿐이다.

책임 있는 방식과 무모한 방식을 가르는 것은 학습 행위 자체가 아니라 동의와 투명성이다. 명시적으로 옵트인하고, 자신의 데이터가 무엇에 쓰이는지 알고, 언제든 철회할 수 있는 사용자는 기본값으로 이미지가 수집되고 아무도 읽지 않는 이용약관 업데이트 속에 묻히는 사용자와 처지가 다르다. 애플에 관한 보도는 애플이 프라이버시 관련 표현은 유지하면서 학습으로 가는 문을 열려고 애쓰는 모습을 보여주는데, 이를 얼마나 후하게 보느냐에 따라 동의 기반 학습을 향한 진지한 시도일 수도 있고, 신중하게 관리된 입장 번복일 수도 있다.

특히 이미지 데이터에는 더 깊은 문제가 있다. 사진은 검색 쿼리와 같지 않다. 사진에는 개인을 식별할 수 있는 사람, 장소, 메타데이터가 담겨 있고, 나중에 그 사람들을 닮은 이미지를 생성할 수 있는 모델의 원료가 된다. ‘학습 데이터’와 ‘초상’ 사이의 경계는 순식간에 흐려진다. 누군가의 얼굴로 모델을 학습시키면 그 얼굴을 재현할 수 있게 될 수 있고, 이는 동의, 퍼블리시티권, 프라이버시에 관한 질문을 제기하는데, 텍스트 모델은 결코 답할 필요가 없는 질문들이다.

규제 당국은 이번 달 그록 딥페이크 사건들에서 한 사람의 이미지를 악용하는 것을 단순한 콘텐츠 모더레이션 문제가 아니라 데이터 보호 문제로 다룰 의사가 있음을 보여줬다. 영국 정보위원회(ICO)는 비동의 딥페이크를 데이터 보호 위반으로 규정했고, 이런 규정 방식은 모델을 학습시키는 이미지를 기업이 처음부터 어떻게 수집하고 사용하는지에까지 쉽게 확장될 수 있다. 여러 기업 중에서도 애플은 완벽한 동의 없이 초상으로 학습하다 적발되고 싶어 하지 않을 것이다.

사용자 입장에서 실질적인 교훈은 안내 문구와 설정을 꼼꼼히 읽으라는 것이다. 기본값이 여러분에게 유리하지 않을 수 있고, 옵트아웃할 수 있다는 사실은 그런 선택지가 있다는 걸 알고 찾을 수 있을 때에만 의미가 있다. 애플이 학습 옵트인을 도입하면 설정에서 그것을 찾아, 실제로 뭐라고 쓰여 있는지 읽고, 그냥 넘기지 말고 스스로 판단하라. 프라이버시 설정은 그것으로 무엇을 하느냐에 따라서만 가치가 있다.

업계에 애플의 이번 행보는 프라이버시 우선을 고수하던 AI 시대가 끝나가고 있다는 신호다. 프라이버시를 슬로건으로 만든 기업조차 사용자 데이터로 학습을 시작한다면, 어떤 주요 모델이 여러분의 이미지 없이 만들어졌다는 가정은 유지하기 어려워진다. 다른 모든 이들에게도 판돈이 커진다. 애플이 동의를 받아 사용자 데이터로 학습하고 성공하면 그 관행은 정당화된다. 반대로 실수를 해서 형편없이 하다 적발되면, 그록 스캔들이 이미 밀어붙이고 있는 규제의 명분을 강화하게 된다.

애플은 아마 프라이버시 관련 표현을 계속 유지할 것이다. 그 표현 자체가 곧 제품이기 때문이다. 진짜 질문은 그 표현이 여전히 실제로 벌어지는 일을 설명하는지, 아니면 마케팅 팀이 여러분에게 느끼게 하고 싶은 것일 뿐인지다. 답은 지금 AI의 대부분의 사안과 마찬가지로 아직 쓰이고 있으며, 어떤 보도자료보다도 설정 화면의 작은 글씨에서 먼저 쓰일 것이다.

간과하기 쉬운 경쟁적 측면이 있다. 애플은 경쟁사들에 비해 생성형 AI에 늦었고, 기술 리더로서의 이미지에 타격을 주는 방식으로 늦었다. 따라잡아야 한다는 압박은 실재하며, 학습 데이터는 따라잡을 수 있는지를 결정하는 제약이다. 경쟁사들이 사용자 데이터로 학습하는 동안 자사는 그러지 않겠다고 고집하는 기업은 한 손을 묶고 싸우기로 선택하는 것이다. 애플의 입장 번복이 정말 번복이라면, 그것은 어떤 철학적 전환만큼이나 경쟁에서 살아남으려는 문제이기도 하다. 프라이버시 브랜드는 애플이 AI로 경쟁하지 않으려 했을 때의 차별점이었다. 이제는 경쟁하려 하는 만큼, 브랜드와 야심이 서로 반대 방향으로 잡아당긴다.

이미지 생성에서 이 긴장의 판돈은 구체적이다. 애플의 사진 생태계는 틀림없이 가장 강력한 미활용 자산일 것이다. 사진 앱, 편집 도구, 하드웨어 카메라, 이 모든 것이 대부분의 AI 연구소라면 큰돈을 지불할 고품질의 잘 레이블링된 이미지 데이터를 끊임없이 만들어낸다. 애플이 진정한 동의를 얻어 그 데이터로 이미지 모델을 학습시킬 수 있다면, 웹을 긁는 데 갇힌 경쟁사들을 단숨에 앞지를 수 있다. 그렇게 하지 못한다면, 다른 기업들이 자사의 창작 도구 시장을 잠식하는 동안 그 자산이 쓰이지 않은 채 방치되는 것을 지켜봐야 한다. 이것이 이 정책 이야기 뒤에 숨은 진짜 상금이다.

애플이 가장 면밀히 지켜봐질 지점은 바로 동의 메커니즘이다. 애플은 많은 사용자가 대충 훑고 수락하는 옵트인 팝업을 통해 데이터 수집을 설명해 온 이력이 있다. 그것이 의미 있는 동의로 인정되는지가 바로 규제 당국이 던지기 시작한 질문이며, 그록 딥페이크 사건이 수면 위로 끌어올린 같은 질문이다. 애플은 이 문제를 잘못 풀었을 때 대부분의 기업보다 잃을 것이 많다. 회사의 명성 전체가 프라이버시를 다르게 대한다는 주장에 걸려 있기 때문이다. 그 주장이 마케팅에 불과한 것으로 드러난다면, 타격은 법적 차원에 그치지 않고 브랜드 차원에 이르며, 애플이 아직 확실히 가진 단 하나의 우위마저 훼손될 것이다.