퓨디파이, 증류 학습으로 두 번 차단당하다 — 규칙이 개인에게까지 미치다

펠릭스 셸베리(Felix Kjellberg)는 퓨디파이(PewDiePie)로 더 잘 알려져 있는데, 자신의 시청자들에게 OpenAI가 자신을 두 번 차단했다고 말했다. 그의 위반 사항은 가중치를 밀반출하거나 API 접근 권한을 대규모로 재판매한 것이 아니었다. 그는 OpenAI 모델 중 하나의 출력물을 사용해 Ajax라는 9B 모델을 학습시켰고, 이 모델은 검색과 이메일 같은 일상적인 작업을 위해 자신의 하드웨어에서 직접 실행한다.

Ajax는 소형 오픈 모델인 Qwen3.5-9B를 기반으로 하며, 더 큰 폐쇄형 모델이 생성한 데이터로 미세 조정되었다. 이 과정을 증류(distillation)라고 한다. 지난 2년 동안 값싸고 유능한 모델들의 물결을 만들어낸 바로 그 기법이며, 이제 대형 연구소들이 열심히 단속하려는 기법이기도 하다.

증류란 실제로 무엇인가

모델을 증류한다는 것은 더 작은 모델이 더 큰 모델을 모방하도록 학습시키는 것이다. 교사 모델에 프롬프트를 입력하고, 그 답변을 수집한 뒤, 학생 모델이 이를 재현하도록 학습시킨다. 학생 모델은 교사 모델의 가중치나 아키텍처가 필요하지 않다. 패턴을 학습할 만큼만 교사 모델의 행동을 충분히 확보하면 된다.

연구소들이 신경 쓰는 이유가 여기에 있다. 프런티어 모델을 학습시키는 데는 수천만에서 수억 달러가 든다. 경쟁자나 개인이 API를 통해 그 출력물을 대량으로 수집하고 그 능력을 자신이 소유한 모델로 옮길 수 있다면, 작업에서 비싼 부분이 일부 우회된다. 출력물은 텍스트처럼 보이지만, 복사되는 것은 그 이면의 신호다.

셸베리의 사례가 중요한 이유는 규모가 작기 때문이다. 그는 경쟁 제품을 출시하는 자금력 있는 스타트업이 아니다. 소비자용 GPU와 로컬 모델을 가진 개인일 뿐이다. 단속은 거기까지 미쳤다.

연구소들은 규모를 추측하지 않는다

OpenAI의 셸베리 차단은 눈에 보이는 일부에 불과하다. 더 큰 작전들은 산업 규모다. Anthropic의 CEO 다리오 아모데이는 약 25,000개의 가짜 계정을 사용하고 Claude와 약 2,880만 건의 상호작용을 실행한 단일 증류 작업을 설명한 바 있다. 그 정도 규모에서 출력물 수집은 부업이 아니라 인력과 인프라를 갖춘 데이터 파이프라인이다.

OpenAI는 기업들을 상대로도 조치를 취했다. xAI가 OpenAI 출력물을 사용해 Grok을 학습시킨 뒤, OpenAI는 증류 우려를 이유로 Cursor의 모델 접근을 차단했다. 이러한 조치들의 패턴은 단속이 더 이상 명백한 재판매자만을 겨냥하지 않는다는 것이다. 폐쇄형 모델에서 추출된 능력에 제품이 의존하는 모든 사람을 겨냥한다.

이를 둘러싸고 탐지 산업 전체가 형성되고 있다. 연구소들은 계정 패턴, 요청량, 수집된 데이터의 통계적 지문을 찾는다. 적발되었다고 해서 항상 소송을 뜻하지는 않는다. API 접근 권한을 잃는 것일 수 있으며, 스타트업에게는 종종 그것이 소송과 같은 의미다.

25개 기업, 더 명확한 규칙을 요구하다

연구소들의 단속은 규칙이 무엇이어야 하는지에 대한 공개적인 이견을 배경으로 일어나고 있다. 2026년 7월, Nvidia, Meta, Microsoft를 포함한 25개 조직이 오픈 웨이트 모델이 미국의 AI 리더십에 핵심적이라고 주장하는 서한에 서명했다. 이들은 오픈 모델에 대한 광범위한 제한보다는 증류를 직접 다루는 표적형 법적 프레임워크를 요구했다.

OpenAI, Anthropic, Google은 서명하지 않았다. 세 곳 모두 출력물이 얼마나 쉽게 복사될 수 있는지를 제한하는 데 가치가 달려 있는 프런티어 모델을 보유하고 있다. 이 분열은 누가, 어떤 조건으로 그것을 할 수 있는가의 문제로 귀결된다.

그 틈에 미국 항소법원이 9월 말 별개의 데이터 포인트를 추가했다. Thomson Reuters v. Ross Intelligence에서 제3순회법원은 경쟁자의 편집 자료를 복사해 검색 제품을 학습시키는 것은 공정 이용이 아니라고 한 판결을 유지했다. 그 결과물인 제품이 원본과 직접 경쟁했기 때문이다. 이 사건은 생성 모델이 아니라 검색 엔진에 관한 것이며, 법원은 모든 AI 학습을 판단하는 것이 아니라고 신중히 밝혔다. 그러나 이는 기술적 단속이 강화되는 동시에 학습 데이터의 법적 토대가 흔들리고 있음을 시사한다.

왜 "증류"라는 용어가 그렇게 많은 일을 하는가

모델 출력물의 모든 사용이 같은 것은 아니며, 현행 규칙은 그 차이를 흐린다. 모델에게 코드 작성을 도와달라고 요청하는 것은 정상적인 사용이다. 경쟁 모델을 학습시키기 위해 수백만 개의 예시를 생성해 달라고 요청하는 것은 아니다. 그 둘 사이 어딘가에 출력물을 사용해 취미 모델의 동작을 조금 더 낫게 만드는 사람이 있으며, 셸베리가 대략 그 위치에 있다.

연구소들은 출력 데이터를 자신들이 사용하고 통제할 권리를 가진 자산으로 취급한다. 그들의 서비스 약관이 그렇게 말하고 있으며, 단속은 법적 기준이 아니라 약관을 따른다. 그래서 동일한 행위가 한 계정에서는 허용되고 다른 계정에서는 차단될 수 있다. 볼륨, 제공자가 해석하는 의도, 그리고 결과 모델이 경쟁자처럼 보이는지 여부에 달려 있다. 명확한 경계선은 없으며, 그 경계선의 부재가 바로 그 선을 지키려는 모든 사람에게 진짜 문제다.

탐지는 경계를 더 보기 어렵게 만든다. 연구소들은 수집을 시사하는 패턴을 찾는다: 이례적인 요청량, 일괄 생성된 계정, 평가 스위트와 유사한 프롬프트 등이다. 수천 개의 프롬프트를 실행하는 사람은 이 중 아무 것도 걸리지 않을 수 있다. 25,000개의 계정을 사용하는 작전은 걸릴 것이다. 그 사이에서는 답이 진정으로 불확실하며, 불확실성은 제품의 토대로 형편없다.

같은 시기에 법원 판결이 나왔다

기술적 단속이 강화되는 동안 법적 그림은 여전히 움직이고 있다. 9월 말, 제3순회법원은 경쟁자의 편집 자료를 복사해 검색 제품을 학습시키는 것이 공정 이용이 아니라고 한 판결을 유지했다. 그 결과물이 원본과 경쟁했기 때문이다. 법원은 자신의 결정이 생성 모델이 아니라 검색 엔진에 관한 것이며, AI 학습을 위한 보편적 규칙을 정하는 것이 아니라고 신중히 언급했다.

좁게 읽으면, 이 사건은 셸베리의 로컬 모델에 대해 거의 말해주지 않는다. 신호로 읽으면, 법원이 모델이 경쟁하는 제품의 자료로 학습될 때 시장 피해를 무겁게 저울질할 의향이 있다는 뜻이다. 연구소들은 이미 그 원칙이 자신들의 출력물에도 적용된다고 가정하고 행동하고 있다. 법원은 그것이 실제로 적용되는지는 아직 말하지 않았다.

작은 모델을 운영한다면 이것이 의미하는 바

개인 개발자와 소규모 팀에게 실무적 그림은 법보다 더 빠르게 바뀌었다.

직접 생성한 출력물로 로컬 모델을 학습시키는 것은 저작권법이 아니라 제공자의 서비스 약관에 달려 있는 회색 지대에 놓여 있다. 대부분의 주요 제공자는 출력물을 사용해 경쟁 모델을 학습시키는 것을 금지한다. 무엇이 "경쟁"으로 간주되는지는 제공자가 정의하며, 단속은 키 정지 형태로 예고 없이 찾아올 수 있다.

할 가치가 있는 몇 가지가 있다. 일반 정책이 아니라 증류하려는 특정 모델의 서비스 약관을 읽어라. 학습 데이터가 어떻게 생성되었는지 기록을 남겨라. 제공자가 요구할 경우 감사 가능한 흔적이 경고와 차단을 가르는 차이다. 파생 학습을 명시적으로 허용하는 라이선스를 가진 모델의 출력물을 선호하라. 여기에는 많은 오픈 웨이트 모델이 포함된다. 그리고 제품이 단일 제공자의 API에 의존한다면, 그 의존성을 편의가 아니라 위험으로 취급하라.

셸베리는 그가 공인이지만 그에게 걸린 이해관계는 낮기 때문에 특이한 테스트 사례다. 교훈은 그가 부당하게 대우받았다거나 마땅히 그랬다는 것이 아니다. 증류에 대한 관용이 좁아져서 소비자용 하드웨어에서의 개인 프로젝트가 두 번의 차단을 불러올 정도가 되었다는 점이다. 같은 기법을 대규모로 운영하는 팀들은 더 많은 여유가 아니라 더 적은 여유를 가정해야 한다.