Nanosaur 2와 아무도 풀지 못한 오픈 웨이트 딜레마

"New uncensored image model! Nanosaur 2 full release!"라는 제목의 글이 이번 주 r/StableDiffusion에서 가장 많은 추천을 받은 게시물이 되었으며, 순식간에 336개의 추천과 98개의 댓글을 끌어모았다. 이번 릴리스 자체는 긴 계보의 한 항목일 뿐이다. 호스팅 서비스가 강제하는 안전 필터를 제거한 오픈 이미지 모델들. 이 순간을 글로 쓸 가치가 있게 만드는 것은 모델이 아니다. 그것은 이런 모델이 나올 때마다 터지는 논쟁이다. 커뮤니티는 결코 이 문제를 해결한 적이 없고, 아마 해결할 수 없기 때문이다.

로컬 커뮤니티 내부의 분열

r/StableDiffusion에서 시간을 보내다 보면 하나의 서브레딧을 공유하는 두 문화를 발견하게 된다. 하나는 검열되지 않은 웨이트를 원칙으로 여긴다. 모델은 내 하드웨어에서 실행되고, 내가 검사하거나 최소한 감사할 수 있는 데이터로 학습되며, 내가 생성하는 것은 내 작업실의 다른 도구와 마찬가지로 내 책임이다. 다른 하나는 같은 릴리스를 부담으로 여긴다. 이 모델들은 호스팅 플랫폼이 금지하는 콘텐츠를 만들기 위해 존재하고, 그 출력은 실제 사람에게 닿으며, 검열되지 않은 릴리스가 나올 때마다 로컬에서 모델을 실행하는 다른 모든 사람의 법적 환경이 나빠진다.

두 진영 모두 Nanosaur 2 스레드에서 활발했다. 추천 수는 이 릴리스가 폭넓은 관심을 끌었음을 시사한다. 댓글은 늘 그렇듯 기술적 논의와 결과에 대한 익숙한 논쟁으로 갈렸다. 어느 쪽도 상대를 설득하지 못했고, 이런 스레드는 항상 그렇게 끝난다.

책임론을 진지하게 받아들이기

원칙적인 입장에는 실제 실체가 있다. 로컬 생성은 API 로그도, 이용약관 변경도, 8월에 DALL·E의 독립 제품을 종료하고 ChatGPT Images로 흡수한 것 같은 갑작스러운 모델 지원 중단도 없다는 뜻이다. 호스팅 서비스 사용자들은 구독 중간에 기능이 사라지는 것을 지켜봐 왔다. 오픈 웨이트는 그런 변동성에 대한 유일한 지속 가능한 답이며, 노트북에서 실행되는 Qwen Image 2.1을 기뻐하는 바로 그 커뮤니티는 특정 출력이 아니라 릴리스 메커니즘을 기뻐한다.

반론에도 실체가 있다. 필터가 제거된 모델은 비동의 초상을 비롯한 여러 피해를 만들어내는 비용을 거의 0으로 낮춘다. 또한 Nanosaur 릴리스 며칠 전에 올라온, 사람들이 특정 배우의 사실적인 초상을 어떻게 생성하는지 묻는 r/StableDiffusion 스레드는 그것이 얼마나 일상화되었는지 보여주었다. 해악은 가정적이지 않다. 사람들이 공개적으로 하는 질문은 사적으로 벌어지는 일의 가장 순한 버전이다.

이 패턴에는 역사가 있다

이러한 역학은 전혀 새로운 것이 아니며, 커뮤니티 논쟁이 그렇게나 연습된 것처럼 들리는 이유이기도 하다. 암호화는 똑같은 주기를 겪었다. 정부가 통제하려 했던 기능이 오픈소스 프로젝트에 의해 어쨌든 배포되었고, 수십 년간의 책임 논쟁이 이어졌으며, 그 끝은 오픈 웨이트 논쟁이 향하는 곳과 같았다. 기술은 기정사실로 취급되고 논쟁은 행위로 옮겨갔다. 파일 공유, 3D 프린팅 총기, 탈옥된 휴대폰이 모두 변주를 연주했다. 각 사례의 교훈은 일관된다. 디지털 산출물에 대한 접근 통제는 완전히 새어 나가고, 지속 가능한 정책 투쟁은 산출물 자체가 아니라 주변부, 즉 유통 채널과 입증 가능한 피해에서 일어난다.

이미지 생성 버전은 산출물이 작기 때문에 선구자들보다 더 빠르게 움직인다. 7B 양자화 이미지 모델은 몇 기가바이트에 불과하고, 토렌트 하나, USB 스틱 하나에 들어간다. 마이크로컨트롤러 실험은 '작음의 상한'을 문자 그대로 보여주었다. 압축 파이프라인이 결국 2달러짜리 칩에서 쓸 만한 생성을 가능하게 한다면, 봉쇄는 애초에 선택지에 없었다.

콘텐츠 조정 기록이 보여주는 것과 보여주지 않는 것

호스팅 서비스는 대안으로 자사의 콘텐츠 조정을 내세우며, 그 기록은 정말로 엇갈린다. 플랫폼은 많은 것을 잡아낸다. 키워드 필터와 프롬프트 분류기가 노골적인 시도를 가로막고, 중국 법원에서 다투어진 울트라맨 사건들은 플랫폼이 필터로 막지 못한 출력에 대해 책임을 지게 됨을 보여주었으며, 책임 여부는 제공자가 적절한 신고 메커니즘과 경고를 갖추었는지에 달려 있었다. 이 사건들은 논쟁에서 양방향으로 작용한다. 호스팅 조정이 법적으로 의미가 있음을 보여주는 동시에, 그것이 구멍투성이임을 보여준다.

오픈 웨이트 진영에는 내세울 만한 비교 가능한 기록이 없으며, 이것이 솔직한 공백이다. 자원봉사 커뮤니티는 출력이 아니라 토론과 예절을 조정한다. 출력은 설계상 관찰할 수 없기 때문이다. Nanosaur 스레드의 댓글 섹션은 그 생태계에 존재하는 거버넌스에 가장 가까운 것이었다. 사람들이 커뮤니티가 무엇을 용인하고 무엇을 용인하지 않을지를 공개적으로 논쟁했다. 빈약하지만, 매주 적응하는 빈약한 거버넌스에는 느린 제도적 과정에는 없는 몇 가지 속성이 있다.

릴리스 수치가 수요에 대해 말하는 것

Nanosaur 2를 둘러싼 참여 패턴은 헤드라인보다 더 자세히 읽을 가치가 있다. 과대광고를 오래 기억하는 서브레딧에서 336개의 추천은 폭넓은 수동적 관심을 의미하지만, 실제로 커뮤니티가 일한 곳은 98개의 댓글이다. 과거의 검열되지 않은 릴리스들도 같은 궤적을 따랐다. 아키텍처와 메모리 사용량에 관한 기술 논의가 쏟아지고, 우려가 쏟아지고, 하드웨어 요구 사항에 대한 실용적인 질문을 하는 사용자들의 긴 꼬리가 이어졌다. 측정되는 수요는 특정 콘텐츠에 대한 것이 아니다. 그것은 통제, 즉 호스팅 플랫폼의 정책 팀이 동작을 정하지 않는 모델을 실행할 수 있는 능력에 대한 것이다.

그 해석은 이번 달의 나머지 증거와 일치한다. 2022년부터 운영되어 온 자원봉사 추론 네트워크인 AI Horde는 이번 달 새 인터페이스와 백엔드를 출시했고 여전히 사용자를 찾았다. EasyAI는 초보자를 위해 ComfyUI를 패키징했다. Qwen Image 2.1 포트가 확산되었다. 그 모든 프로젝트는 사람들이 자신에게 책임을 지는 생성을 원하기 때문에 성장하며, 그 모두가 Nanosaur 릴리스가 드러내는 것과 같은 거버넌스 공백을 물려받는다.

논쟁이 결코 해결되지 않는 이유

교착 상태가 지속되는 이유는 양쪽이 서로 다른 층위에서 옳기 때문이다. 도구의 층위에서 오픈 웨이트는 계속 존재할 것이다. 양자화 모델은 이제 마이크로컨트롤러에서 실행되므로 노트북에서야 당연히 실행되고, 어떤 정책도 토렌트를 되돌리지 못한다. 규범의 층위에서 커뮤니티는 실제 작업을 하고 있다. r/StableDiffusion 사용자들은 외부인보다 공개되지 않은 포토리얼리즘을 더 강하게 단속하고, 창작자들은 공개 방법을 논의하며, 초상과 스타일에 관한 예절이 스레드 하나하나마다 형성되고 있다. 법의 층위에서 법원은 이제 막 정리를 시작했고, 지금까지의 결과는 자신의 과정 기록을 남긴 사람에게 유리하며, 이 기준은 검열 논쟁 전체를 가로지른다.

또한 커뮤니티가 거의 언급하지 않는 경제적 층위도 있다. 호스팅 플랫폼은 조정 예산을 감당할 수 있지만, 웨이트를 공개하는 자원봉사 유지관리자는 그럴 수 없다. 이는 오픈 생태계가 안전 작업을 최종 사용자와 포럼 문화에 외주화한다는 뜻이다. 그것은 작동하지 않을 때까지 작동한다. 지금까지 제도적 답에 가장 가까운 것은 유통 수준이다. 모델 허브가 웨이트에 라이선스와 사용 정책을 붙이며, 이는 무엇이든 막는 척하지 않으면서 인센티브를 형성한다.

도움이 되는 구분

유용한 프레임은 역량, 접근, 사용을 구분한다. 오픈 웨이트는 접근을 바꾸지만, 근본적인 역량 자체를 바꾸지는 않는다. 같은 콘텐츠는 충분히 노력하면 호스팅 서비스에서도 생성할 수 있고, 다만 기록되고 가격이 매겨질 뿐이다. 논쟁을 "이것이 존재해야 하는가"로 프레이밍하는 것은 아무도 통제하지 못하는 층위인 역량 층위와 싸우는 것이다. 무언가를 움직이는 논쟁은 접근과 사용에서 일어난다. 모델이 어떻게 유통되는지, 어떤 공개가 기대되는지, 피해를 만들어내는 사람들에게 무슨 일이 일어나는지. 커뮤니티 자체의 에너지가 이미 향하는 곳도 바로 거기다. 그 프레임을 이름 붙이든 말든.

독자가 이 릴리스 주기에서 가져가야 할 것

로컬 모델을 사용한다면, 이번 달 스레드에서 나온 실용적 지침은 일관된다. 작업물의 출처를 보존하라. 출력 소유권이 문제 될 경우 과정 기록이 당신을 보호하기 때문이다. 지금까지 중국과 다른 곳의 법원 사건들은 이미지 자체보다 문서에 따라 판가름났다. 청중이 달리 가정할 만한 곳에서는 합성 콘텐츠임을 공개하라. 반-AI 반발을 가장 잘 처리하는 창작자는 들키지 않아도 되는 사람들이다. 그리고 당신이 생성하는 모든 이미지는 같은 웨이트를 가진 누구나 다시 생성할 수 있다고 가정하라. 이것이 오픈의 실제 의미다.

Nanosaur 2는 몇 주 안에 다음 릴리스로 대체될 것이다. 그것이 대표하는 딜레마는 대체되지 않을 것이다. 애초에 기술적 질문이 아니었기 때문이다. 그것은 모두가 가질 수 있는 역량을 두고 커뮤니티가 무엇을 하는가에 대한 질문이며, 커뮤니티는 그런 스레드에서 한 번에 하나의 논쟁씩 답을 쓰고 있다.