4GB GPU로 2.8조 파라미터: AirLLM이 VRAM의 벽을 깬 방법

누구나 부딪히는 벽

대형 모델을 로컬에서 돌리려는 개발자라면 누구나 맞닥뜨리는 순간이 있다. 이는 실력 문제도, 비용 문제도 아니다. 사양표에 적힌 숫자 하나, 바로 VRAM이다. 제대로 된 오픈 모델은 대부분이 가진 GPU에 담기지 않는다. 그리고 흔한 해법인 더 큰 카드를 사는 일은 값이 터무니없는 수준까지 올라 버렸다.

그래서 이 분야는 우회책으로 가득 찼다. 가중치를 4비트까지 양자화한다. 모델의 일부를 시스템 RAM으로 내린다. 남의 하드웨어를 빌린다. 모두 작동하고, 모두 대가를 치르며, 모두 당신이 감수해야 하는 방식으로 모델을 바꾼다. 그런데 AirLLM이 있다. 이번 달 GitHub 트렌딩 상위권에 가까이 있는 저장소로, README에는 오타처럼 들리는 주장이 적혀 있다. 2.8조 파라미터, 단일 4GB GPU.

이 수법의 정체

AirLLM의 착상은 모델을 작게 만드는 것이 아니다. 전체를 한 번에 메모리에 붙들고 있으려는 시도를 멈추는 것이다. 토큰을 생성하기 전에 네트워크의 모든 층을 GPU에 올리는 대신, 이 방식은 모델을 한 층씩 흘려보낸다. 각 블록은 필요한 직전에 디스크에서 꺼내 쓰고, 쓰고 나면 놓아준다.

어느 순간이든 빠른 메모리에 있어야 하는 것은 모델의 아주 얇은 한 조각뿐이다. 나머지는 드라이브에 둘 수 있다. GPU는 창고가 아니라 작업대가 되고, 모델의 크기는 어떤 기계가 돌릴 수 있는지를 가르는 단단한 상한이기를 멈춘다.

사람이 아주 작은 책상에서 천 페이지짜리 책을 읽을 수 있는 것과 같은 이치다. 책 전체를 눈앞에 둘 필요는 없다. 필요한 것은 지금 펼친 페이지, 그리고 다음 페이지를 가져올 방법이다.

정직한 대가

층을 작은 GPU로 흘려보내는 일이 공짜라면 모두가 이미 하고 있을 것이다. 그래서 그 대가가 무엇인지 분명히 해둘 만하다. 토큰마다 가중치를 디스크에서 읽는 것은 과소평가하기 쉬울 만큼 느리다. GPU는, 메모리에 상주해 있었다면 곧바로 썼을 데이터를 기다리며 놀고 있다.

실질적인 결과는, 이런 구성이 모델을 메모리에 완전히 올린 경우와는 다른 종류의 작업에 잘 맞는다는 점이다. 채팅 제품처럼 빠른 응답을 끊임없이 내놓아야 한다면 스트리밍은 틀린 도구다. 아주 큰 모델을, 이미 가진 하드웨어로, 처리량보다 일단 돌아간다가 더 중요한 작업에서 가끔 돌리고 싶다면, 이 거래는 당신 쪽으로 기운다.

더 익숙한 우회책과 나란히 놓으면 이해하기 쉽다. 양자화는 모델 자체를 줄여, 약간의 정확도를 대가로 차지하는 공간을 줄인다. 그것은 모델이 무엇인지를 바꾼다. 스트리밍은 모델의 숫자는 그대로 두고, 그것이 사는 위치를 옮긴다. 둘은 경쟁자가 아니라 겹칠 수 있다. 양자화되었으면서 동시에 층별로 스트리밍되는 모델은 어느 한 기법만 쓴 것보다 더 작고 가볍다. 실무에서 두 접근이 함께 등장하는 경향이 있는 이유다.

덜 알려진 세 번째 대가도 있다. 드라이브다. 가중치를 스트리밍한다는 것은 매 회차마다 저장소에서 읽는다는 뜻이고, 그래서 모델이 메모리에 담기지 않는 순간 느린 디스크가 새로운 병목이 된다. 이 길로 들어선 사람은 중요한 하드웨어가 GPU만이 아니라는 것을 곧 배운다. 여기서는 빠른 SSD가 처리량에 있어 VRAM 몇 GB를 더 얹는 것보다 더 큰 도움이 된다.

상호작용성과 실행 가능성 사이의 이 구분이야말로 대부분의 비교가 놓치는 지점이다. 책상 위에서 거북이처럼 느리게 도는 모델도, 여전히 책상 위에서 돌릴 수 있는 모델이다. 클러스터가 없는 연구자, 혹은 특정 프롬프트를 특정 거대 모델로 시험해보고 싶은 개발자에게는 그것으로 충분할 수 있다.

왜 계속 트렌드에 오르는가

AirLLM은 새롭지 않다. 로컬 추론을 가까이서 좇는 사람이라면 익숙할 만큼 오래 있었다. 그런데도 트렌드 목록에 자꾸 다시 나타나는 이유는, 구체적인 구현보다 그 뒤에 있는 압력과 더 관련이 있다.

오픈 가중치 모델은 계속 커지고 있다. 지금 최고의 오픈 이미지, 영상, 언어 모델은 어떤 소비자용 GPU로도 편안히 담을 수 없는 영역에 확고히 들어섰다. 동시에 그것들을 담을 수 있는 대용량 메모리 카드의 가격은 내려가기는커녕 올랐고, 하드웨어 시장의 나머지를 재편하는 바로 그 수요가 이를 밀어올렸다. 돌릴 수 있는 것과 값싼 하드웨어에서 돌릴 수 있는 것 사이의 격차는 계속 벌어진다.

그 격차에, 불완전하더라도 맞서려는 프로젝트는 계속해서 사용자를 찾을 것이다. 대안은 오픈 모델의 최전선이 이론상으로는 모두에게 열려 있고 실제로는 데이터센터를 가진 사람만 쓸 수 있는 세계다. 우회책이야말로 오픈 가중치의 오픈을 정직하게 유지하는 방법이다.

해결하지 못하는 것

여기서 서로 다른 두 가지가 뒤섞이기 쉽다. 작은 GPU에서 대형 모델을 돌리는 것은 메모리 문제다. 대형 모델에서 쓸 만한 출력을 얻는 것은 능력의 문제이며, 둘은 같지 않다. 2.8조 파라미터 모델을 4GB 카드로 스트리밍해도 텍스트를 생성하는 속도는 디스크와 대역폭이 정하고, 그 텍스트의 품질은 모델 자체일 뿐이지 우회책이 가능하게 만든 것이 아니다.

기술적 성취가 건드리지 못하는 라이선스 차원도 있다. 모델을 로컬에서 돌릴 수 있다는 것이, 그 가중치를 당신의 목적에 써도 되는지와는 아무 상관이 없다. 세상에서 가장 인상적인 로컬 추론 구성도, 그것이 돌리는 모델에 붙은 조건에는 매여 있다.

더 큰 요점

로컬 AI의 최전선은 단일한 돌파구가 아니다. 데이터를 어디에 두고, 언제 옮기며, 무엇을 기다릴 용의가 있는지에 관한, 화려하지 않은 엔지니어링 결정의 긴 연속이다. AirLLM은 좋은 예인데, 이 거래에 대해 너무도 노골적이기 때문이다. 속도를 포기하고, 그 대가로 애초에 담기지 않았어야 할 무언가를 돌린다.

모델이 무엇을 하는지를 얼마나 빠른지보다 더 중요하게 여기는 사람이 늘어나는 가운데, 그것은 합리적인 거래다. 그리고 나머지 모두에게는 이런 알림이다. 이 모델에는 몇 GB가 필요하다는 것은 하드웨어 한계인 동시에 설계상의 결정이라는 것이다. 어딘가의 누군가는 언제나 책보다 작은 책상을 찾고 있다.