← 블로그로
Ai약 11 분 읽기

RTX 4090의 BF16이 두 배가 된 이유: gpu-unlock이 건드린 값 두 개

게시일 2026년 11월 7일
RTX 4090의 BF16이 두 배가 된 이유: gpu-unlock이 건드린 값 두 개

gpu-unlock README에서 커피잔을 내려놓게 만든 숫자가 있다. RTX 4090의 BF16 행렬 연산이 165에서 329 TFLOPS로 올라간다. 오버클럭이 아니다. VBIOS를 해킹한 것도 아니다. NVIDIA 드라이버가 로드되기 전에 카드의 속도 셀렉터에 값 두 개를 써넣는 것이다.

이 프로젝트는 가을 내내 GitHub 월간 트렌드 목록을 타고 올라와 지금 1만 7,700개 남짓의 별을 갖고 있다. 리눅스 커널 모듈이고 GPL-2.0이며, README 말미에 GPU를 더 사게 도와달라는 부탁을 남기는 한 사람이 관리한다.

NVIDIA가 실제로 파는 것

GeForce 카드는 FP32 누산을 쓰는 FP16, BF16, TF32 연산에서 텐서 코어가 절반 속도로 제한된 채 출하된다. 틈새 명령어 세트가 아니다. 양자화하지 않은 추론 거의 전부와 파인튜닝 사실상 전부가 쓰는 연산이다. 같은 실리콘이 RTX A 시리즈나 데이터센터 부품으로 팔릴 때는 온전한 속도로 돈다.

비밀도 아니다. 시장 세분화이고, README도 사용자가 왜 NVIDIA가 카드를 반쪽으로 만들었느냐고 묻자 한 줄로 답한다. "기업이 이런 제한 없는 프로페셔널 카드를 훨씬 비싼 값에 사게 하고 싶어서다."

이 언락은 드라이버 패치도, 펌웨어 플래시도 아니다. nvidia가 카드를 바인딩하기 전, initramfs에서 도는 모듈이다. 속도 셀렉터를 쓰고(SS0 0x88888888이 온전한 BF16 속도를 선택하고, 4비트 SS1 0x8이 IMLA4를 켠다), 함수 수준 리셋을 수행한다. 기존 언락 방식을 정교한 타이밍과 결합한 기술이다. 디스크의 무엇도 수정하지 않기 때문에, 새 NVIDIA 드라이버가 나와도 풀리지 않는다.

An open desktop PC case, interior lit by the installed graphics card

효과는 실재하지만 균일하지는 않다

헤드라인 숫자는 덴스 행렬 처리량이고, 크다. RTX 3060은 27에서 51 TFLOPS로 간다. 3090은 75에서 125로. 4090은 피크에서 두 배가 된다. 단, 4090은 텐서 코어를 다 쓰기 전에 전력이 먼저 바닥나므로, 실제 워크로드의 이득은 피크가 시사하는 것보다 훨씬 작다는 점이 분명히 적혀 있다.

실제 워크로드에서 흥미로워지는데, 편차가 어마어마하다.

  • LLM 프리필 / 프롬프트 처리(FP16, BF16, AWQ, GPTQ): +25~55%
  • 첫 토큰까지 걸리는 시간: 25~30% 감소
  • BF16 LoRA 및 전체 파인튜닝: +25~50%
  • 이미지 생성(ComfyUI에서 SDXL, SD 1.5, DiT 모델): +30~55%
  • BF16 연산을 쓰는 영상 생성(Wan 2.2): +15~20%
  • FlashAttention 및 SDPA 커널: +50~60%
  • 양자화 GGUF를 쓰는 llama.cpp / Ollama: 0~15%, 대부분 롱 컨텍스트에서
  • 토큰 단위 디코드, INT8/FP8/INT4, 게임, 순수 FP32 CUDA: 전혀 변화 없음

마지막 줄을 사람들이 놓친다. 워크로드가 메모리 대역폭에 묶인 디코드라면, 즉 한 장의 카드에서 돌리는 채팅 추론 대부분이 그렇다면, 얻는 게 없다. 이 언락은 행렬 처리량을 사는 것이지 대역폭을 사는 게 아니다. 4비트 모델을 배치 크기 1로 돌리는 사람은 탭을 닫아도 된다.

돈값을 하는 곳은 프리필, 파인튜닝, 디퓨전이다. 이미지 생성에서 30~55% 빨라진다는 건 오후 한나절에 감당할 수 있는 반복 횟수가 달라진다는 뜻이고, 벽에서 끌어다 쓰는 비용은 열 말고는 없다.

"비트 단위로 동일하다"가 왜 흥미로운 주장인가

README는 출력이 전후로 비트 단위까지 같고, 속도만 달라진다고 적는다. 이 한 문장이 이 프로젝트를 오버클럭과 갈라놓는다. 법적으로도 실무적으로도 중요한 차이다.

오버클럭은 결과를 바꾸고, 긴 학습 실행을 망칠 수 있고, 벤더가 탐지할 수 있는 방식으로 보증을 무효화한다. 속도 제한기를 떼는 것은 산술을 바꾸지 않는다. 같은 명령이 같은 순서로 실행된다. 사이클당 더 많이 실행될 뿐이다. 재현성 요구사항이 있다면 그대로 유지된다.

그래서 실질적인 위험은 열과 전기뿐이다. README의 답은 절제되어 있다. 표준 스로틀링과 전력 관리가 그대로 남아 있으니, 카드는 타기 전에 클럭을 낮출 것이다. 공기 흐름이 있는 데스크톱이라면 그럴듯하다. 물론 임대한 워크스테이션을 걸 만한 보장은 아니다.

설치, 그리고 무엇이 깨지는가

리눅스 전용이고, 배포판이 Arch, Debian/Ubuntu, Fedora라면 설치는 세 단계다.

git clone https://github.com/Zagitta/gpu-unlock
cd gpu-unlock
make install

그다음 커널 커맨드 라인에 gpu_unlock.targets=all을 덧붙이고 재부팅한다. 특정 카드만 원한다면 PCI 주소를 쉼표로 나열해도 된다. 확인은 journalctl -k -b | grep gpu_unlock.

카드 지원에서 이 프로젝트는 자기 한계에 정직하다. Ampere(RTX 30)는 사용자 보고 백 건이 넘게 쌓여 안정으로 표시되어 있다. Ada(RTX 40)와 Turing(RTX 20)은 실험적이다. Blackwell(RTX 50)은 지원하지 않고, 작성자에 따르면 이뤄질 가능성도 낮다.

시도하기 전에 알아둘 실패 모드가 두 가지 있다. 노트북은 외장 GPU가 전원이 꺼질 때마다 언락을 잃는다. 유휴 시 그렇게 되는 모델이 많다. 런타임 전원 관리를 끄면 일부 모델에서는 도움이 되고, 다른 모델에서는 아니다. 그리고 RAM 일시 중단(suspend)은 셀렉터를 초기화한다. 다만 모듈이 기본적으로 재개 시 언락을 다시 적용하며, 1초 정도가 더 걸린다.

윈도우는 README가 "환경에 따라 다를 수 있다"는 단서와 함께 링크하는 서드파티 포팅만 존재한다. 그리고 이런 일을 지켜본 사람의 담담한 어조로 경고한다. 프로젝트 이름을 도용한 코인과 설치 파일이 떠돌고 있고, 그중 어느 것도 자기 것이 아니라고.

아무도 쓰고 싶어 하지 않는 부분

세계의 게이밍 PC에 들어 있는 AI 연산의 절반이, 가격 등급을 지키기 위해 존재하는 펌웨어 스위치 뒤에 앉아 있다. 이게 여기서 나온 진짜 발견이고, 저장소 하나보다 큰 이야기다.

이걸 알고 나면 다른 것들이 달리 보인다. 클라우드 GPU 가격은 제한기가 꺼진 카드를 기준으로 매겨진다. 중고 3090은 2년째 조용히 스티커 가격보다 비싼 가치를 지녀왔다. 그리고 "제대로 된 추론에는 데이터센터 GPU가 필요하다"는 논변 전체가, 커널 모듈 하나로 10분의 1 가격짜리 카드에서 텐서 처리량의 65%를 되찾을 수 있다면 조금은 물러진다.

정당한 반론도 있고, 나도 그편에 서겠다. 세분화는 NVIDIA가 이 카드들을 쓸 만하게 만드는 소프트웨어 스택에 자금을 대는 방식이다. CUDA는 스스로 돈을 벌지 않았다. 소비자용 카드의 잠금을 푸는 건 절도는 아니지만, 공짜도 아니다. 비용은 프로페셔널 부품을 사는 모든 사람이 부담한다.

그건 공정성에 대한 논변이지, 스위치가 존재하느냐에 대한 논변이 아니다. 그리고 공정성 논변은 대개, 남는 리눅스 박스와 금요일까지 끝내야 하는 파인튜닝 작업이 있는 사람을 멈추지 못한다.

해보겠다면

다시 설치해도 아깝지 않은 기계에서 하라. 먼저 세대를 확인하라. 보고가 쌓인 곳은 Ampere다. 전후를 벤치마크할 때는 합성 GEMM이 아니라 실제로 돌리는 워크로드를 쓰라. 여기서 이야기의 핵심은 이득이 전적으로 행렬 연산에 묶여 있느냐, 메모리 대역폭에 묶여 있느냐에 달려 있다는 점이다.

그리고 FAQ를 읽어라. 작성자는 "이거 내 GPU에 무리 가나요"라는 질문에 근거 있는 '아니오'로 답하고, "NVIDIA는 왜 이랬나요"라는 질문에는 대부분의 벤더 백서보다 유용한 한 문장으로 답한다.

관련 글