← 블로그로
Ai약 10 분 읽기

GeForce FP16 절반 제한 푸는 패치, 실제로 되는 건 RTX 30 시리즈까지

게시일 2026년 11월 11일
GeForce FP16 절반 제한 푸는 패치, 실제로 되는 건 RTX 30 시리즈까지

주장은 한 문장이고, 다 읽기 전에 사람을 화나게 만드는 종류다. 엔비디아가 GeForce 카드에 FP32 누산을 쓰는 FP16, BF16, TF32 연산의 텐서코어를 절반 속도로 제한해 출하한다는 것이다.

거의 모든 학습과 비양자화 추론이 쓰는 연산이다. 같은 실리콘을 RTX A 시리즈나 프로페셔널 카드로 팔면 풀레이트로 돈다. gpu-unlock이라는 프로젝트는 부팅 시, 정품 드라이버가 올라오기 전에 그 제한을 푼다고 주장하고, 그것만으로 약 1만5000개의 스타를 모았다.

먼저 말해둔다. 리눅스용 부트 레벨 커널 패치이고 GPL-2.0이며, 월급을 받는 기계에서 시도할 물건이 아니다.

이 주장이 터무니없지 않은 이유

펌웨어로 제품을 나누는 건 음모론이 아니라 비즈니스 모델이다. 인텔은 수십 년 동안 배수락 걸린 CPU를 팔았다. GPU 업체는 칩을 빈닝하고, 빈은 클럭만 다른 게 아니다. 흥미로운 질문은 늘 “나누느냐”가 아니라 “어떤 능력을 껐고, 그게 하드웨어에서 꺼졌나 소프트웨어에서 꺼졌나”다.

프로젝트의 답은 소프트웨어이고 구체적이다. FP16, BF16, 그리고 FP32 누산을 쓰는 TF32. FAQ는 뻔한 질문에 한 줄로 답한다. “시장 세분화입니다. 기업이 이런 제한 없는 프로페셔널 카드를 훨씬 비싼 값에 사길 원합니다.” 이어서 두 번째 뻔한 질문, 카드가 상하느냐에는 “거의 없을 것”이라 답하고 스로틀링과 전력 관리는 그대로 유지된다고 덧붙인다.

두 답 모두 보장이 아니라 주장으로 다뤄야 한다. 메커니즘은 그럴듯하고 동기는 업계 전반에 문서화돼 있다. 특정 SKU에서의 장기 열 영향은 README가 약속할 수 있는 게 아니다.

숫자에 무슨 일이 생기나

README는 기대 향상 표를 싣는다. FP16/BF16/TF32 텐서 처리량 최대 2배, LLM prefill +25~55%, 파인튜닝 +25~50%, 이미지 생성 +30~55%.

유난히 구체적인 범위이고, 그 모양이 시사적이다. prefill은 큰 행렬곱 작업이라 날것의 텐서 처리량 이득을 가장 크게 받는다. decode는 메모리 대역폭에 묶여 이득이 가장 작다. 그래서 주장이 prefill에 대한 것이고 전체 초당 토큰 수에 대한 것이 아니다. 파인튜닝은 중간이다. 조밀한 합성곱과 어텐션이 중심인 이미지 생성은 위쪽에 붙는다.

4090에서 LoRA 파인튜닝을 한다면 9시간짜리 실행이 5시간이 되는 차이다. 밤새 배치로 이미지를 만든다면 400장과 550장의 차이다. 둘 다 반올림 오차가 아니다.

어두운 표면에 놓인 그래픽카드. 기판 한쪽 모서리 위에 돋보기가 얹혀 있다

호환 목록이 진짜 이야기다

여기서 이 프로젝트는 대부분의 하드웨어 핵이 하지 않는 솔직함을 보인다.

Ampere, RTX 30 시리즈: 지원. 전체 목록이 적혀 있다. 3050부터 3090 Ti까지, 그리고 특정 노트북 부품.

Ada Lovelace, RTX 40 시리즈: 실험적.

Turing, RTX 20 시리즈: 실험적.

Blackwell, RTX 50 시리즈: 미지원. FAQ는 “이뤄지기 어려울 것”이라고 덧붙인다.

마지막 줄이 지원 목록보다 무겁다. 최신 카드, 지금 AI 작업용으로 사는 바로 그 카드가 이게 안 되는 카드다. 이 도구는 범용 언락이 아니다. 이미 많은 사람이 가진 특정 세대 하드웨어를 위한 구조 작전이다.

놓치기 쉽고 반나절을 날리는 노트북 주의사항이 있다. 노트북은 외장 GPU가 완전히 전원 꺼지지 않을 때만 언락이 유지된다. 많은 기기가 유휴 시 전원을 내리고, 그러면 언락이 조용히 초기화된다. NVreg_DynamicPowerManagement=0x00이 일부 모델에서 도움이 된다. README의 표현은 “결과가 갈릴 것으로 예상하라”이고, 그게 맞는 기대다.

설치는 실제로 어떻게 되나

드라이버 교체가 아니다. 그게 이걸 흥미롭게 만드는 설계 선택이다.

저장소를 클론하고 make install을 실행한 뒤, 커널 커맨드라인에 gpu_unlock.targets=all을 추가한다. GRUB이면 GRUB_CMDLINE_LINUX_DEFAULT를 고치고 재생성한다. Fedora면 grubby를 쓴다. systemd-boot면 옵션 줄을 고친다. 그리고 재부팅.

언락은 정품 엔비디아 드라이버가 올라오기 전에 일어난다. 즉 드라이버 업데이트를 견딘다. 빌드에 고정된 드라이버 버전은 언락이 의존하는 펌웨어를 뽑아내기 위해서만 받는 것이고, 언락이 버전 의존이라서가 아니라고 README는 명시한다.

드라이버 바이너리를 패치하는 것과는 의미가 다른 위험 프로파일이다. 드라이버 패치는 업데이트마다 깨지고 화면이 안 나올 수 있다. 드라이버가 모르는 부팅 시점 펌웨어 패치는 되거나, 깔끔하게 실패할 가능성이 더 크다.

“가능성이 더 크다”는 보장이 아니다. 파라미터를 넣기 전에 그것 없이 부팅할 방법을 마련해두라.

누가 신경 써야 하고, 누가 쓰지 말아야 하나

신경 쓸 사람. RTX 3090이나 4090으로 파인튜닝이나 배치 이미지 생성을 하고, 리눅스를 쓰고, 부트로더 설정을 고치는 데 거리낌이 없다. 경제성은 말이 안 된다. 이미 지불한 하드웨어에서 0달러로 30% 처리량 향상. H100을 시간 단위로 빌리는 시장에서는 이상한 종류의 공짜 점심이다.

신경 쓰지 말 사람. 윈도우를 쓴다. 커뮤니티 포팅이 있고, README 자신의 조언은 돌아다니는 설치 프로그램에 “아주 조심하라”는 것이다. 옳은 조언이다. 비공식 바이너리로 하는 커널 레벨 GPU 언락은 신뢰해서는 안 되는 분류다.

신경 쓰지 말 사람. RTX 50 시리즈 카드를 쓴다. 안 되고, 작성자에 따르면 아마 계속 안 될 것이다.

신경 쓰지 말 사람. 하는 일이 추론 위주이고 대역폭에 묶여 있다. decode 속도는 거의 안 움직이고, 측정도 안 되는 변화 때문에 부팅 복잡도만 떠안는다.

불편한 부분

이 이야기에는 “벤더가 당신을 속이고 있다”는 교훈 버전이 있다. 나는 그건 조금 다르다고 본다. 왜인지 정확히 말해둘 값이 있다.

엔비디아는 4090을 1,600달러에, RTX 6000 Ada를 대략 6,800달러에 판다. 모든 면에서 같다면 두 번째는 아무도 사지 않는다. 그리고 두 번째가 드라이버와 CUDA 생태계, 기업이 실제로 필요로 하는 지원 계약을 먹여 살린다. 세분화는 그 시장이 청산되는 방식이다.

불편한 건 제한이 있다는 게 아니다. 제한이 보이지 않는다는 것이다. 상자 어디에도 “FP16 텐서 처리량: 절반”이라 적혀 있지 않다. 스펙 시트에도 없다. 벤치마크를 돌려보거나, 1만5000스타짜리 GitHub 저장소를 읽고, 스펙 시트가 피한 질문에 답하는 FAQ를 읽어서 알게 된다.

그건 하드웨어 문제라기보다 문서 문제이고, 고치는 값이 하드웨어보다 싸다. 숫자를 공개하면 된다. 프로페셔널 카드가 값어치가 있는지 실제 차이를 눈앞에 두고 판단하게 하면 된다. 몇 년 뒤 낯선 사람의 커널 패치로 알게 하는 대신에.

관련 글