NVIDIA, GPU 클러스터를 테넌트별로 쪼개는 'NVKE' 오픈소스 공개

GPU 인프라의 골치 아픈 부분은 카드를 받은 다음에 온다. 카드의 일부를 팀에 넘기되, 기계 전체를 넘기지는 않는 방식으로 말이다.
dsx-ai-factory/nvke가 겨냥하는 지점이 여기다. 이름 그대로 NVIDIA Kubernetes Engine이다. NVIDIA가 Apache 2.0으로 공개했고, Go 1.27.3으로 작성됐으며 현재 프리뷰 단계다. 이번 주 하루에 약 345개의 스타를 받았다. 총 스타가 809개인 인프라 저장소라는 점을 감안하면, 대부분의 독자가 최근 며칠 사이에 이 저장소를 발견했다는 뜻이다.
NVIDIA가 직접 규정한 정의
README는 정의에 신중하다. 그 신중함은 옮겨 적을 가치가 있다. 혼란을 상당히 막아주기 때문이다.
NVIDIA는 NVKE가 쿠버네티스 배포판도, Cluster API 플레이버도 아니라고 분명히 밝힌다. 프로젝트는 스스로를 쿠버네티스 클러스터를 위한 셀프호스팅 팩토리라고 부른다. 일회용 시드 클러스터가 관리 클러스터를 세운다. 그 관리 클러스터에서 도는 관리 플레인이 다수의 격리된 워크로드 클러스터를 필요할 때 프로비저닝하고 수명주기를 관리한다.
따라서 설치에는 두 종류의 클러스터가 있다. 관리 클러스터는 NVKE 관리 플레인과 인프라 컨트롤러를 돌린다. 워크로드 클러스터는 고객 애플리케이션을 돌리며, 각자 자신의 컨트롤 플레인과 etcd, 노드 풀을 갖는다. 운영하는 쪽은 관리 플레인이다. 고객은 쿠버네티스 API와 kubectl로 자기 클러스터를 쓰고, 고객 입장에서는 관리형 서비스처럼 보인다.
네오클라우드의 플랫폼 팀, 연구소, 자체 GPU 랙을 가진 기업이 결국 손으로 만들게 되는 형태가 이것이다. 지루한 중간 구간을 누군가는 맡아야 한다. 장비 프로비저닝, 노드 조인, 고장난 하드웨어 교체, 쿠버네티스 버전 업그레이드를 테넌트별로, 서로 섞이지 않게 하는 일이다. NVKE는 그 중간을 제품으로 포장한 것이다.
흥미로운 건 신원 확인 부분
여기 있는 컴포넌트 대부분은 예상대로다. 나를 놀라게 한 것은 노드 신원이었다.
노드는 조인 자격 증명을 받기 전에 TPM을 이용해 SPIFFE/SPIRE로 증명한다. 조인을 요청하는 기계가 내가 프로비저닝한 기계인지, 엔드포인트를 찾아낸 다른 무언가인지 클러스터가 어떻게 아는가. 답이 이것이고, 옳은 답이다. 증명은 하드웨어에 대해 이뤄지지, 누군가 컨피그맵에서 복사한 토큰에 대해 이뤄지지 않는다.
etcd 데이터 암호화는 클러스터별로 쓸 수 있다. 멀티테넌트 구성에서는 기능이 아니라 기본 전제다.
장비는 NVIDIA Infra Controller, 줄여서 NICo에서 온다. 프리뷰 시점에 유일하게 호환되는 인프라 프로바이더다. 이건 실제 제약이다. 하드웨어를 다른 무언가로 관리하고 있다면 아직 꽂을 수 없다.
GPU 없이 돌려보기
저장소에서 가장 친절한 것은 로컬 퀵스타트다. 시뮬레이션된 장비 위에서 개발용 관리 플레인과 워크로드 클러스터를 돌린다. NVIDIA 계정은 필요 없다. 요구 사항은 리눅스 호스트나 VM, amd64 또는 arm64, CPU 6개 이상, 여유 메모리 12 GiB 이상, 여유 디스크 100 GiB 이상, 도커, 가상 TPM 지원이다. macOS에서는 Colima VM을 쓴다.
이 실습의 목표는 좁고 실용적이다. 워크로드 클러스터에 도달하고 그 노드가 Ready를 보고하는지 확인하는 것. 이게 되면 실리콘을 건드리지 않고 루프 전체를 본 셈이다.
소스에서 빌드하는 것이 다른 경로인데, 놀랄 만큼 지루하다.
git clone https://github.com/dsx-ai-factory/nvke.git
cd nvke
make build
bin/에 바이너리 아홉 개가 만들어진다. agent, updater, controller, nvkectl, capd-reboot-controller, nvke-os-image-check, management-engine, tenant-api, operator-api. 빌드는 관리 플레인을 띄우지도, 클러스터를 만들지도 않는다. 당연하게 들리지만, 정확히 그 일을 하는 make 타깃을 돌려본 뒤에는 이야기가 다르다.
실제 설치에서는 장비와 네트워크, 노드 이미지, 레지스트리를 직접 준비하고 NICo 접근을 설정한다. 동반 저장소 nvkr(NVIDIA Kubernetes Recipes)이 고정된 입력으로 노드 이미지와 NVKE 컴포넌트를 빌드하고 빌드·릴리스 증거를 관리한다. '무엇을 빌드하는가'와 '무엇을 배포하는가'를 나누는 것은 옳은 이음매다. 산출물이 컨트롤 플레인과 별개로 출처 이력을 갖게 된다.
제한 사항 항목은 고백처럼 읽힌다
NVKE가 신뢰를 조금 버는 지점이다.
프리뷰에는 명시적 경고가 붙는다. 위키에 묻지 않고 README에 적었다. API 인증은 꺼져 있고 설치 후 API는 평문 HTTP다. 호출자를 받아들이기 전에 인증과 보호된 접근을 설정해야 한다. 관리 클러스터는 스스로 업그레이드하거나 확장하거나 교체하지 않는다. 관리 플레인 업그레이드 절차도, 백업·복구 절차도 없다. FDE 노드 이미지는 평가용이며 저장 데이터 기밀성을 제공하지 않는다.
이 목록은 흔치 않다. 대부분의 프리뷰 발표는 '프로덕션용 아님'이라고 쓰고 넘어간다. NVIDIA는 어디서 다칠지 구체적으로 나열했다. 덕분에 내 평가가 안전한지 판단할 수 있다.
배포를 계획하는 사람에게. 평문 HTTP에 인증 없음 조합은 관리 플레인을 반드시 내가 통제하는 네트워크 경계 뒤에 두어야 한다는 뜻이다. 끝. '나중에 강화하겠다'는 상황이 아니라 '여기로 라우팅하지 마라'는 상황이다.
누구를 위한 것인가
대략 세 부류다.
첫째는 GPU 클라우드를 운영하는 쪽. 자체 하드웨어로 쿠버네티스 클러스터를 판다면 컨트롤 플레인의 자체 개발 대 구매 계산이 비참하다. 고객이 돈을 내는 물건도 아니고, 새벽 3시에 호출을 울리는 물건이기 때문이다. 테넌트에게 kubectl 모양의 표면을 제공하는 Apache 2.0 관리 플레인은 프리뷰 품질이어도 매력적이다. 코드를 읽을 수 있으니까.
둘째는 중앙 플랫폼 팀과 내부 고객을 둔 대기업. '운영자가 플레인을 돌리고 고객이 클러스터를 받는다'는 모델은 은행이나 제조업체가 실제로 GPU 용량을 배분하는 방식과 그대로 겹친다. 티켓과 쿼터, 격리된 네임스페이스이지 RBAC에 기대는 공유 클러스터가 아니다.
셋째는 연구 기관. 클러스터별 etcd와 TPM 증명을 갖춘 멀티테넌트 격리는 네 개 연구실이 DGX 랙 하나를 공유하고 그중 하나가 다른 곳에 보여선 안 되는 일을 할 때 대학이 필요로 하는 것에 가깝다.
GPU 8장을 가진 단일 팀에는 맞지 않는다. 모델보다 컨트롤 플레인에 시간을 더 쓰게 된다.
전략적으로 읽기
NVIDIA의 소프트웨어 전략은 한동안 일관됐다. 하드웨어를 쓰기 쉽게 만들고 오케스트레이션 계층은 무료로 두는 것. CUDA, NCCL, Triton, NIM, 그리고 이제 쿠버네티스 관리 플레인. 어느 것도 마진이 나는 지점이 아니다. 모두 실리콘을 더 쓸 만하게 만들고, 거기가 마진이 나는 지점이다.
경쟁 구도도 있다. GPU용 관리형 쿠버네티스는 대체로 하이퍼스케일러가 이야기해온 영역이다. 컨트롤 플레인 서비스와 하드웨어를 둘 다 갖고 있으니까. NVKE는 랙을 가진 누구에게나 같은 형태를 주고, 워크로드를 AWS로 보낼 필요도 없다. 소버린 클라우드나 규제 산업 구매자에게는 오픈소스로는 없었던 현실적 선택지다.
반론은 유지보수다. 컨트롤 플레인은 일정에 맞춰 업그레이드하고, 금요일에 패치하고, etcd 스냅숏이 깨지면 다시 세우는 서비스다. lockfile에서 버전만 올리는 라이브러리가 아니다. 프리뷰에 관리 플레인 업그레이드 경로가 없는 것은 문서 공백이 아니라 문제의 가장 어려운 부분이고, NVIDIA는 아직 공개적으로 풀지 못했다.
그러니 이것은 제품이 아니라 아키텍처의 프리뷰로 봐야 한다. 코드를 읽고, 로컬 퀵스타트를 돌려보고, 관리 클러스터 자체가 이동해야 할 때 시드 클러스터 부트스트랩 모델이 버티는지 의견을 만들어라. 모델 카탈로그가 아니라 그 질문이 GPU용 쿠버네티스 컨트롤 플레인이 진짜 범용 소프트웨어가 되는지를 가른다.
Apache 2.0이니 답이 아니어도 포크할 수 있다. 그게 이번 공개의 실제 가치다.
관련 글
Antigravity의 원격 에이전트, 클라우드 VM에서 도는 대신 잃는 것
Antigravity 2.29에서 원격 에이전트가 등장해 세션과 도구가 Google 관리 클라우드 VM에서 돌아간다. 노트북을 닫아도 작업은 계속되지만 로컬 MCP 서버와 skills는 잃는다.
NVIDIA, 월드 모델 'Cosmos 3' 파생 4종과 디코딩 프레임워크 'VFlash' 잇달아 공개
NVIDIA는 11월 5일 16B Cosmos 3 Nano를 전문화한 체크포인트 네 종을 OpenMDW1.1로 공개하고 학습 레시피와 추론 코드를 함께 내놨다. 다음 날에는 기하 출력을 병렬 생성하는 디코딩 프레임워크 VFlash를 발표했다.
GitHub 트렌드 4분의 1이 '에이전트 skills'…설치 방식은 네 갈래로 갈렸다
11월 8일 GitHub 데일리 트렌드 15건 가운데 4건이 에이전트 skills 저장소였다. 형식은 `SKILL.md`와 YAML 프런트매터로 단순하지만, 설치 경로는 네 제품에서 제각각이고 중복이 우선순위 문제를 만든다.
Thinking Machines 'Inkling 2 Small', 594B 희소 MoE로 86.3%…가중치는 여전히 '다음 주'
Thinking Machines는 11월 5일 총 594B, 토큰당 17B 활성의 희소 MoE 'Inkling 2 Small'을 발표했다. SWE-Bench Pro v2 Hard에서 86.3%를 기록했고 Apache 2.0 가중치는 출시 일주일 뒤로 예고됐다.