← 블로그로
Ai약 13 분 읽기

메이투안, 자국산 실리콘으로 1.6조 파라미터 모델 훈련… 핵심은 '무엇을 위해 만들었나'다

게시일 2026년 11월 7일
메이투안, 자국산 실리콘으로 1.6조 파라미터 모델 훈련… 핵심은 '무엇을 위해 만들었나'다

11월 2일, 메이투안은 총 1.6조 개 파라미터와 토큰당 약 480억 개 활성 파라미터를 갖춘 네이티브 멀티모달 모델 LongCat-2.5를 공개했다.

이번 발표에서 중국 밖에서 덜 보도된 세부 사항이 두 가지 있다. 첫째, 훈련이 전적으로 중국 자국산 컴퓨트에서 이뤄졌으며 메이투안은 이를 해당 하드웨어에서 완료된 가장 큰 훈련 작업이라고 부른다. 둘째, 메이투안 CEO가 회사가 토큰 공장이 되지는 않을 것이라고 공개적으로 말했다는 점이다.

이 둘을 합치면 LongCat-2.5는 프론티어를 향한 도전이라기보다 한 회사의 비즈니스를 위해 만들어진 매우 큰 산업용 도구로 읽힌다.

아키텍처, 간단히

흥미로운 엔지니어링은 시각 쪽에 있다. LongCat-2.5는 시각 신호를 언어 백본에 연속 임베딩으로 전달하는 대신 다단계 이산 토큰으로 표현한다. LongCat-Next에서 사용한 방법을 따라, 의미론적·정렬된 인코더의 네이티브 해상도 특징이 잔차 벡터 양자화를 거치며 이미지를 트랜스포머가 단어를 처리하는 방식과 동일하게 토큰으로 처리할 수 있게 만든다.

그 결과 추가로 붙인 비전 인코더가 아니라 단일 토큰 공간이 된다. 메이투안이 네이티브 멀티모달리티를 주장하며 인터랙티브 웹 페이지, 3D 디스플레이 페이지, 크리에이티브 디자인 같은 작업을 모델이 적응해서 처리하는 것이 아니라 원래 처리하는 작업으로 내세울 수 있는 이유다.

훈련 규모도 문서화돼 있다. 중간 훈련에서는 최대 100만 토큰 길이의 시퀀스를 사용했고, 누적 훈련량은 수조 토큰에 달한다. 멀티카드 장문맥 작업은 메모리 용량과 카드 간 통신이 병목이 되는 영역이므로, 메이투안은 슈퍼노드를 중심으로 작업 분할을 최적화해 파라미터와 데이터 트래픽의 대부분을 노드 간 통신이 아니라 노드 내부의 고속 인터커넥트에 유지했다.

효율 수치는 구체적이다. 장문맥 지도 미세조정에서 단일 카드 훈련 처리량은 분산 데이터 병렬(DDP) 기준선 대비 86% 향상됐으며, 메이투안은 이를 카드 한 장이 약 1.86장의 일을 한다고 표현한다. 추론에는 W4A4 양자화를 사용해 전문가 가중치와 활성화를 모두 4비트로 낮췄고, 자국산 가속기의 특성에 맞게 조정했다. W8A8 INT8 기준선 대비 입력 처리와 토큰당 생성 처리량은 약 40% 증가했고, 첫 토큰 지연은 약 16% 감소, 토큰당 생성 시간은 약 20% 감소했으며, 다운스트림 작업 성능은 대체로 유지됐다.

마지막 수치 묶음이 실제 성과다. 시장 선도 제품이 아닌 하드웨어에서 조 단위 파라미터 모델을 훈련하고 서빙하는 것은 메모리 대역폭과 통신에 관한 엔지니어링 문제다. 자국산 컴퓨트에서 완전히 훈련하고 서빙한 최초의 조 단위 파라미터 모델인 LongCat-2.0을 2026년 6월에 내놓은 것이 예열이었다.

벤치마크, 늘 있는 단서와 함께

메이투안은 LongCat-2.5가 주류 벤치마크 전반에서 Claude Opus 4.8과 Claude Opus 5 사이에 위치하며 일부에서는 Opus 5를 능가한다고 보고한다.

이는 경쟁사 모델과의 비교이며, 벤치마크 선택도 공급업체가 했다는 점을 감안해야 한다. 순위가 아니라 모델이 경쟁력 있다는 증거로 받아들여야 한다. 더 유용한 신호는 중국의 로컬 서비스 기업이 이제 Anthropic의 프론티어 라인과 같은 대화에 놓이는 모델을 출시하고, 훈련 효율 작업도 함께 공개한다는 점이다.

무엇을 위해 만들었나

명시된 설계 목표는 장기 지평(long-horizon) 에이전트 작업이다. 메이투안의 설명은 장문 시퀀스 훈련에 장기 지평 궤적 데이터를 추가하고, 대규모 장기 지평 강화학습을 실행하며, 실제 에이전트 실패 궤적을 재현 가능하고 검증 가능한 훈련 작업으로 변환하는 것을 포괄한다. 마지막 관행은 더 많은 연구소가 따라 해야 할 것이다. 자사 에이전트의 실패를 데이터셋으로 바꾸는 것이 인터넷을 더 긁어모으는 것보다 저렴하다.

그다음이 상업적 논리다. 메이투안은 수천 개 중국 도시에서 음식 배달, 매장 서비스, 여행 사업을 운영한다. 가맹점은 마진이 얇은 소규모 운영자다. 그런 입장에서 더 나은 챗봇은 가맹점의 채널 데이터를 읽고 어디서 돈을 잃고 있는지 알려준 뒤 실제로 조치하는 소프트웨어보다 훨씬 아래에 있다.

메이투안이 공개한 사례는 자세히 인용할 가치가 있다. 멀티채널 브랜드 운영 분석에서 모델은 채널 손익계산서를 직접 작성한 뒤, 유료 GMV는 23.2% 성장했지만 채널 이익은 1.7% 감소했다는 점을 식별했다. 이를 재고 정리(clearance) 경제성, 재구매 행태, 재고 리스크와 연결하고 차별화된 리소스 배분을 제안했다.

이는 실제 분석 체인이다. 눈에 띄는 점은 모델이 성장률과 함께 마진율을 계산하기로 선택했다는 것이다. 숙련된 운영자는 하는 일이지만 대시보드는 하지 않는 일이다.

메이투안은 이를 가맹점을 위한 AI 운영 워크벤치인 Miaoshou로 제품화했다. 업계 지표와 브랜드 규칙을 이해하며, 가맹점 승인 범위 안에서 도구와 시스템을 호출해 작업을 완료한다. 메이투안은 이미 구밍(Guming), 쉬성지(Xushengji), 이허탕(Yihetang) 같은 체인에 브랜드 분석, 매장 관리, 고객 확보 전반에 걸쳐 서비스 중이라고 밝혔다.

전략적 논거

왕싱 CEO가 8월 실적 발표 콜에서 한 말은 중국 플랫폼 CEO가 모델 전략에 대해 한 가장 명확한 발언이다. AI의 장기 가치는 실제 워크플로에 진짜로 들어가고, 실제 문제를 해결하며, 안정적인 인프라가 되는지에 달려 있다고 그는 말했다. 메이투안은 토큰 공장이 되지 않을 것이다. 모델과 제품은 본업을 지원하기 위해 존재한다.

지난 1년간 프론티어 연구소들의 행보와 대조하면 차이는 뚜렷하다. OpenAI, Anthropic, Google은 토큰과 구독을 판매하기 위해 모델을 만든다. 메이투안은 밀크티 체인의 마진을 개선하기 위해 모델을 만든다.

둘 다 정당하다. 그러나 만들어지는 조직은 매우 다르다. 토큰 공장은 벤치마크 선도와 API 가격을 최적화한다. 전속 모델은 운영자가 필요로 하는 특정 추론과 자사 거래량 규모에서의 실행 비용을 최적화한다. W4A4 작업이 여기서 아레나 점수보다 더 중요한 이유다.

서빙 비용은 숨은 핵심

4비트 양자화는 별도로 짚을 가치가 있다. 연구소 밖 배포를 실제로 제한하는 제약을 다루기 때문이다.

실리콘 다이 표면의 극단적 매크로 샷. 가는 금색 인터커넥트 배선과 반복되는 셀이 보인다.

토큰당 480억 개 파라미터가 활성화되는 1.6조 파라미터 모델은 단일 토큰 처리 시 모델 전체를 고속 메모리에 올릴 필요는 없지만, 활성 전문가에 빠르게 접근할 수 있어야 한다. 4비트에서는 가중치가 16비트 대비 일부 공간만 차지한다. 메이투안은 INT8 기준선 대비 입력 처리와 토큰당 생성 모두에서 처리량이 약 40% 높고, 첫 토큰 지연은 약 16%, 토큰당 시간은 약 20% 감소했으며 다운스트림 품질은 유지됐다고 보고한다.

자사 거래량을 처리하는 회사에게 이는 보호하는 마진보다 비용이 더 큰 AI 기능과 그렇지 않은 기능을 가르는 차이다. 또한 리더보드 항목을 만들지 않는 종류의 작업이라 거의 보도되지 않는다.

남은 질문

메이투안은 LongCat-2.5의 가중치를 공개하지 않았으므로 자국산 컴퓨트 주장을 독립적으로 검토할 수 없고, 모델은 오픈 릴리스가 아니라 longcat.ai와 API를 통해 제공된다. 효율 개선은 메이투안이 정의한 기준선에 대해 측정됐다.

전속 모델의 늘 있는 긴장도 있다. 메이투안 사업에 더 잘할수록 그 밖에서는 덜 유용할 수 있다. 로컬 서비스 손익에 맞춰 조정된 모델은 식당 단위 경제성에는 탁월하고 법률 문서 작성에는 평범할 수 있다.

중국 밖의 모든 이에게 시사점은 자국산 실리콘 제약이 컴플라이언스 문제에서 처리량 수치를 공개하는 엔지니어링 프로그램으로 이동했다는 점이다. 한 회사가 실제로 구매할 수 있는 하드웨어에서 1.6조 파라미터를 훈련하고 4비트 정밀도로 서빙할 수 있게 되면, 프론티어와 추격자 사이의 실질적 격차는 돈으로 고칠 수 없는 것들, 즉 데이터, 취향, 유통으로 좁혀진다.

관련 글