알리바바, 자체 AI 칩 진무 V900 공개

알리바바가 9월 22일 항저우에서 열린 압사라 콘퍼런스에서 반도체 자회사 T-헤드가 설계한 AI 칩 진무(真武) V900을 공개했습니다. 회사는 이 칩을 현재 중국에서 가장 강력한 AI 칩이라고 소개하면서, 2032년까지 데이터센터 용량을 20기가와트 넘게 늘리고 매개변수 5조~10조 개 규모의 차기 모델을 학습하겠다는 계획도 함께 밝혔습니다.

V900과 이를 묶는 서버

테크노드에 따르면 V900은 216기가바이트의 메모리를 달았고 칩과 칩 사이를 초당 1.2테라바이트로 주고받습니다. 계산 정밀도를 낮춰 속도를 높이는 FP8과 FP4 형식도 지원합니다. 알리바바는 성능이 이전 세대인 진무 M890의 세 배라고 설명했지만, 어떤 작업을 기준으로 잰 수치인지는 공개하지 않았습니다.

칩은 판주라는 이름의 슈퍼노드 서버에 들어갑니다. 슈퍼노드는 칩 여러 개를 한 대의 거대한 컴퓨터처럼 묶은 서버 묶음으로, 판주에는 V900과 함께 T-헤드가 만든 연결용 칩 ICN 스위치, 네트워크 카드, SSD 컨트롤러가 들어갑니다. 1,000개 넘는 V900이 한 시스템으로 움직이고, 알리바바 클라우드의 새 네트워크 구조를 쓰면 한 클러스터를 최대 50만 개까지 키울 수 있다고 회사는 밝혔습니다.

다만 이번에 나온 것은 사양과 일정이며, V900의 양산과 판매는 2027년 1분기에 시작합니다. 그 전까지 고객이 쓰는 것은 이전 세대인 M890 슈퍼노드입니다. 테크노드는 M890 서버가 이미 대규모로 배치돼 자율주행과 금융, 제조 등 650곳 넘는 기업 고객을 받고 있고, 매개변수 2조 개가 넘는 큐원 3.8과 문샷의 키미 K3 같은 모델을 돌리고 있다고 전했습니다.

모델과 데이터센터 계획

에디 우 최고경영자는 이날 차기 큐원 모델을 매개변수 5조~10조 개 규모로 학습하겠다고 밝혔습니다. 매개변수는 모델이 학습 과정에서 스스로 조정하는 숫자로, 많을수록 학습과 추론에 드는 연산과 메모리가 늘어납니다. 알리바바의 현재 최고 모델인 큐원 3.8-맥스는 2조 4,000억 개이고, 문샷이 7월 공개한 키미 K3는 2조 8,000억 개입니다.

인프라 계획도 함께 나왔습니다. 알리바바는 전 세계 데이터센터 용량을 2032년까지 20기가와트 넘게 늘리겠다고 밝혔습니다. 기가와트는 데이터센터가 끌어 쓰는 전력으로 설비 규모를 재는 단위입니다. 회사는 앞서 3년간 클라우드와 AI 인프라에 3,800억 위안(약 530억 달러) 이상을 투자하겠다고 약속했고, 우 최고경영자는 이날 공급 부족 때문에 확장 속도가 제한되고 있다고 인정했습니다.

칩 성능을 연결 규모로 메우는 방식

미국의 수출통제로 중국 기업은 엔비디아의 최신 가속기와 첨단 반도체 장비를 들여오지 못합니다. 이런 조건에서 알리바바가 택한 방식은 칩 하나의 성능보다 메모리 용량과 연결 규모를 키우는 쪽입니다. 모델이 클수록 가중치를 올려 둘 메모리가 많이 필요한데, 칩 하나에 메모리가 많으면 모델을 나눠 담는 칩 수가 줄고 칩 사이 통신도 줄어듭니다. 칩 수십만 개를 한 덩어리로 묶는 연결 칩과 네트워크를 직접 만든 것도 같은 이유입니다.

카운터포인트리서치의 닐 샤 부사장은 AP에 추가 연산 능력으로 칩의 한계를 메우는 방식이 중국이 국내에서 버티는 데 도움이 된다고 평가했습니다. 같은 회사의 파르브 샤르마 선임연구원은 격차를 좁힐 수 있을지는 칩 설계보다 그 칩을 찍어 낼 파운드리의 발전에 달려 있다고 봤습니다.

공개되지 않은 것들

알리바바는 V900을 어느 파운드리가 몇 나노 공정으로 만드는지 밝히지 않았습니다. 216기가바이트 메모리를 어디서 조달하는지도 공개되지 않았습니다. 엔비디아 제품과 성능을 직접 비교한 수치도 없어서, 중국에서 가장 강력하다는 표현은 현재로서는 회사의 주장입니다. 발표 시점도 눈여겨볼 만합니다. 시진핑 주석의 미국 국빈 방문을 하루 앞둔 날이었고, 두 정상의 회담에서는 AI와 관세가 의제로 꼽힙니다.

관점

이번 발표에서 눈여겨볼 대목은 알리바바가 공개한 사양이 연산 속도보다 메모리 용량과 칩 사이 연결에 맞춰져 있다는 점입니다. 칩 하나의 성능이 막힌 곳에서는 메모리를 많이 달고 칩을 많이 묶는 쪽으로 설계가 옮겨 가고, 그만큼 칩당 메모리 수요가 커집니다. 216기가바이트의 조달처가 공개되지 않은 것도 이 때문에 의미가 있습니다. 중국 안에서 고대역폭 메모리를 얼마나 만들 수 있는지에 따라 V900의 실제 공급량이 정해지고, 이는 수출통제 아래에서 국내 메모리 업체들이 중국 수요를 어디까지 잃거나 지킬지와도 이어집니다.

알리바바가 확장 목표를 기가와트로 제시한 점도 같은 흐름에 있습니다. 칩 한 개의 성능을 비교하기 어려워질수록 AI 설비의 크기는 전력과 연결된 칩 수로 표시됩니다. 2027년 1분기 양산 이후 판주 서버가 실제로 몇 대 깔리는지가 이번 발표를 평가할 첫 숫자가 될 것입니다.