리벨리온 추론 랙, 도쿄 데이터센터에 100대 이상

리벨리온이 지난 15일 일본 AI 인프라 업체 ai&와의 협력을 발표하고, 도쿄 데이터센터에 자사 추론 전용 랙 REBELRack을 100대 이상 공급하겠다고 밝혔습니다. 물량과 계약 금액은 비밀유지 약정을 이유로 공개하지 않았습니다.

도쿄 데이터센터에 먼저 들어갑니다

첫 물량은 ai&의 도쿄 데이터센터에 설치되고, 이후 100대 이상으로 늘린다는 계획입니다. ai&는 일본에서 창업한 회사로, 데이터센터와 여러 종류의 연산 장비, 모델 서비스를 한 묶음으로 파는 이른바 네오클라우드 사업자입니다. 인프라에 20억 달러를 약정해 두었고, 올해 말까지 데이터센터 다섯 곳을 돌린 뒤 2027년 말까지 도쿄 데이터센터 용량을 40메가와트로 키운다는 일정을 함께 제시했습니다. 이 설비를 쓰는 대상으로는 일본의 공공기관과 기업, 개발자를 들었습니다.

랙 사양은 더일렉이 16일 보도에서 정리했습니다. REBELRack 한 대에는 리벨리온의 추론 칩 REBEL100을 최대 32장, AMD 에픽 9355 CPU를 8소켓 얹고 DDR5 시스템 메모리 6테라바이트를 붙입니다. 8비트 부동소수점(FP8) 연산 기준 성능은 64페타플롭스입니다. 리벨리온은 100대로 구성하면 랙 장비만 최대 2.8메가와트를 쓴다고 밝혔습니다. 랙 한 대로 환산하면 28킬로와트입니다. 100대 납품이 언제 끝나는지는 공개하지 않았습니다. (지난 자료·원공개 09/15)

양사는 납품 당일 서비스를 켤 수 있다고 설명했습니다. ai& 기술팀이 GPU 환경에서 쓰던 개방형 소프트웨어를 리벨리온 쪽도 지원하기 때문에, 고객이 개발 환경을 그대로 두고 추론 서버만 갈아 끼울 수 있다는 것입니다. 박성현 리벨리온 대표는 토큰을 서비스하는 단위 원가를 낮추면 사업자가 새로운 가격대를 만들 수 있다고 말했습니다. 데이비드 베넷 ai& 공동창업자 겸 대표는 작업의 성격에 맞는 하드웨어를 골라 쓰는 구조를 강조했습니다.

추론 장비를 가르는 것은 전력과 전환 비용입니다

학습과 추론은 장비에 요구하는 것이 다릅니다. 학습은 수만 장의 가속기를 한 덩어리로 묶어 몇 주씩 돌리는 작업이라 칩과 칩 사이를 잇는 대역폭이 성능을 좌우합니다. 추론은 들어온 요청마다 토큰을 만들어 내보내는 작업이어서, 같은 전력으로 몇 개의 토큰을 뽑아내는지가 곧 원가가 됩니다. 추론 전용 칩을 만드는 업체들이 절대 성능보다 전력당 처리량을 먼저 내세우는 이유입니다.

도입하는 쪽에서 더 현실적인 변수는 전산실입니다. 랙 한 대가 28킬로와트 선이면 19인치 표준 랙과 공기 냉각을 쓰는 기존 기업용 전산실에 그대로 들어갑니다. 리벨리온은 이런 형태를 설계 단계의 기준으로 잡았다고 지난 3월 더 레지스터 보도에서 밝혔습니다. 액체 냉각을 새로 깔아야 하는 장비라면 전산실 공사가 함께 따라붙고, 그만큼 서비스를 켜는 시점이 뒤로 밀립니다.

남은 하나는 소프트웨어입니다. 파이토치 계열의 개방형 프레임워크를 쓰는 고객이라면 코드를 크게 손대지 않아도 되지만, 특정 GPU에 맞춰 최적화를 깊게 해둔 쪽은 옮기는 비용이 큽니다. 이번 발표에서 양사가 개발 환경 유지를 거듭 언급한 것도 이 대목을 겨냥한 설명입니다.

확인되지 않은 부분

공개된 성능 수치는 리벨리온이 제시한 사양이며, 같은 조건에서 다른 가속기와 비교한 제3자 벤치마크는 함께 나오지 않았습니다. 100대 이상이라는 숫자는 앞으로 늘리겠다는 목표이며, 지금 확정된 물량이 몇 대인지는 밝히지 않았습니다. 계약 금액을 밝히지 않았으므로 매출 기여도 계산할 수 없습니다. 발표에 인용된 IDC의 언급은 가속기 계층에서 선택권이 중요해진다는 시장조사기관의 의견으로, 이 장비의 성능을 검증한 내용은 아닙니다.

관점

이번 건에서 눈여겨볼 대목은 국산 추론 칩이 해외 상용 데이터센터에 랙 단위로 들어간다는 점이고, 그 판매 논리가 절대 성능보다 전력 소모와 전환 비용에 걸려 있다는 점입니다. 일본은 자국 안에 추론 설비를 두려는 발주가 늘고 있는데, 이런 수요는 최고 성능을 먼저 묻지 않습니다. 지금 쓰는 전산실에 들어가는지, 지금 쓰는 소프트웨어가 돌아가는지를 먼저 확인하고 그다음에 성능을 봅니다.

국내에서도 같은 조건이 걸립니다. 전력 확보와 냉각 설비가 데이터센터 증설의 병목인 상황에서, 공랭으로 감당되는 랙과 액체 냉각이 필요한 랙은 요구하는 공사의 규모가 다릅니다. 리벨리온은 프리IPO로 4억 달러를 받아 누적 8억 5,000만 달러를 모았습니다. 이번 계약은 그 자금이 해외 매출로 이어지는지 확인할 수 있는 첫 사례이며, 납품 물량과 완료 시점이 공개되기 전에는 규모를 가늠하기 어렵습니다.