중국 AI 모델, 개발자 플랫폼 토큰의 절반을 넘겼습니다

개발자가 여러 AI 모델을 골라 쓰는 중개 플랫폼 두 곳에서 중국산 모델이 처리한 토큰이 절반을 넘었다고 미국 CNBC가 9월 26일 보도했습니다. 오픈라우터에서는 9월 14일 주간 57~67%, 버셀에서는 8월 55%로, 올해 초 10% 안팎이던 비중이 반년 남짓 만에 크게 늘었습니다.

10% 안팎에서 절반 이상으로

CNBC 보도에 따르면 오픈라우터에서 중국 모델이 차지한 토큰 비중은 2월 6~13%에서 9월 14일 주간 57~67%로 올라갔습니다. 수치가 범위로 나온 것은 모델 출신을 분류하는 기준에 따라 값이 달라지기 때문입니다. 웹 서비스 개발 플랫폼 버셀에서는 같은 비중이 1월 11%에서 8월 55%가 됐습니다. 토큰은 AI 모델이 글을 읽고 쓰는 단위로, 대략 단어 조각 하나에 해당합니다.

오픈라우터는 여러 회사의 모델을 한 창구에서 불러 쓰게 해 주는 중개 서비스이고, 전체 토큰의 절반가량을 미국 기업이 씁니다. 같은 보도를 정리한 기사를 보면 이른바 글로벌 사우스 지역 기업이 쓴 토큰에서는 중국 모델 비중이 67%였습니다. 미국 하원 위원회 두 곳은 이런 확산이 칩 수출통제와 모델 증류(다른 회사 모델의 답을 학습 자료로 삼는 기법) 문제와 어떻게 얽혀 있는지 조사에 들어갔습니다.

값이 결정 변수가 되는 구조

오픈라우터의 피터 워커는 중국 오픈소스 모델이 코딩처럼 여러 단계를 거치는 작업에서도 믿고 쓸 만한 수준이 됐다고 설명했습니다. 버셀의 하프리트 아로라는 값싼 모델이 일정 수준 이상의 성능을 보여 주면 그다음부터는 가격이 선택을 가른다고 말했습니다. 앞서 7월 블룸버그 보도를 전한 기사에서 오픈라우터 측은 중국 오픈소스 모델이 앤트로픽·오픈AI 제품보다 60~90% 싸다고 밝혔고, 업무 자동화 회사 린디 AI는 앤트로픽에서 딥시크로 바꾼 뒤 추론 비용이 90% 줄었다고 했습니다.

중개 플랫폼은 이런 전환을 쉽게 만듭니다. 개발자는 코드 한 줄에서 모델 이름만 바꾸면 되고, 결제와 사용량 관리는 플랫폼이 한곳에서 처리합니다. 모델을 바꾸는 데 드는 비용이 거의 없으니 같은 일을 더 싸게 해 주는 모델로 토큰이 빠르게 옮겨 갑니다. 코드 자동완성이나 문서 분류처럼 반복 호출이 많은 작업일수록 이런 이동이 두드러집니다.

토큰 비중과 매출 비중은 다릅니다

이 수치는 개발자 플랫폼을 거친 토큰만 센 것으로, 전 세계 AI 사용량 전체를 대표하지 않습니다. 기업이 오픈AI나 앤트로픽과 직접 계약해 쓰는 물량, 챗GPT 같은 소비자 앱 사용량은 들어가지 않습니다. 버셀의 아로라도 미국 모델이 여전히 더 많은 지출을 끌어모으고, 복잡한 작업에서는 선호된다고 덧붙였습니다. 토큰당 단가가 여러 배 차이 나는 상황에서는 토큰의 절반을 가져가도 매출에서는 작은 몫에 그칠 수 있습니다.

관점

이번 집계에서 눈여겨볼 대목은 추론 시장이 가격에 반응하는 속도입니다. 모델을 바꾸는 비용이 거의 없는 중개 플랫폼 위에서는 성능이 일정 선을 넘은 모델끼리 토큰 단가로 경쟁하게 되고, 그 결과 반년 남짓 만에 점유율이 뒤집혔습니다. 컴퓨트가 전기처럼 단가로 거래되는 상품에 가까워질수록 미국 대형 모델 회사는 최고 성능이 필요한 작업과 직접 계약 고객에서 수익을 지켜야 하고, 나머지 대량 작업은 값싼 모델로 흘러가는 구도가 굳어질 수 있습니다. 국내에서 API를 불러 쓰는 서비스 회사들도 같은 계산 앞에 서 있는데, 하원 조사가 중국 모델 사용에 어떤 제약을 붙이느냐에 따라 비용표가 달라집니다.