GPT-6 아스트라, 토큰 요금이 2.5배로 올랐습니다

오픈AI가 9월 4일 GPT-6 아스트라를 유료 사용자에게 공개하면서 API 요금을 100만 토큰당 입력 10달러, 출력 50달러로 매겼습니다. 직전 모델인 GPT-5.6 솔이 지금 받고 있는 값의 2.5배입니다.

공개 일정과 요금표

오픈AI는 9월 3일 일부 기관에 GPT-6 아스트라를 먼저 열고 다음 날 유료 사용자에게 공개했습니다. 회사는 이 모델이 추론 관련 주요 벤치마크에서 만점에 가까운 점수를 받았고 직전 모델인 GPT-5.6 솔과 앤트로픽의 클로드 페이블 5를 앞섰다고 밝혔습니다. 사이버보안 분야의 일부 요청은 거부하도록 제한한 판으로 배포됐습니다.

요금은 오픈AI 모델 문서에 적혀 있습니다. 100만 토큰 기준으로 입력이 10달러, 출력이 50달러입니다. 앞서 처리해 둔 입력을 다시 불러 쓰는 캐시 읽기는 1달러이고, 캐시에 새로 써 넣을 때는 12.5달러가 붙습니다. 한 번에 넣는 입력이 27만 2천 토큰을 넘으면 그 요청 전체에 입력과 캐시는 두 배, 출력은 1.5배가 적용돼 입력 20달러, 출력 75달러가 됩니다. 한 번에 다룰 수 있는 분량은 105만 토큰이고, 한 번에 내놓는 답은 최대 12만 8천 토큰입니다.

비교 대상인 GPT-5.6 솔은 지금 입력 4달러, 출력 20달러를 받습니다. 이 값은 8월 21일부터 적용된 한시 인하가로 최소 11월 21일까지 유지되며, 인하 전에는 입력 5달러, 출력 30달러였습니다. 솔의 캐시 읽기는 0.4달러여서, 아스트라의 1달러와 견주면 이쪽도 2.5배입니다.

요금이 네 갈래로 갈리는 이유

같은 모델을 쓰는데도 토큰이 어디에 쓰이느냐에 따라 단가가 50배까지 벌어집니다. 이 차이는 모델이 글을 만들어 내는 방식에서 나옵니다.

입력 토큰은 한꺼번에 읽습니다. 질문 전체를 한 번에 밀어 넣고 병렬로 계산하기 때문에 그래픽 처리 장치를 빈틈없이 채울 수 있습니다. 출력은 사정이 다릅니다. 답을 한 조각씩 차례로 만들어 내는데, 다음 조각을 계산하려면 앞 조각이 먼저 나와야 하므로 병렬로 처리할 수가 없습니다. 같은 장비로 같은 시간을 써도 뽑아낼 수 있는 출력 토큰이 훨씬 적고, 그만큼 단가가 올라갑니다.

캐시는 반대 방향으로 작동합니다. 여러 요청이 같은 앞부분을 공유할 때 그 부분의 계산 결과를 저장해 두었다가 다시 씁니다. 새로 계산할 필요가 없으니 90% 싸게 받고, 대신 저장하는 시점에 12.5달러가 붙습니다.

27만 2천 토큰이라는 계단도 계산량에서 나옵니다. 모델은 각 토큰이 다른 모든 토큰과 어떻게 연결되는지를 따지는데, 이 계산은 길이에 비례해 늘지 않고 그보다 빠르게 불어납니다. 긴 요청 하나가 장비 메모리를 오래 붙잡고 있으면 그동안 다른 요청을 받지 못한다는 문제도 함께 생깁니다.

회사 발표의 한계

요금 인상이 원가 상승을 뜻하는지는 이번 발표만으로 알 수 없습니다. 오픈AI는 요청 한 건을 처리하는 데 드는 비용을 공개하지 않습니다. 성능 수치도 회사가 직접 측정해 내놓은 것이고, 제3자 검증 결과는 아직 나오지 않았습니다.

비교 기준도 따져 볼 부분이 있습니다. 2.5배라는 배수는 GPT-5.6 솔의 한시 인하가와 견준 값입니다. 인하 전 정가와 비교하면 2배입니다. 구형 모델도 계속 제공되므로 실제 지출은 어떤 모델을 고르느냐에 따라 달라집니다.

안전성을 두고는 외부에서 우려가 나왔습니다. 뉴사우스웨일스대의 토비 월시 교수는 인공지능의 능력이 분야마다 들쭉날쭉하다고 지적하며 기업들이 사이버보안 문제를 다룰 만큼 개발 속도를 늦추고 있는지 물었습니다. 루이빌대의 로만 얌폴스키 교수는 성능이 이를 이해하고 통제하는 능력보다 빠르게 좋아지고 있으며 그 격차가 좁혀진다는 근거를 찾기 어렵다고 말했습니다. 이번 공개는 7월 허깅페이스에서 벌어진 침해 사고 이후 안전장치를 보강해 늦춰진 일정이었습니다.

설계에 따라 갈리는 비용

이번 요금표에서 눈여겨볼 대목은 성능 순위보다 값을 매기는 방식입니다. 지난 몇 년 동안 가장 앞선 모델의 토큰 단가는 시간이 지나면 내려가는 것이 보통이었고, 값을 조절할 때도 한시 할인을 붙이거나 한산한 시간대를 깎아 주는 쪽이었습니다. 이번에는 최신 모델의 정가 자체가 올라갔고, 입력 길이와 캐시 사용 여부에 따라 단가가 갈리는 구간이 함께 들어왔습니다.

국내에서 이 모델로 서비스를 만드는 쪽에서는 같은 기능을 붙이더라도 설계에 따라 청구서가 크게 달라집니다. 긴 지시문을 요청마다 새로 밀어 넣으면 100만 토큰당 10달러를 그대로 내지만, 같은 지시문을 캐시에 고정해 두면 1달러 구간으로 내려갑니다. 한 번에 보내는 자료를 27만 2천 토큰 아래로 나누는지도 단가가 두 배로 뛰느냐를 가릅니다.

글 오레놀 대덕