[AI Frontier] AI 모델 경쟁은 벤치마크에서 토큰 경제로 이동하고 있다

[AI Frontier]

AI 모델 경쟁은 벤치마크 점수표에서만 벌어지지 않는다. 실제 생산 환경에서는 토큰 점유율, 비용 점유율, 작업별 라우팅, 실패 비용이 모델 선택의 기준으로 올라오고 있다.

Image generated by OpenAI DALL·E

Vercel의 2026년 6월 AI Gateway 지수에서 가장 흥미로운 숫자는 DeepSeek의 17% 토큰 점유율이다. 더 중요한 것은 그다음 숫자다. 같은 기간 DeepSeek의 비용 점유율은 약 1%에 머물렀다. 많이 쓰이는 모델과 많은 돈을 가져가는 모델이 분리되고 있다.

이 괴리는 벤치마크 순위표가 설명하지 못하는 시장의 실제 움직임을 보여준다. 기업은 가장 높은 점수를 받은 모델 하나를 고르는 대신, 저비용 모델에는 대량 반복 작업을 맡기고 고위험 업무에는 프런티어 모델을 남겨둔다. AI 모델 경쟁은 성능 비교에서 토큰 경제와 라우팅 전략으로 이동하고 있다.

OPENROUTER

100조

OpenRouter가 분석한 실제 언어모델 사용 토큰 규모.

DEEPSEEK

14.37조

2024년 11월~2025년 11월 OpenRouter 오픈소스 계열 저자별 토큰량.

VERCEL

17% / 1%

2026년 5월 DeepSeek의 토큰 점유율과 비용 점유율.

HIGH-STAKES

70~80%

Vercel 기준 Anthropic의 고위험 사용 사례 비용 점유율.

토큰은 AI 사용의 회계 단위가 됐다

토큰은 언어모델이 텍스트를 읽고 쓰는 기본 처리 단위다. 입력 문서가 길어지고, 모델이 여러 번 추론하고, 도구 호출과 재시도가 붙을수록 토큰 사용량은 커진다. 응용 프로그래밍 인터페이스(Application Programming Interface, API) 과금도 대부분 이 단위를 중심으로 설계된다.

그래서 토큰은 단순 기술 용어가 아니라 AI 사용의 회계 단위에 가깝다. 어떤 모델이 실제 업무를 얼마나 많이 처리했는지, 그 과정에서 비용이 어디에 쌓였는지, 같은 성능이라도 어떤 모델이 더 경제적인지를 보여준다. 벤치마크가 능력의 시험이라면, 토큰은 배치의 흔적이다.

벤치마크는 능력을 보지만, 배치를 설명하지 못한다

벤치마크는 여전히 필요하다. 모델의 추론 능력, 코딩 성능, 긴 문맥 처리, 멀티모달 능력을 비교하려면 공통 시험이 있어야 한다. 다만 기업의 실제 선택은 시험 점수 하나로 끝나지 않는다. 비용, 응답 속도, 데이터 위치, 실패 시 복구 가능성, 보안 요구가 함께 작동한다.

에이전트형 AI에서는 이 차이가 더 커진다. 사용자가 한 번 지시해도 모델은 계획을 세우고, 여러 도구를 호출하고, 중간 결과를 다시 읽고, 실패하면 재시도한다. 화면에는 하나의 결과처럼 보이지만 내부에서는 여러 번의 토큰 소비가 일어난다. 이때 필요한 지표는 순위표보다 작업당 총비용과 실패율이다.

DeepSeek과 Qwen은 ‘충분한 성능+낮은 단가’의 수요를 잡았다

OpenRouter의 100조 토큰 분석에서 DeepSeek은 오픈소스·오픈웨이트 계열 모델 저자별 토큰량 기준 14.37조 토큰을 기록했고, Qwen도 5.59조 토큰을 기록했다. 이 수치는 전체 소비자 챗봇 이용자 수를 뜻하지 않는다. OpenRouter라는 특정 개발자·앱 생태계에서 관측된 실제 라우팅 데이터다.

그 한계를 감안해도 신호는 유의미하다. 중국 오픈웨이트 모델은 낮은 비용, 빠른 릴리스 주기, 충분한 품질을 바탕으로 실제 사용량을 확보하고 있다. OpenRouter는 2026년 6월 오픈웨이트 모델 분석에서 비용이 대규모 AI 사용 조직의 중심 관심사가 됐고, 오픈웨이트 모델의 역량이 미국 프런티어 연구소와 3~6개월 격차를 유지해왔다고 설명했다.

토큰 점유율과 비용 점유율은 반대로 움직일 수 있다

Vercel 데이터의 핵심은 DeepSeek이 많이 쓰였다는 사실 자체가 아니다. 2026년 5월 DeepSeek은 AI Gateway 토큰의 17%를 차지했지만 비용 점유율은 약 1%였다. 같은 보고서에서 Anthropic은 전체 비용 점유율 65%를 차지했고, AI 앱 생성, 백오피스 에이전트, 코딩 에이전트 같은 고위험 사용 사례에서는 70~80%의 비용 점유율을 유지했다.

코딩 에이전트 부문에서도 분리가 나타났다. DeepSeek은 해당 세그먼트 토큰량의 49%를 처리했지만 비용은 4%에 그쳤고, Anthropic은 토큰량 28%로 비용 70%를 가져갔다. 많이 쓰이는 모델과 비싸게 쓰이는 모델이 다른 층위를 차지하는 구조다.

기업 AI 전략은 단일 모델 선택에서 라우팅으로 이동한다

모델 라우팅은 작업 성격에 따라 다른 모델을 배정하는 방식이다. 문서 요약, 분류, 내부 초안처럼 반복량이 큰 업무는 저비용 모델에 맡길 수 있다. 고객에게 나가는 답변, 코드 변경, 보안 관련 작업, 민감 데이터 접근은 더 신뢰도가 높은 모델과 사람 검수 절차를 요구한다.

이 접근은 비용 절감 기술이 아니라 운영 설계다. 모든 작업에 최고가 모델을 쓰면 비용이 빨리 커지고, 모든 작업에 저가 모델을 쓰면 실패 비용이 커진다. 기업은 모델을 고르는 것이 아니라 업무를 나눠야 한다. 반복 업무, 외부 발송, 고위험 판단, 민감 데이터 접근을 같은 정책으로 묶는 순간 토큰 경제의 이점은 사라진다.

MODEL ROUTING CHECKLIST

모델별 토큰당 비용과 작업당 총비용을 분리해 보고 있는가?
저비용 모델을 쓴 업무의 재시도율과 실패율을 측정하고 있는가?
고위험 업무는 별도 모델, 별도 권한, 사람 승인 절차로 분리되어 있는가?
중국 오픈웨이트 모델을 쓸 경우 데이터 위치와 보안 검토 기준이 정해져 있는가?
특정 국가나 공급자의 접근 제한이 생길 때 대체 모델 경로가 있는가?

낮은 비용 뒤에는 보안·공급·정책 리스크가 남는다

중국 모델의 확산을 비용 경쟁만으로 보면 절반만 보게 된다. Reuters는 Z.ai의 GLM-5.2가 코딩과 에이전트 역량으로 서구 개발자 플랫폼에서 주목받고 있지만, 데이터 보안 우려가 규제 산업과 서구권 대기업의 도입을 제한할 수 있다고 보도했다. 낮은 비용은 강한 유인이다. 민감 데이터와 고객 영향이 걸린 업무에서는 모델의 출처와 배포 방식이 바로 검토 대상이 된다.

공급 리스크도 남아 있다. Reuters는 중국 당국이 Alibaba, ByteDance, Z.ai 등과 만나 최첨단 AI 모델의 해외 접근 제한 가능성을 논의했다고 보도했다. 아직 확정된 정책은 아니지만, 고급 AI 모델을 국가 안보 자산으로 다루는 흐름은 이미 시작됐다. 기업의 라우팅 전략에는 가격표뿐 아니라 접근권, 대체 모델, 감사 로그, 데이터 보관 위치가 포함되어야 한다.

다음 분기에는 토큰당 실패 비용을 봐야 한다

다음에 확인할 지표는 모델 순위표가 아니다. 자사 워크로드에서 모델별 토큰당 비용, 재시도율, 실패율, 사람 검수 비율이 어떻게 갈리는지 봐야 한다. 이 네 가지가 분리되어야 저가 모델을 어디까지 쓰고, 프런티어 모델을 어디에 남길지 결정할 수 있다.

AI 모델 선택의 기준은 가장 높은 점수가 아니라 우리 업무에서 토큰당 실패 비용이 가장 낮은 조합이다. 벤치마크는 후보를 좁히는 데 필요하다. 최종 판단은 작업별 토큰당 비용 대비 실패율에서 갈린다.

Summary

AI 모델 경쟁은 벤치마크 점수만으로 읽기 어려워졌다. DeepSeek의 17% 토큰 점유율과 약 1% 비용 점유율은 많이 쓰이는 모델과 많은 돈을 가져가는 모델이 분리되고 있음을 보여준다. 기업은 저비용 모델과 프런티어 모델을 업무 위험도에 따라 나눠 써야 하며, 다음 분기에는 작업별 토큰당 비용, 실패율, 재시도율, 사람 검수 비율을 함께 봐야 한다.

TERMINOLOGY

본문에 나오는 주요 용어 정리

용어	뜻	실무자가 이해할 포인트
토큰	언어모델이 텍스트를 읽고 쓰는 기본 처리 단위	AI 비용, 사용량, 작업 복잡도를 계산하는 기본 회계 단위다.
오픈웨이트	모델 가중치를 내려받아 실행하거나 조정할 수 있는 배포 방식	자체 호스팅과 비용 절감에 유리하지만 라이선스, 보안, 업데이트 책임을 확인해야 한다.
모델 라우팅	작업 성격에 따라 다른 AI 모델로 요청을 보내는 방식	비용과 품질을 동시에 관리하려면 업무 위험도별 라우팅 기준이 필요하다.
토큰당 실패 비용	토큰 비용에 재시도, 오류 수정, 사람 검수, 사고 대응 비용을 함께 반영한 판단 기준	저가 모델 도입 여부를 판단할 때 단가보다 더 실무적인 기준이 될 수 있다.

이 블로그 검색