StartupXO 스타트업 아이디어 · 뉴스 · 인재
언어 설정

Language

AI·기술

토큰값은 280배 싸졌는데 청구서는 320% 늘었다, AI 비용 양극화 읽는 법

게시일: 2026-06-24

추론비용DeepSeekAI원가구조해자토큰경제학

DeepSeek는 V4-Pro 가격을 4분의 1로 내리고, Meta는 2026년 AI 설비투자를 1,450억 달러까지 올렸다. 한쪽은 추론을 공짜에 가깝게 밀고, 다른 쪽은 인프라에 천문학적 돈을 붓는다. 토큰값은 2년 새 280배 떨어졌는데 기업 AI 청구서는 320% 늘었다. 이 모순이 창업자의 원가구조와 해자를 다시 짠다.

무슨 일이 있었나

두 숫자가 같은 분기에 나왔다. DeepSeek는 V4-Pro의 토큰 가격을 75% 깎았고, 이 할인은 2026년 5월 31일 이후 원래 가격의 4분의 1로 굳었다. 출력 토큰 기준 100만 개당 3.48달러에서 0.87달러로, 캐시 적중 입력은 0.0145달러에서 0.003625달러까지 떨어졌다. 단순 할인이 아니라 구조 변화다. V4-Pro는 긴 맥락 추론에서 단일 토큰 연산을 약 4분의 1, 메모리 사용을 10분의 1로 줄이도록 설계됐다는 게 회사 설명이다. 같은 시기 Meta는 반대로 갔다. 2026년 설비투자 가이던스를 1,250억~1,450억 달러로 올렸다. 2025년 722억 달러의 거의 두 배다. 투자자가 ROI 신호를 묻자 저커버그는 “그건 매우 기술적인 질문”이라며 비켜갔고, 발표 직후 Meta 주가는 시간외에서 6% 넘게 빠졌다. 한쪽은 추론을 거의 공짜로 미는데, 다른 쪽은 그 추론을 돌릴 인프라에 천문학적 돈을 붓는다. 시장은 두 갈래로 갈라지는 중이다.

창업자에게 의미하는 것

여기서 함정이 하나 있다. 토큰 단가는 2년 새 280배 떨어졌다. 그런데 기업의 AI 청구서는 같은 기간 320% 늘었다. 단가가 싸진 만큼 쓰는 양이 폭발했기 때문이다. 에이전트 워크플로가 한 번 돌 때마다 수십 번씩 모델을 호출하니, 토큰이 싸진 게 비용을 줄여주지 않는다. 스타트업에는 이게 더 아프다. 추론이 매출의 약 23%를 먹어 들어가면서, AI 네이티브 제품의 매출총이익률은 52% 선에 머문다. 성숙한 SaaS가 누리는 7585%보다 2030%포인트 낮다. “토큰 세금”이 구조적으로 마진을 깎는다. 그래서 모델 접근권 자체는 해자가 못 된다. DeepSeek가 가격을 4분의 1로 내리는 순간, 남의 API를 얇게 감싼 래퍼의 차별성은 증발한다. 진짜 해자는 다른 데 있다. 자기 데이터, 워크플로 깊숙이 박힌 통합, 그리고 토큰을 적게 쓰고도 같은 결과를 내는 원가 설계다. Cursor가 코드 생성용 자체 추론 모델을 직접 만들어 토큰 세금에서 빠져나가려는 게 그 신호다. 창업자는 이제 “어떤 모델을 쓰느냐”가 아니라 “토큰 한 개를 어떻게 아끼느냐”로 경쟁한다.

지금 취할 수 있는 행동

먼저 자기 제품의 토큰 단위 경제를 숫자로 까봐라. 사용자 한 명, 작업 한 건이 토큰을 몇 개 쓰고 거기 얼마가 드는지 모르면 가격 정책을 세울 수 없다. 둘째, 캐싱을 원가 설계의 1순위로 올려라. 캐시 적중과 미적중 사이 가격 차가 수십 배다. 반복되는 프롬프트·맥락을 캐시에 태우는 것만으로 청구서가 달라진다. 셋째, 모델을 작업별로 쪼개라. 모든 호출에 최고가 모델을 쓰지 말고, 분류·추출 같은 단순 작업은 저비용 모델로 내려라. DeepSeek 같은 저가 모델의 존재가 바로 이 선택지를 만든다. 넷째, 가격을 토큰이 아니라 결과에 묶어라. 사용량 기반 과금은 단가 하락의 위험을 그대로 떠안지만, 성과 기반 과금은 마진을 회복시킨다. 다섯째, 모델 접근권에 해자를 걸지 마라. 내일 누가 가격을 4분의 1로 내려도 살아남을 구조, 데이터, 통합, 원가 효율, 위에 회사를 세워야 한다.