중국 오픈모델이 추론비를 최대 90% 깎는다, 창업자가 따질 건 데이터가 가는 곳

무슨 일이 있었나

오픈AI와 앤트로픽의 API 값이 오르는 사이, 미국과 유럽 기업들이 조용히 중국산 오픈웨이트 모델로 넘어가고 있다. 모델 라우팅 서비스 오픈라우터에서 미국 기업이 중국 모델에 쓰는 토큰 비중은 2월 이후 매주 30%를 넘겼고, 한때 46%까지 올랐다고 CNBC가 전했다. 직전 12개월 평균이 11% 남짓이었으니 몇 달 새 판이 바뀐 셈이다. 이유는 단순하다. 딥시크, 알리바바 큐원, 문샷의 Kimi 같은 오픈 모델은 같은 작업을 앤트로픽·오픈AI의 프런티어 모델보다 60~90% 싸게 처리한다.

숫자로 보면 격차가 더 선명하다. 레스트오브월드가 전한 사례를 보면, 코딩 한 시간에 클로드로는 약 10달러가 드는데 딥시크로는 0.5달러가 채 안 든다. 샌프란시스코의 AI 비서 스타트업 린디는 6월에 앤트로픽에서 딥시크로 갈아타며 연간 수백만 달러를 아꼈고, 이메일 분류나 자동 응답 같은 핵심 작업에서 품질 저하는 뚜렷하지 않았다고 밝혔다. 배포 플랫폼 버셀에서는 딥시크의 토큰 점유율이 5월 한 달 만에 1% 미만에서 17%로 뛰었고, 에어비앤비와 커서(에니스피어)는 큐원·Kimi 같은 중국 오픈 모델을 쓴다고 공개했다. 값 경쟁도 격해졌다. 딥시크는 V4 프로 API 가격을 75% 내려 100만 토큰당 입력 0.435달러, 출력 0.87달러로 못박았는데, 종전 1.74달러·3.48달러의 4분의 1 수준이라고 InfoWorld는 정리했다.

창업자에게 의미하는 것

먼저 냉정하게 보면 이건 진짜 원가 절감이다. 지연에 둔감하고 물량이 많은 작업, 이를테면 문서 분류, 요약, 1차 응답, 야간 배치 처리에서는 프런티어 모델을 고집할 이유가 점점 줄어든다. 다만 값만 보고 넘어가면 뒤에서 새는 비용이 있다.

핵심 트레이드오프는 데이터가 어디로 흐르느냐다. 중국에 호스팅된 API를 그대로 쓰면 프롬프트, 문서, 임베딩, 로그, 텔레메트리가 회사 경계를 넘어 다른 법역으로 나간다고 InfoWorld는 지적한다. 한국 창업자에게 이건 단순한 찜찜함이 아니라 규제 문제다. 개인정보를 다루면 개인정보보호법상 국외 이전 고지와 동의 요건이 걸리고, 공공·금융·의료 고객을 노린다면 데이터 국외 반출 자체가 계약 조건에서 막힌다. 그래서 실무에는 두 가지 우회로가 자리 잡았다. 하나는 오픈 가중치를 직접 받아 자체 서버나 국내 리전 클라우드에 올려 돌리는 것, 다른 하나는 미국 클라우드를 거쳐 중국 개발사에 직접 결제하지 않고 데이터도 리전 밖으로 내보내지 않는 것이다. 실제로 규제 산업의 기업들은 중국 개발사에 직접 돈을 주는 대신 미국 클라우드 경유를 택하고 있다고 레스트오브월드는 전했다.

정치 리스크도 원가에 포함해야 한다. 미국에서는 에어비앤비와 커서의 중국 모델 사용을 두고 의회 조사가 시작됐다. 지정학이 바뀌면 어제 싸던 모델이 오늘 쓰기 곤란해질 수 있다. 그래서 한 모델에 코드를 못박기보다, 같은 작업을 여러 모델에 갈아끼울 수 있게 추상화 계층을 하나 두는 편이 안전하다. 오픈 가중치라 같은 모델을 여러 공급자에서 똑같이 돌릴 수 있다는 점이 이때 방어막이 된다.

지금 취할 수 있는 행동

작업을 두 통으로 나눠라. 민감 데이터가 없고 지연을 참아주는 배치성 작업은 중국 오픈 모델의 저비용 후보로 돌려보고, 실제 품질과 건당 원가를 프런티어와 나란히 재라. 민감 데이터가 얽힌 작업은 자체 호스팅이나 국내 리전 경유로만 열되, 국외 이전 동의와 로그 보관 정책을 먼저 정리하라. 어떤 경우든 결제 경로와 데이터 경로를 따로 기록해 두면, 나중에 고객 실사나 규제 점검이 들어와도 답이 준비돼 있다.

관련 공모전 · 이벤트

• CNDC 혁신 AI 아이디어 제안 공모전, ~2026.07.17. 저비용 오픈 모델 위에서 어떤 서비스가 실제로 돈이 되는지, 아이디어 단계에서 먼저 검증해볼 자리다.