오픈웨이트가 프런티어 품질에 6분의 1 값으로 왔다, API 위에 지은 사업의 마진 계산이 틀어졌다

무슨 일이 있었나

Z.ai(즈푸AI)가 오픈웨이트로 푼 GLM 5.2가 벤치마크 표를 흔들었다. SWE-bench Pro에서 62.1점으로 GPT-5.5의 58.6점을 앞섰고, Terminal-Bench 2.1에서는 81.0점으로 Claude Sonnet 5(80.4)를 근소하게 눌렀다. 무게중심은 성능이 아니라 가격표에 있다. 100만 토큰당 입력 1.40달러, 출력 4.40달러다. Claude Opus 4.8이 입력 5달러에 출력 25달러이고, GPT-5.5 대비로는 대략 6분의 1 값이다. 구조는 총 7500억 파라미터에 토큰당 활성은 400억 규모인 MoE라, 덩치에 비해 추론 원가가 낮게 눌린다. 개발자 마틴 앨더슨은 이 조합을 두고 “다가오는 AI 마진 붕괴”라 이름 붙였다. 프런티어 랩이 API 한 건에 컴퓨트 원가 대비 90%에 가까운 총이익을 얹고 있는데, 품질이 붙는 오픈웨이트가 그 마진 위로 정면으로 들어오기 시작했다는 진단이다. 약점은 분명하다. GLM 5.2는 텍스트 전용이라 비전도 컴퓨터 유즈도 없고, 생각 토큰을 많이 써 느리며 웹 검색이 약하다. 그래도 base URL과 키만 바꿔 끼우는 드롭인 교체가 가능한 워크로드가 이미 넓다.

창업자에게 의미하는 것

폐쇄형 API 위에 사업을 지었다면 원가 바닥이 통째로 움직였다는 뜻이다. 지금까지 AI 래퍼와 리셀러의 손익은 조용한 전제 위에 서 있었다. 모델 원가는 폐쇄형 랩이 쥔 상수이고, 우리는 그 위에 UX와 워크플로우를 얹어 마진을 남긴다. GLM 5.2 같은 모델이 그 상수를 변수로 바꿨다. 텍스트 중심 파이프라인이라면 오늘 당장 출력 토큰 원가를 5분의 1 아래로 끌어내릴 선택지가 생겼다. 문제는 그 여지가 나에게만 생긴 게 아니라는 데 있다. 경쟁자도, 내 고객도 같은 계산기를 두드린다. “우리 앱이 GPT를 쓴다”가 값이던 시절은 지났다. 모델을 감싼 얇은 껍데기는 이제 프리미엄을 정당화하지 못한다. 남는 해자는 모델 바깥이다. 독점 데이터, 워크플로우 깊이, 유통 채널, 규제 대응처럼 토큰 값으로 복제되지 않는 자리다.

폐쇄형 랩의 가격 결정력도 같이 눌린다. 앨더슨은 AMD 하드웨어 추론이 엔비디아 블랙웰 대비 2.75배 저렴하다는 점까지 얹어, 추론 단가 곡선이 아래로 더 꺾일 여지가 크다고 본다. 창업자에게 이건 원가 절감을 넘어 로드맵 문제다. 토큰 값이 무서워 미뤄둔 기능, 사용자당 호출을 아껴 쓰던 설계, 무료 티어에서 막아둔 동작이 있다면 그 제약의 근거가 흔들린다. 반대로 API 재판매 자체가 매출의 핵이라면, 그 마진이 언제까지 버틸지를 지금 숫자로 따져둘 때다.

지금 취할 수 있는 행동

워크로드를 비전이 필요한 것과 텍스트만으로 되는 것으로 갈라보자. 후자부터 GLM 5.2 같은 오픈웨이트로 드롭인 테스트를 돌려 품질 손실과 원가 절감을 실측한다. 자체 GPU를 세우기 전이라도 오픈웨이트를 호스팅해주는 추론 API가 이미 여럿이라, 셀프호스팅의 운영 부담 없이 원가만 먼저 당길 수 있다. 그리고 내 제품 설명서에서 “최신 모델 탑재”가 몇 줄을 차지하는지 세어보자. 그 줄이 가치 제안의 중심이라면, 모델이 상품화되는 6개월 뒤에 무엇으로 팔지를 지금 다시 적어야 한다.

관련 공모전 · 이벤트

• CNDC 혁신 AI 아이디어 제안 공모전, ~2026.07.17. 추론 원가가 내려가면 어제까지 비싸서 못 만들던 AI 서비스가 사업이 된다, 그 아이디어를 문서 한 장으로 검증받는 자리다.
• 기상·기후 AI 해커톤 경진대회, ~2026.08.22. 값싼 오픈웨이트 추론은 대량 데이터를 반복해서 돌리는 기후 문제와 특히 잘 맞는다.