NVIDIA가 Groq를 사고도 살려둔 이유 — 추론 칩 시장이 보내는 신호

무슨 일이 있었나

순서가 이상하다. 보통 큰 회사가 작은 칩 스타트업을 200억 달러에 흡수하면 그 스타트업은 사라진다. Groq는 그러지 않았다.

시간순으로 보면 이렇다. 2025년 9월, Groq는 Disruptive가 주도한 라운드에서 7.5억 달러를 모았다. 포스트머니 밸류에이션 69억 달러. BlackRock, Neuberger Berman, DTCP가 들어왔다. 석 달 뒤인 2025년 12월, NVIDIA가 약 200억 달러 규모의 거래를 발표한다. 인수가 아니었다. NVIDIA는 Groq의 LPU 하드웨어 기술을 라이선스했고 시니어 인력 일부를 데려갔다. CNBC는 이를 NVIDIA 역사상 최대 거래로 불렀다. 그런데 Groq는 그대로 독립 회사로 남았고, 전 CFO였던 Simon Edwards가 CEO 자리에 올랐다. 업계가 “not-acqui-hire”라 부른 형태다. 기술과 사람은 가져가되 회사는 죽이지 않는다.

그리고 2026년 5월, Groq가 다시 자본을 모으는 중이라는 보도가 나왔다. 6.5억 달러, 기존 투자자 대상. Disruptive와 Infinituum이 라운드를 백스톱하기로 합의했다고 한다. 자금은 Groq가 자체 칩 위에 세운 추론 “네오클라우드(neocloud)” 사업으로 향한다.

Groq의 LPU가 무엇이길래 NVIDIA가 200억 달러를 쓰고도 회사를 살려뒀나. LPU는 결정론적 실행(deterministic execution)을 한다. 가중치를 SRAM에 상주시켜 메모리 병목을 줄이고, 첫 토큰이 나오기까지의 시간(TTFT)을 GPU보다 짧게 가져간다. 학습이 아니라 추론, 그중에서도 지연 시간 싸움에서 NVIDIA GPU와 정면으로 붙는 물건이다.

창업자에게 의미하는 것

이 거래 구조 자체가 메시지다. NVIDIA는 Groq의 기술과 인력을 손에 넣으면서도 회사를 죽이지 않았다. 왜? 추론 칩 시장이 GPU 하나로 정리될 시장이 아니라고 봤기 때문이다. 죽여서 없앨 위협이 아니라, 라이선스로 끌어안고 독립적으로 굴러가게 두는 편이 낫다고 판단한 것이다.

핵심은 이거다. 학습(training)과 추론(inference)이 서로 다른 칩 시장으로 갈라지고 있다. 학습은 여전히 NVIDIA GPU의 영역이다. 거대한 행렬 연산, 높은 대역폭, 압도적 생태계. 하지만 추론은 다르다. 모델을 한 번 다 만든 다음, 매 요청을 가장 싸고 빠르게 처리하는 게임이다. 여기선 결정론적 실행과 낮은 TTFT가 GPU의 범용성보다 중요할 수 있다. Groq가 비싼 칩을 파는 대신 자체 클라우드로 추론을 직접 서빙하는 쪽으로 무게를 옮긴 것도 같은 맥락이다. 칩을 파는 회사가 아니라 추론을 파는 회사가 되겠다는 것.

한국 창업자에게 와닿는 지점.

추론 인프라를 쓰는 쪽이라면, 벤더가 한 군데로 정리될 거란 가정을 버려야 한다. NVIDIA조차 추론을 단일 칩으로 끌고 가지 않는다. 네이버 하이퍼클로바나 카카오의 자체 모델을 서빙하는 팀이라면, 학습 클러스터와 추론 백엔드를 같은 기준으로 묶어서 발주할 이유가 점점 사라진다. 추론은 따로, 가장 싼 곳에서.
인프라 스타트업을 만든다면, Groq의 출구 구조를 한 번 뜯어볼 가치가 있다. “회사를 통째로 파는 인수”가 아니라 “기술 라이선스 + 인력 이동 + 독립 유지”라는 형태가 빅테크의 새 패턴으로 자리잡고 있다. 창업자 입장에서 이건 협상 카드가 늘어난다는 뜻이다. 회사를 넘기지 않고도 핵심 IP의 가치를 현금화할 길이 생긴다.
타이밍 신호. NVIDIA가 라이선스로 가져간 기술을 Groq가 다시 6.5억 달러로 키우는 중이다. 같은 기술을 두 주체가 동시에 굴린다는 건, 추론 수요가 한쪽 공급으로 감당이 안 된다는 시장의 판단이다. 추론 비용이 매출의 큰 부분을 먹는 AI 서비스라면, 백엔드 선택지가 더 벌어질 다음 6~12개월을 가격 협상의 창으로 봐도 된다.

지금 취할 수 있는 행동

추론 백엔드를 단일 벤더로 묶어둔 계약이 있다면 만기와 전환 비용을 지금 확인하라. 옵션이 벌어지는 국면에서 락인은 그대로 비용이다.
Groq LPU의 TTFT·결정론적 실행이 실제 워크로드에 이득인지 작은 벤치마크로 직접 재보라. 지연 시간이 사용자 경험을 좌우하는 서비스일수록 GPU 대비 차이가 숫자로 나온다.
인프라 IP를 보유한 팀이라면 “전부 매각” 외에 “라이선스 + 독립 유지” 구조를 출구 시나리오에 넣어두라. Groq 사례가 그 협상의 선례가 된다.