이제 칩까지 만들어야 끼는 판 — 수직통합이 그어버린 새 진입선

OpenAI가 브로드컴과 첫 추론 전용 칩 ‘할라피뇨’를 설계 9개월 만에 테이프아웃했다. 구글 TPU, 아마존 트레이니엄에 이어 AI 사업자가 모델에서 실리콘까지 내려가는 흐름이 굳어진다. 칩 자체보다, 그 게임을 할 수 있는 회사가 손에 꼽힌다는 사실이 창업자에게 더 중요하다.

무슨 일이 있었나

2026년 6월 24일 OpenAI가 브로드컴과 함께 만든 첫 자체 칩 ‘할라피뇨’를 공개했다. 추론 전용, 즉 다 만들어진 모델이 사용자 응답을 내는 단계에만 쓰는 칩이고 사전학습은 여전히 엔비디아 GPU가 맡는다. 눈에 띄는 건 만든 속도다. 설계 착수에서 테이프아웃까지 9개월. 회사는 이 정도 고성능 ASIC을 이 일정에 뽑은 건 업계에서 가장 빠른 축이라고 했고, 그 설계를 OpenAI 자기 모델이 거들었다고 덧붙였다. 물건은 레티클 한 장을 꽉 채운 크기의 대형 칩이다. 성능은 와트당 효율이 “현재 최고 수준을 상당히 앞선다”고만 했을 뿐 구체 수치는 미공개다. 배포는 2026년 말, 마이크로소프트를 비롯한 파트너들과 기가와트 규모로 깐다는 계획이다. 그런데 이건 OpenAI 혼자 튀는 장면이 아니다. 구글은 2015년부터 TPU를 굴렸고 아마존은 트레이니엄으로 학습까지 자체 실리콘에 태운다. 모델을 가진 빅테크가 하나둘 칩 설계까지 손에 쥐는 흐름에, OpenAI가 늦게나마 합류한 것이다.

창업자에게 의미하는 것

헤드라인은 ‘엔비디아 의존을 줄였다’지만, 진짜 신호는 게임에 끼는 입장료가 한 층 더 깊어졌다는 데 있다. 몇 년 전만 해도 AI 회사의 해자는 더 좋은 모델이었다. 그다음은 데이터와 유통이었다. 이제 그 밑단에 자체 실리콘이 한 줄 더 깔린다. 모델도 내 것, 그 모델을 돌리는 칩도 내 것, 칩을 꽂을 데이터센터도 내 것 — 이 풀스택을 쌓을 수 있는 회사는 전 세계에 손가락으로 꼽힌다. 브로드컴·마벨 두 곳이 사실상 설계 시장을 다 쥐고 그걸 TSMC가 찍는 구조라, 자본과 물량을 들고 줄을 설 수 있는 자만 칩 설계 테이블에 앉는다. 와트당 효율이 기존 칩을 앞선다면 OpenAI는 추론 단가를 더 낮출 여력이 생기고, 그 칩을 자사 워크로드에 먼저 몰아줄 수도, 특정 모델을 자기 실리콘에 묶을 수도 있다. 남의 풀스택 위에 회사를 세운다는 건 사다리를 통째로 빌려 쓴다는 뜻이고, 빌린 사다리의 흔들림은 빌린 쪽이 정한다. 국내로 내려오면 거리는 더 멀다. 네이버는 하이퍼클로바라는 자체 LLM을 쥐었지만 칩까지 내려가진 않았고, 카카오·쿠팡 같은 대형 플랫폼도 추론은 결국 해외 GPU나 클라우드에 얹는다. 그러니 한국 스타트업 대부분은 ‘엔비디아 의존’을 넘어 ‘특정 미국 모델 사업자 의존’이라는 이중 종속에 놓인다. 와트당 효율 수치가 미공개인 지금, 추론 경제학이 실제로 얼마나 바뀔지는 아직 모른다. 다만 방향은 분명하다. AI의 진짜 해자가 응용층에서 실리콘층으로 내려가고, 그 층에 들어갈 수 있는 명단이 점점 짧아진다.

지금 취할 수 있는 행동

먼저 자기가 어느 층에서 싸우는지부터 분명히 하라. 칩과 풀스택은 자본 게임이고, 그 판에서 창업자가 이길 일은 없다. 끼려 하지 말고 그 위에서 사업자가 들어오지 않을 자리를 잡아라. 둘째, 추론 공급을 한 사업자에 몰지 마라. OpenAI가 칩까지 수직통합하는 지금, 단일 모델에 묶인 제품은 그쪽 가격·정책 변화에 무방비다. 같은 작업을 다른 모델로 돌릴 추상화 한 겹은 보험이다. 셋째, 해자를 모델이나 칩이 아니라 내가 통제하는 자산 위에 세워라. 자기 데이터, 워크플로에 박힌 통합, 특정 산업·언어·규제에 대한 깊이 — 누가 칩을 절반값에 풀어도 이건 흔들리지 않는다. 넷째, 거대 사업자의 수직통합을 위협으로만 보지 마라. 모두가 밑단으로 내려갈수록, 좁고 깊은 응용 자리는 오히려 비어간다. 그들이 짓는 기가와트 인프라는, 그 위에서 무엇을 팔지 아는 사람에게는 싸진 원자재다.