프런티어 모델은 증류로 새어나간다 — API 위에 세운 회사의 진짜 해자

앤스로픽이 알리바바를 지목했다. 4월 22일부터 6월 5일까지 가짜 계정 2만5천 개로 클로드와 2,880만 회를 주고받으며 모델 능력을 빼냈다는 것이다. 출력만 충분히 모으면 프런티어 모델을 증류해 따라잡을 수 있다면, API 위에 회사를 세운 창업자의 해자는 대체 무엇인가.

무슨 일이 있었나

앤스로픽은 알리바바와 그 AI 연구소 큐원이 클로드를 상대로 자사 역사상 최대 규모의 ‘증류 공격’을 벌였다고 주장했다. 캠페인은 4월 22일부터 6월 5일까지 이어졌고, 약 2만5천 개의 부정 계정을 동원해 클로드와 2,880만 회 이상의 주고받음을 만들어냈다. 노린 건 가장 값나가는 능력 — 소프트웨어 엔지니어링과 에이전트형 추론, 앤스로픽의 최신 미토스 프리뷰 모델의 핵심이다. 증류란 강한 모델의 출력을 모아 약한 모델을 그 출력으로 학습시키는 기법이다. 외부에서 고급 모델에 반복적으로 질문을 던져 추론 패턴과 응답 구조를 긁어모으고, 그 응답으로 자기 모델을 학습시킨다. 처음부터 모델을 짓는 데 드는 막대한 R&D와 연산 비용을 우회하는 것이다. 앤스로픽은 이번 규모가 과거 사례를 크게 웃돈다고 했다 — 딥시크는 15만 회, 문샷AI는 340만 회, 미니맥스는 1,300만 회 수준이었다는 것이다. 알리바바는 보도 시점까지 별다른 입장을 내지 않았다. 정치권도 움직였다. 미 상원의원들이 미국 AI 출력에 부당하게 접근한 중국 기업을 제재하는 국방수권법 수정안을 손보고 있다.

창업자에게 의미하는 것

이건 거대 기업 둘의 싸움이 아니라, ‘AI 해자란 무엇인가’에 관한 질문이다. 한쪽에 프런티어 모델을 만드는 회사가 있다. 수억 달러를 태워 최고 능력을 빚어내지만, 그 능력은 API를 통해 출력으로 흘러나가고, 출력은 충분히 모으면 증류로 복제된다. 앤스로픽의 주장이 사실이라면, 모델 능력은 약관과 계정 차단이라는 얇은 벽 뒤에 놓인 셈이다 — 기술적으로 잠근 게 아니라 계약으로 막은 것이다. 다른 한쪽엔 그 API 위에 제품을 세운 창업자가 있다. 여기서 불편한 진실이 갈라진다. 모델 능력이 이렇게 새어나간다면, 모델 접근 자체는 누구도 오래 독점하지 못한다. 가장 좋은 모델은 일시적 우위일 뿐, 영구적 해자가 아니다. 패스트팔로어가 증류로 몇 달 만에 따라붙는 세상에서 ‘우리는 제일 똑똑한 모델을 쓴다’는 방어선이 아니다. 그렇다면 진짜 해자는 모델 밖에 있다. 독점 데이터, 워크플로 깊숙이 박힌 통합, 전환비용, 유통과 브랜드, 규제 신뢰 — 증류로 복제되지 않는 것들이다. 동시에 API 소비자 입장에선 다른 위험도 본다. 공급사가 증류를 막으려 약관을 조이고 사용 패턴을 감시하면, 정직한 헤비 유저까지 그물에 걸릴 수 있다. 비정상적 호출 패턴, 대량 합성 데이터 생성, 출력 재학습 — 내 정당한 사용이 어디서 약관 위반선을 넘는지 미리 알아야 한다.

지금 취할 수 있는 행동

먼저 해자를 모델에서 떼어내라. ‘제일 좋은 모델을 쓴다’를 차별점으로 적어둔 사업계획서가 있다면 다시 써라. 모델은 빌리는 것이고, 빌린 건 경쟁자도 빌린다. 둘째, 복제되지 않는 자산에 투자하라 — 고유 데이터, 워크플로 통합, 전환비용, 유통. 증류로 긁어갈 수 없는 건 거기에 있다. 셋째, 쓰는 모델의 약관을 실제로 읽어라. 특히 출력으로 다른 모델을 학습시키거나 합성 데이터를 대량 생성하는 게 허용되는지 — 모르고 하다가 계정이 끊기면 그게 곧 서비스 중단이다. 넷째, 내 제품이 ‘증류당하는 쪽’이라면(파인튜닝 모델·독자 프롬프트 자산을 API로 노출한다면) 레이트 리밋, 출력 워터마킹, 이상 사용 탐지를 방어선으로 깔아라. 능력을 출력으로 내보내는 모든 회사는 잠재적 증류 대상이다.