中国のオープンモデルが推論コストを最大90%削る、問われるのはデータの行き先だ

何が起きたのか

オープンAIとアンスロピックのAPI価格が上がるなか、欧米企業が静かに中国製のオープンウェイトモデルへ乗り換えている。モデルルーティングのオープンルーターでは、米国企業が中国モデルに使うトークンの比率が2月以降ずっと毎週30%を超え、一時は46%まで達したとCNBCが伝えた。直前12カ月の平均が11%ほどだったので、数カ月で構図が変わった格好だ。理由はそっけない。ディープシーク、アリババのQwen、ムーンショットのKimiといったオープンモデルは、同じ処理をアンスロピック・オープンAIのフロンティアモデルより60〜90%安くこなす。

数字で見ると差はもっとくっきりする。レストオブワールドが伝えた例では、コーディング1時間がクロードで約10ドルなのに、ディープシークでは0.5ドルに満たない。サンフランシスコのAIアシスタント新興リンディは6月にアンスロピックからディープシークへ切り替え、年間で数百万ドルを節約する見込みで、メール仕分けや自動返信といった中核業務で明確な品質低下はなかったという。配信基盤のバーセルでは、ディープシークのトークン比率が5月のひと月で1%未満から17%へ跳ね、エアビーアンドビーとカーソル(エニスフィア)はQwenやKimiなど中国のオープンモデルを使うと公表した。価格競争も激しい。ディープシークはV4 ProのAPI価格を75%下げ、100万トークンあたり入力0.435ドル、出力0.87ドルに固定した。従来の1.74ドル・3.48ドルの4分の1にあたるとInfoWorldは整理している。

創業者にとっての意味

まず冷静に言えば、これは本物のコスト削減だ。遅延に鈍感で量の多い処理、たとえば文書分類、要約、一次応答、夜間バッチでは、フロンティアモデルに固執する理由がだんだん薄れる。ただし値段だけを見て進むと、裏で漏れる費用がある。

核心のトレードオフはデータがどこへ流れるかだ。中国にホストされたAPIをそのまま使えば、プロンプト、文書、埋め込み、ログ、テレメトリが会社の境界を越えて別の法域へ出るとInfoWorldは指摘する。エンタープライズを狙う創業者にとってこれは気分の問題ではなく調達の問題だ。個人情報保護法(APPI)上の越境移転の要件、データ処理の契約条項、規制業界の顧客によるセキュリティ審査は、いずれも処理がどこで行われ何が保持されるかにかかる。だから実務では二つの迂回路が定着した。一つはオープンな重みを自分で取得し、自社サーバーや国内リージョンのクラウドで動かすこと。もう一つは米国のクラウドを経由して、中国の開発元へ直接支払わず、データもリージョン外へ出さないことだ。実際に規制業界の企業は、中国の開発元へ直接払う代わりに米国クラウド経由を選んでいるとレストオブワールドは伝えた。

政治リスクもコスト欄に入れるべきだ。米国ではエアビーアンドビーとカーソルの中国モデル利用をめぐり議会の調査が始まった。地政学が動けば、昨日安かったモデルが今日は使いづらくなりうる。だから一つのモデルにコードを固定するより、アプリと提供元の間に抽象化の層を一枚置き、処理ごとにモデルを差し替えられるようにしておくほうが安全だ。オープンな重みなので同じモデルを複数の提供元で同じように動かせる点が、ここでの防御になる。

今できること

処理を二つのバケツに分けよ。機微データを含まず遅延を許すバッチ処理は、低コストの中国オープンモデルを候補として回し、実際の品質と1件あたりコストをフロンティアと並べて測る。機微データが絡む処理は自社ホスティングか国内リージョン経由でのみ開き、越境移転の同意とログ保持の方針を先に整えておく。どちらにせよ、支払いの経路とデータの経路を別々に記録しておけば、後で顧客のデューデリジェンスや規制の点検が入っても答えは用意できている。