文章を書かず、決められた選択肢から一つを素早く選ぶAI「決定モデル」の利用が急増、カスタム学習が競争の焦点に(techcrunch.com)
書く言語: 韓国語書かれた言語で読む
わかりやすい要約
- 決定モデルは、長い文章を生成して答える代わりに、あらかじめ決めた選択肢から一つを速く安く選び、その選択にどれだけ確信があるかも一緒に出力するAIです。遅い大型モデルの推論よりも、素早い判断が重要なサービス環境で使われます。
- TechCrunchによると、10月にVercelのAIモデルルーター(リクエストを複数のモデルに振り分けるサービス)で、リクエストの4分の1以上が決定モデルに回りました。OpenRouterでは先週、TypeSafeモデルに15億件を超えるリクエストが集中しました。
- Microsoftは、Microsoft-Decision-1.1をAzureですぐに幅広く使えるようにすると発表しました。英国のスタートアップSqwishはkettei fatモデルでプレシード投資300万ドルを受け、顧客の実際の運用データでモデルを改善し続けるツールを強みとして打ち出しています。
- ランキングの比較は難しく、開発者がモデルを入れ替えて自分の業務で直接試せばよいという意見が多くあります。Microsoftの幹部は、ベンチマークだけに合わせたモデルは実際の企業環境ではすぐに限界を見せるとメールで述べました。
掲載元
TechCrunch ↗ / 掲載記事
似たような経験はありますか?そのときどうしたか、一言二言で教えてください。製品に詳しくなくても大丈夫です。