Find XO: 迅速な実験と低遅延の意思決定をサポートする20億パラメータのオープンソース選択モデル (strandsagents.com)

- Strands Decider 2Bは、テキストを生成する一般的な大規模言語モデルとは異なり、あらかじめ定められた回答の中から最適な選択肢を迅速に決定する小規模オープンソースAIモデルです。 - このモデルは20億パラメータで構成されており、NVIDIA RTX3090グラフィックカードでは質問に対し平均約115ミリ秒で回答を提供し、Apple M3 MacBookでも約153ミリ秒の低遅延性能を示します。 - 精度と信頼性（較正）はJevBenchデータセットでテストされ、同規模のモデルの中で上位に位置するとStrandsチームは発表しています。 - テキスト生成機能を持たないため、コーディング、チャット、文書要約など一般的な言語モデルの作業には適していませんが、単純な意思決定、ツール選択、モデルルーティングなどの作業には適しています。