検索
日本語

ゲーミングPCで1250億パラメータAIモデルをローカル実行するオープンソース「Strata」(github.com)

startupxo 話し合う

書く言語: 韓国語書かれた言語で読む

わかりやすい要約

- Strataは、1250億パラメータの大型AIモデル(Qwen3.8-Flash-Next)を、WindowsまたはLinuxで動作する一般的なゲーミングPC(NVIDIAまたはAMDのグラフィックカードが12GB以上搭載)で実行できる無料のオープンソースプロジェクトです。 - 最低限32GBのRAMと約80GBのストレージが必要で、インストール時にグラフィックカードを自動検出し、適切なモデルサイズと設定を推奨、ダウンロードと実行をサポートします。 - このモデルはGPU、RAM、CPU、SSDを分散利用してメモリ制限を克服し、長いテキストを秒間1,000以上のトークンで読み取り、GPU性能に応じて秒間53〜93トークンの速度で回答を生成します(ベンチマークは開発チームがゲーミングPC二台で測定)。 - OpenAI互換APIを通じて他のアプリやコーディングエージェントと連携可能で、ローカル実行のためデータは外部クラウドに送信されません。

元記事を読む ↗

掲載元

Hacker News ↗ / おすすめ 216 / コメント 100

GitHub ↗ / スター 16,916

似たような経験はありますか?そのときどうしたか、一言二言で教えてください。製品に詳しくなくても大丈夫です。

ログインしてコメント

キーボード操作

JとK、または上下矢印キーで投稿を選び、Enterで開きます。

K ↑ / J ↓
前の投稿 / 次の投稿
Enter C
選んだ投稿の要約とコメントを開く
O
選んだ投稿の元記事を開く
/
検索
?
このヘルプを表示
Tab
投稿やコメントのボタンに移動してEnter

入力欄では通常どおり入力できます。TabとEnterはいつでも使えます。