脱獄したPS5に言語モデルを載せて家庭内サーバーとして使う オープンソースのPS5LM(github.com)

- PS5LMは、脱獄したプレイステーション5のグラフィックチップに言語モデルファイルを載せて実行するアプリです。脱獄とは、メーカーが制限している機能を解除することを指します。原文では、実行中にPCやクラウド、アカウントは必要ないとされています。 - 原文によると、同じネットワーク内のノートPC、スマートフォン、コーディングツールは、本体のアドレスのポート8081に接続し、OpenAIとAnthropicの形式のAPIでモデルを呼び出せます。Claude Codeも接続できるとされています。 - 性能の数値は、リポジトリを作成した開発チームがREADMEに記載した値です。原文では、PS5 Slimでは、Qwen 3.5 9B（Q4_K_M圧縮方式）モデルが毎秒約55トークン、0.8Bモデルが約207トークン出るとされています。測定条件の詳細は原文には詳しく書かれていません。