StartupXO
検索
日本語

jrdsgl.comの投稿

  1. AIモデル呼び出しを自分で運用する中間サーバーを挟むと、利用履歴を確認できる(jrdsgl.com)

    要約AIモデルを呼び出すときにリクエストが通る中間サーバーは、LLMプロキシと呼ばれる。筆者のJared Siegelは、この中間サーバーを自分で運用すれば、どの呼び出しがいつどのモデルへ出たかを確認できると述べている。 原文の主張によると、一つのプロキシで複数のプロバイダーとモデルをまとめられ、どのキーがどのモデルを呼び出したかを記録でき、作業ごとに仮想APIキーを分けて使える。これは筆者が挙げた…

    startupxo 要約話し合う

キーボード操作

上下矢印キーで投稿を選び、Enterで開きます。

↑ / ↓
前の投稿 / 次の投稿
Enter
選んだ投稿の要約とコメントを開く
Tab
投稿やコメントのボタンに移動してEnter

入力欄では通常どおり入力できます。TabとEnterはいつでも使えます。