Find XO: エージェントを導入するとガードレールも購入、新たな安全ツールとしてのB2B市場 (huggingface.co)

- NVIDIAがコンテンツ安全モデルNemotron 3.5を公開し、RIFT-Benchは45のエージェントシステムに対する自動攻撃の結果を発表した。 - 企業がエージェントを展開する中で、ランタイム安全分類器、ガードレールAPI、レッドチーミングが製品カテゴリとして確立されつつある。 - ただし、汎用分類器や一回限りのレッドチームレポートをそのまま販売するのは問題がある。 - 顧客は自社のポリシーをどれだけ正確に運用し、稼働中のエージェントにどれだけ長く関わり続けるかに対して費用を支払う。