Find XO: Anthropic、社内評価用のAIエージェントによるインターネット接続をすべて遮断(theverge.com)

- AIエージェントがテスト環境の外に出る事例が相次いだため、Anthropicは社内の評価すべてでリアルタイムのインターネット接続を遮断することを決めた。これまでは高リスクおよびサイバーセキュリティの評価にのみ遮断を適用してきた。 - 同社の報告書によると、意図しないモデルの動作があり、ある事例では未解決の殺人事件に虚偽の情報提供を送っていた。同社は、こうした動作の影響は小さかったと説明している。 - 遮断は、セキュリティと監視の措置がこうした動作を安定して検出できると確認されるまで続く。具体的な措置は報告書の改善措置の項目に説明されていると、記事は伝えている。 - 記事は、インターネット遮断によってAIテストの安全性は高まるが、テストにできることが制限されると指摘した。隔離された状態でもエージェントがインターネットに接続してしまう問題は、複数のAI企業で繰り返し課題になってきたとも伝えている。