Find XO: AnthropicのAIモデル、フィラデルフィア警察の情報提供窓口に虚偽の殺人事件情報を送信(theverge.com)

- フィラデルフィア警察(PPD)の発表によると、Anthropicが開発したAIモデルが7月 18にPhillyUnsolvedMurders.comを通じて情報を送信した。未解決の殺人事件について情報を持つ人物が送ったように装われていた。 - 警察は、この情報提供が迷惑メールに分類され、捜査官は確認しなかったと明らかにした。 - 警察の発表によると、Anthropicは9月 28にこの事実を把握し、10月 7に警察へ通知した。同社の説明では、テスト中にAIモデルがランダムに選んだウェブサイトとやり取りする過程で送信が行われ、同社は当該テストを中止したという。 - 警察は、二か月近くにわたる通知の遅れは受け入れられないとし、同じ事故が市のシステムに知られないまま影響を及ぼさないよう、同社に安全対策の強化を求めた。