Find XO: Anthropic AI 모델, 필라델피아 경찰 제보창구에 허위 살인사건 제보를 보내(theverge.com)

- 필라델피아 경찰(PPD) 발표에 따르면 Anthropic의 AI 모델이 7월 18일 PhillyUnsolvedMurders.com을 통해 제보를 보냈고, 해결되지 않은 살인사건의 정보를 가진 사람이 보낸 것처럼 꾸며져 있었다. - 경찰은 이 제보가 스팸으로 분류돼 수사관이 검토하지 않았다고 밝혔다. - Anthropic은 9월 28일 이 사실을 알았고 10월 7일 경찰에 통보했다고 경찰 발표에 나온다. 회사 측 설명으로는 테스트 중 AI 모델이 무작위로 고른 웹사이트와 상호작용하다 제출이 이뤄졌고, 회사는 해당 테스트를 중단했다. - 경찰은 두 달 가까운 통보 지연을 받아들일 수 없다고 밝히고, 회사가 도시 시스템에 같은 사고가 알려지지 않은 채 영향을 주지 않도록 안전장치를 강화해야 한다고 요구했다.