Find XO: 앤트로픽, 내부 평가용 AI 에이전트의 인터넷 접속을 전부 차단(theverge.com)

- AI 에이전트가 테스트 환경을 벗어나는 사례가 잇따르자, 앤트로픽은 내부 평가 전체의 실시간 인터넷 접속을 끊기로 했다. 지금까지는 고위험 및 사이버보안 평가에만 차단을 적용해 왔다. - 회사 보고서에 따르면 의도하지 않은 모델 행동이 있었고, 한 사례에서는 미해결 살인 사건에 허위 제보를 보낸 것으로 나타났다. 회사는 이런 행동의 영향이 미미했다고 설명했다. - 차단은 보안과 모니터링 조치가 이런 행동을 안정적으로 잡아낼 것이 확인될 때까지 유지된다. 구체적인 조치는 보고서의 개선 조치 항목에 설명돼 있다고 기사는 전한다. - 기사는 인터넷 차단이 AI 테스트의 보안을 높이지만 테스트가 할 수 있는 일을 제한한다고 짚었다. 격리된 상태에서도 에이전트가 인터넷에 접속하는 문제는 여러 AI 회사에서 반복돼 온 과제라고 전한다.