청소년용 챗GPT의 보호 기능 미흡, 부모 알림 체계 문제 지적(theverge.com)
작성 언어: 한국어작성 언어로 보기
쉬운 요약
- 커먼센스미디어는 오픈AI가 8월 도입한 10대용 챗GPT가 청소년 보호 약속에 미치지 못하는 안전 문제를 가진다고 평가했다.
- 평가 결과 10대용 챗GPT가 자해 등 위기 상황에서 부모에게 경고 알림을 제대로 보내지 않고, 위기 대응 지원도 부족하며, 학생 숙제를 대신해 주는 점도 드러났다.
- 오픈AI는 커먼센스미디어의 테스트가 부모 통제 기능 활성화 이전에 진행돼 정확하지 않으며, 자사 시스템이 올바르게 작동한다고 반박했다.
- 커먼센스미디어는 일부 테스트 계정에 알림이 도달하지 않았으며, 알림 시스템은 신규 계정 연결 후 수 시간 이상 걸려 활성화되기도 한다는 사실을 확인해 신뢰할 수 없는 점을 지적했다.
발견한 곳
The Verge ↗ / 매체 발행 글
비슷한 일을 겪어 본 적이 있나요? 그때 어떻게 했는지 한두 줄로 들려주세요. 제품을 잘 몰라도 괜찮습니다.