OpenAI, EU 내 챗GPT 텍스트에 인식 가능한 워터마크 도입(techcrunch.com)
작성 언어: 한국어작성 언어로 보기
쉬운 요약
- OpenAI가 EU 내 챗GPT와 코덱스가 생성한 텍스트에 눈에 띄지 않는 워터마크를 적용해 AI 생성 여부를 탐지할 수 있게 했다.
- 워터마크는 단어 선택에 미묘한 변화를 주어 사람은 인지하지 못하지만 전용 감지기가 인식 가능한 패턴을 만든다.
- 워터마크는 텍스트 안에 포함되어 복사해도 함께 전달되며, 사용자 정보는 포함하지 않고 모델 성능에도 영향이 없다고 OpenAI는 밝혔다.
- OpenAI 연구팀과 펜실베이니아대, 예일대 공동 연구에서 공개한 기술 문서에 따르면 이 방법은 짧거나 번역된 텍스트, 수학 답변에서는 탐지율이 떨어지고 단어 일부 교체 시 탐지율도 감소하는 한계가 있다.
발견한 곳
TechCrunch ↗ / 매체 발행 글
비슷한 일을 겪어 본 적이 있나요? 그때 어떻게 했는지 한두 줄로 들려주세요. 제품을 잘 몰라도 괜찮습니다.