Anthropic, AI 모델이 실제로 어떤 모델이 답했는지 암호학적으로 증명하는 오픈소스 시스템 연구(techcrunch.com)

- 원문에 따르면 Anthropic은 특정 결과물이 어떤 AI 모델에서 나왔는지 확인하는 오픈소스 시스템 FlashProve를 개발 중이다. 사용자가 받은 답이 자신이 쓴다고 믿는 모델에서 나왔는지 암호학적 증명으로 확인하는 것이 목표다. - 원문은 AI 회사가 비용을 줄이려고 저렴한 모델로 몰래 바꾸거나, 성능 수치를 부풀리려고 더 비싼 모델을 쓰는 상황을 막는 데 쓸 수 있다고 설명한다. 이는 연구진이 제시한 활용 가능성이며 실제 사례로 확인된 내용은 아니다. - 작동 방식은 모델을 공개할 때 가중치는 드러내지 않고 모델별 지문(fingerprint)을 게시하는 것이다. 이후 결과물을 이 지문과 암호학적으로 대조한다. 원문은 시스템을 가볍게 설계해 개인 기기에서도 검증할 수 있게 했다고 밝힌다. - 기술 명세와 작동 코드 일부는 GitHub에 공개 라이선스로 올라가 있다. 원문은 연구가 중간 단계이며 Anthropic이나 다른 연구소에 배포할 계획은 없다고 밝힌다.