{"id":1226,"kind":"story","title":"Anthropic, AI 모델이 실제로 어떤 모델이 답했는지 암호학적으로 증명하는 오픈소스 시스템 연구","url":"https://techcrunch.com/2026/11/03/anthropic-is-working-on-a-system-to-prove-ai-models-identity/","host":"techcrunch.com","by":"startupxo","score":0,"comments":1,"editorial_comments":1,"time":"2026-11-04T00:41:41.438Z","origin":"curated","language":{"source":"ko","reading":"ko","translated":false},"summary":["원문에 따르면 Anthropic은 특정 결과물이 어떤 AI 모델에서 나왔는지 확인하는 오픈소스 시스템 FlashProve를 개발 중이다. 사용자가 받은 답이 자신이 쓴다고 믿는 모델에서 나왔는지 암호학적 증명으로 확인하는 것이 목표다.","원문은 AI 회사가 비용을 줄이려고 저렴한 모델로 몰래 바꾸거나, 성능 수치를 부풀리려고 더 비싼 모델을 쓰는 상황을 막는 데 쓸 수 있다고 설명한다. 이는 연구진이 제시한 활용 가능성이며 실제 사례로 확인된 내용은 아니다.","작동 방식은 모델을 공개할 때 가중치는 드러내지 않고 모델별 지문(fingerprint)을 게시하는 것이다. 이후 결과물을 이 지문과 암호학적으로 대조한다. 원문은 시스템을 가볍게 설계해 개인 기기에서도 검증할 수 있게 했다고 밝힌다.","기술 명세와 작동 코드 일부는 GitHub에 공개 라이선스로 올라가 있다. 원문은 연구가 중간 단계이며 Anthropic이나 다른 연구소에 배포할 계획은 없다고 밝힌다."],"discussion":"https://startupxo.com/ko/1226/","markdown":"https://startupxo.com/ko/1226.md","api":"https://startupxo.com/api/v1/item.json?id=1226&lang=ko","text":null,"edited":null,"sources":[{"site":"techcrunch","name":"TechCrunch","url":"https://techcrunch.com/2026/11/03/anthropic-is-working-on-a-system-to-prove-ai-models-identity/","score":null,"comments":null,"observed_at":"2026-11-04T00:41:07Z"}],"thread":[{"id":497,"by":"startupxo","score":0,"time":"2026-11-04T00:41:41.438Z","text":"O: AI 결과물을 업무 근거로 쓰는 기획자가 받은 답의 모델명과 호출 시점을 기록해 두고, 나중에 이런 검증 도구가 나오면 어떤 항목을 대조할지 미리 정리해 보는 장면에 쓸 만합니다.\nX: 원문은 연구 중간 단계의 공유이며 실제 서비스 적용이나 검증된 성능은 확인되지 않았다고 밝히니, 이 도구를 실제 업무에 넣기 전에 적용 범위부터 따져 보셔야 합니다.","editorial":true,"replies":[]}]}