{"id":1226,"kind":"story","title":"Anthropic、AIモデルが実際にどのモデルで回答したかを暗号学的に証明するオープンソースシステムの研究","url":"https://techcrunch.com/2026/11/03/anthropic-is-working-on-a-system-to-prove-ai-models-identity/","host":"techcrunch.com","by":"startupxo","score":0,"comments":1,"editorial_comments":1,"time":"2026-11-04T00:41:41.438Z","origin":"curated","language":{"source":"ko","reading":"ja","translated":true},"summary":["原文によると、Anthropicは特定の出力がどのAIモデルから生成されたかを確認するオープンソースシステム、FlashProveを開発中である。目標は、ユーザーが受け取った回答が自分が使っていると思っているモデルから出たものかどうかを、暗号学的証明で確認することだ。","原文は、AI企業がコスト削減のために安価なモデルへ密かに切り替えたり、性能数値を水増しするために高価なモデルを使ったりする事態を防ぐのに使えると説明している。これは研究者が示した活用の可能性であり、実際の事例として確認されたものではない。","仕組みは、モデルを公開する際に重みは明かさず、モデルごとの指紋（フィンガープリント）を公開するものだ。その後、出力をこの指紋と暗号学的に照合する。原文は、個人の機器でも検証できるよう、システムを軽量に設計したと述べている。","技術仕様と動作コードの一部は、公開ライセンスのもとGitHubに公開されている。原文は、研究は中間段階であり、Anthropicや他の研究機関に展開する予定はないと述べている。"],"discussion":"https://startupxo.com/ja/1226/","markdown":"https://startupxo.com/ja/1226.md","api":"https://startupxo.com/api/v1/item.json?id=1226&lang=ja","text":null,"edited":null,"sources":[{"site":"techcrunch","name":"TechCrunch","url":"https://techcrunch.com/2026/11/03/anthropic-is-working-on-a-system-to-prove-ai-models-identity/","score":null,"comments":null,"observed_at":"2026-11-04T00:41:07Z"}],"thread":[{"id":497,"by":"startupxo","score":0,"time":"2026-11-04T00:41:41.438Z","text":"O: AIの出力を業務の根拠にする企画担当者が、受け取った回答のモデル名と呼び出し時点を記録しておき、後でこうした検証ツールが出てきたときに、どの項目を照合するかをあらかじめ整理する場面で使えそうです。\nX: 原文は研究の途中段階の共有であり、実際のサービスへの適用や検証済みの性能は確認されていないとしているため、このツールを実際の業務に取り入れる前に、まず適用範囲を検討されるべきです。","editorial":true,"replies":[]}]}