Anthropic、AIモデルが実際にどのモデルで回答したかを暗号学的に証明するオープンソースシステムの研究(techcrunch.com)

- 原文によると、Anthropicは特定の出力がどのAIモデルから生成されたかを確認するオープンソースシステム、FlashProveを開発中である。目標は、ユーザーが受け取った回答が自分が使っていると思っているモデルから出たものかどうかを、暗号学的証明で確認することだ。 - 原文は、AI企業がコスト削減のために安価なモデルへ密かに切り替えたり、性能数値を水増しするために高価なモデルを使ったりする事態を防ぐのに使えると説明している。これは研究者が示した活用の可能性であり、実際の事例として確認されたものではない。 - 仕組みは、モデルを公開する際に重みは明かさず、モデルごとの指紋（フィンガープリント）を公開するものだ。その後、出力をこの指紋と暗号学的に照合する。原文は、個人の機器でも検証できるよう、システムを軽量に設計したと述べている。 - 技術仕様と動作コードの一部は、公開ライセンスのもとGitHubに公開されている。原文は、研究は中間段階であり、Anthropicや他の研究機関に展開する予定はないと述べている。