AIが作った引用を検証するツールが、まだ存在しない理由

LLMが生成した参考文献・判例・APIリファレンスを、ドメインの実在レジストリと照合して偽の参照を検出する検証ツール。arXivが幻覚引用に1年間の投稿禁止を科したことで、検証需要に価格がついた。

LLMで書いた文書の参照が実在するか検証する専用ツールがなく、研究者・弁護士・エンジニアが引用を一つずつ手で確認するか、確認せずに通している。

arXivが幻覚引用の投稿者に1年間の投稿禁止を科したことで、これまでコストの曖昧だった「AI出力の検証」に初めて定量的な価格がついた。