AIが作った引用を検証するツールが、まだ存在しない理由

どんな問題か

LLMが生み出す幻覚のうち、最も扱いやすい種類がある。「外部の実在を指すポインタ」が偽物である場合だ。存在しない論文の引用、発行されていない判例番号、コードに紛れ込んだ偽の関数・パッケージ名。これらに共通するのは検証可能であることだ — 指す対象が本物のレジストリにあるか確認すれば終わる。

問題は、その確認を自動でやってくれる専用ツールがないことだ。研究者は参考文献を一行ずつ検索し、弁護士は判例をデータベースで直接調べ、エンジニアはIDEが赤線を引くまで待つ。汎用の「幻覚検出器」はLLMに再び「これは本物か?」と尋ねるだけで、幻覚を幻覚で検証する矛盾に陥る。本当に必要なのは、LLMではなく権威あるレジストリと直接照合する決定論的な検証器だ。

なぜ今か

2026年5月、arXivは幻覚引用を含む論文の投稿者に1年間の投稿禁止を科し始めた。幻覚引用は2023年以降10倍に増え277本に1本の割合、NeurIPS 2025では3名以上の査読を通過した53本から100件超が見つかった。この方針の意味は、検証需要に「1年間の投稿禁止」という価格がついたことだ。

コストが曖昧なときは誰もツールに金を払わない。コストが明確になれば、それを下げるツールへの支払い意思が生まれる。arXivは学術界でその転換を起こし、同じ構造 — 幻覚判例、幻覚規制引用、幻覚API — を持つ法務・コンプライアンス・開発のドメインが続く可能性が高い。検証器を先に作った側が、そのドメインの標準になる。

どう作るか

MVPはドメインを一つだけ選ぶ。学術引用が最も検証の難度が低い — arXiv・Crossref・PubMedのAPIはすでに公開され、正解が明確だ。流れはシンプルだ。

flowchart LR
    A[LLM-generated document] --> B[Extract references]
    B --> C[Match against real registry]
    C --> D{Target exists?}
    D -->|Exists| E[Pass]
    D -->|Missing| F[Flag fake reference]
    F --> G[Pre-submission report]

中核技術はLLMではなく二つだ。第一に、文書から参照を正確に抽出するパーサ(引用形式・脚注・ハイパーリンク)。第二に、ドメインレジストリのAPIと照合し、「似ているが異なる」項目まで捕える照合ロジック。投稿直前のゲート(ワープロのプラグイン、CIステップ、投稿フォームの検査)として配布すれば、ツールはワークフローに自然に組み込まれる。

成功の条件 (任意)

鍵となる仮説は「検証可能な幻覚だけでも支払い意思が生まれる」ことだ。意味の検証(ソースは本物だが結論が偽)まで行かなくても、存在検証だけでarXivの禁止を回避できるなら、研究室や法律事務所は金を払う。最初の10の研究室または事務所にゲートを無料で付け、「このツールがなければ通過していた偽の参照」を何件捕えるかで検証する。投稿あたり1件以上なら、有料転換の根拠になる。