AIに「この研究を裏付ける論文を教えて」と尋ねる。すると著者名、論文名、雑誌、発表年をきれいに並べた答えが返ってくる。ところが題名で検索しても、その論文は見つからない。文章の形は正しいのに、中身だけが存在しないのである。
この現象はハルシネーションと呼ばれる。人間が相手をだますためにつく嘘とは違い、AIの内部で正しい知識と不確かな生成を区別しきれず、事実でない出力が生まれる現象だ。
撮影・出典：Akramusns / Wikimedia Commons / CC BY-SA 4.0（表示用に縮小）
なめらかな文章を作れることと、正しいことは別
大規模言語モデルは大量の文章から言葉や概念の関係を学び、文脈に合う続きを生成する。事実に沿った説明もできるが、回答を作るたびにデータベースの全項目を照合しているわけではない。
そのため、知らない書名や著者を問われても、本物らしいパターンで細部を補ってしまうことがある。文章として自然であることは、研究が実在する証明にはならない。
2025年にOpenAIが公表した研究紹介では、確信がないと認めるより、正解を推測したほうが評価されやすいという学習・評価の仕組みが、ハルシネーションを助長する要因として論じられた。これが唯一の原因というわけではなく、知識の不足や文脈の扱いなども関係する。
「出典を付けて」と言えば解決する？
残念ながら、それだけではない。出典のタイトルやURL自体を作り出してしまうことがあるからだ。特に論文、法律、統計、歴史上の引用など、もっともらしい固有名詞や数字が並ぶ回答では注意が必要になる。
重要な主張は、出典先を実際に開いて、そこに書かれているかまで確かめたい。検索や外部資料への接続は検証に役立つが、検索結果の読み違えや資料の古さまでは自動的に消えない。
AIを使うときは、どこを疑えばいいのか
説明の構成や文章の下書き、異なる考え方を並べる作業には生成AIが役立つ。一方、調べなければ正否を判断できない細部ほど、確認が必要になる。
とくに「正確な数字」「実在する文献」「最新の制度」「安全や健康に関わる判断」は、一次資料と突き合わせるべきだ。不確実なときにAIが分からないと答えられるかも重要になる。
AIの問題は、常に荒唐無稽な間違いを言うことではない。ときには、最も信じたくなるような整った文章で間違える。だからこそ、文章の上手さと情報の信頼性を分けて考える必要がある。