用語集
ハルシネーションはるしねーしょん
生成AIが事実と異なる、もっともらしい誤った内容を自信ありげに出力してしまう現象。
生成AIが事実と異なる、もっともらしい誤った内容を自信ありげに出力してしまう現象。
ハルシネーション（hallucination、幻覚）とは、生成AIが事実に反する内容や存在しない情報を、あたかも正しいかのように、もっともらしく出力してしまう現象です。大規模言語モデルは「次に来そうな言葉」を確率的に選んで文章を作るため、内容の真偽を保証する仕組みを本質的に持たないことが背景にあります。
実在しない論文や判例、誤った数値・日付などを堂々と述べるのが典型例です。対策として、出力を鵜呑みにせず一次情報で確認するファクトチェック、根拠となる文書を検索して回答に反映させるRAG（検索拡張生成）、プロンプトエンジニアリングの工夫などが挙げられます。生成AI利用のリスクとして頻出の用語です。