読み：はるしねーしょん ／ 分野：AI・生成AI
生成AIが、事実ではない内容をもっともらしく答えてしまう現象です。
生成AIが、事実とは異なる内容を、まるで正しいことのように答えてしまう現象を指します。文章として自然に見えるため、誤りに気づきにくい点が特徴です。
使われる場面
生成AIに質問して回答を得るときに、常に起こりうる現象として使われます。
例えば、存在しない法律や制度、実在しない人物の経歴などを、もっともらしく説明してしまうことがあります。
社内資料の作成やチャットボットでの問い合わせ対応など、幅広い場面で注意が必要です。
注意点・よくある誤解
AIが自信ありげに答えるため、正しい情報だと誤解しやすい点に注意が必要です。
特に数字や固有名詞、最新情報は誤りが起きやすい傾向があります。
重要な内容は、必ず別の情報源で事実確認をしてから利用することが大切です。
また、社内文書などをもとに回答させるRAGという仕組みを使うと、誤りを減らせる場合があります。
ハルシネーションは技術的な欠陥というより、生成AIの仕組み上避けにくい特性だと理解しておくとよいでしょう。
関連する用語
ほかの用語を探す
