もう少し詳しく

ハルシネーション（幻覚げんかく）は、生成AIが存在しない事実・出典・数値などを作り出してしまう現象です。

AIは「次に来る言葉として自然なもの」を選んでいるため、自然な文章になりさえすれば、内容が事実かどうかは保証されません。

どこで使われるか

生成AIの信頼性を語るときに必ず出てくる言葉です。

身近な例

実在しない論文のタイトルと著者名を挙げる、実在しないURLを提示する、実在する人物について起きていない出来事を語る、などが典型です。

注意点

ハルシネーションは、間違いが「分かりにくい形」で出てくるのが問題です。文章が整っているほど、正しく見えてしまいます。

対策は、AIの答えをそのまま使わず、必ず一次情報で確認することです。IT Postが記事に必ず情報源を付けているのも同じ理由です。