Hallucinationは、LLMが事実に基づかない情報を、あたかも事実であるかのように生成してしまう現象です。モデルが学習データにない情報や誤った情報を、不確実性を示す表現なしに確信を持って回答してしまう点が特徴です。外部知識源を検索するRAGや、不確実な場合は「わからない」と回答するよう指示するPrompt Engineeringの技法が、対策として用いられます。AI Safety研究における信頼性確保の重要な課題の一つとして、主要AI企業が継続的に取り組んでいます。
AIの回答の信頼性を確保したい開発者・企業・利用者に該当します。
単純な誤答と異なり、モデルが不確実性を示さず確信を持って誤情報を生成してしまう点が特徴です。