働き方用語辞典 「ハルシネーション」

■ハルシネーションの種類
・Intrinsic Hallucinations(内在的ハルシネーション)
与えられた情報とは異なる内容を出力する現象。学習データに正しい情報が存在するため、照合によって誤りを検証することができる。

例）「選挙で投票できる年齢は何歳から？」という質問に、公職選挙法が改正され、選挙権年齢が満20歳から満18歳に引き下げられたにもかからず、「選挙権は満20歳から得られる」と、古い知識を基準に回答する。

・Extrinsic Hallucinations(外在的ハルシネーション)
学習データに存在しない内容や事実ではない情報を、あたかも真実かのように生成する現象。元の情報が存在しないため、事実かどうか検証するのが難しい。

例）「SNSに関する国家資格はある？」という質問に、民間資格しかないにもかかわらず、「国が認定するSNSマーケティング検定がある」と、でたらめな情報を作り上げて回答する。

■ビジネスにおいてのハルシネーションによるリスク
・ビジネスへの悪影響
レポートやデータ、調査資料に誤りや架空の情報が含まれているにもかかわらず、それを参考にして意思決定してしまうと、戦略設計の破綻や経済的な損失など、深刻なトラブルやリスクをもたらす恐れがある。また、企業の信用の損失やブランドイメージの低下につながる。

・誤情報の拡散によるレピュテーションリスク
企業が、フェイクニュースや虚偽情報、不正確なAI生成コンテンツなどが広げることで、自社の信頼を損なうことになる。また、誤情報が真実であるかのように拡散してしまうと、人々は事実であると信じ、社会的な混乱やパニックにつながる可能性がある。

・不確実性や誤情報による業務効率の低下
AIによる回答の情報源が判明しない場合やAIが誤情報を生成した場合など、人が後から真偽を見極める確認作業をしたり、内容を修正したりと、かえって時間と手間がかかってしまい、業務効率や生産性の低下を招くことになる。