「ハルシネーション」ってどんな意味? 生成AIを頻繁に活用するビジネスパーソンの8割が経験

生成AIは、メール作成や情報収集、企画のアイデア出しなど、仕事のさまざまな場面で活用が広がっています。日常的に生成AIを利用している人は多いのではないでしょうか。

しかし、生成AIは便利な一方で、もっともらしい誤情報を出力する「ハルシネーション」という課題も抱えています。実際にどれほどの人がハルシネーションを経験しているのでしょうか。エルテスが実施した調査から、その実態が明らかになりました。

「ビジネスや日常のあらゆる場面で生成AIの利活用が急速に進む一方、機密情報の漏洩や著作権侵害といった様々なリスクが顕在化しています。中でも、事実と異なる回答をあたかも正しい情報であるかのように生成するハルシネーションは、企業の正しい意思決定や情報発信を阻害しかねない極めて重大なリスクです」(同社)。

ビジネスパーソンの約8割がハルシネーションを経験

同社が業務で生成AIを頻繁に利用するビジネスパーソン400人を対象に実施したアンケートによると、「何度もある」「たまにある」を合わせると、81.1％がハルシネーションを経験していることが判明。およそ5人に4人が、生成AIの誤った回答に遭遇したことがある計算になります。

また、ハルシネーションに気付いた理由としては、「自身でファクトチェックを実施した」が64.2％で最多となりました。利用者自身が内容を検証することで、誤情報を発見しているケースが多いようです。

誤情報を信じて業務に影響した人は3割超

さらに注目されるのが、生成AIの誤情報による業務への影響です。

ハルシネーションが起きた時の対応としては、「事実と異なる旨を指摘し、同じ生成AIツールに再度指示を入力する」が53.1％で最多の回答に。一方、3.7％と少数ではあるものの、ハルシネーション発生時に生成AIの利用を諦めてしまう人も一定数存在したそうです。

生成AIの回答を鵜呑みにした結果、「業務に影響が出た」と回答した人は33.4％に達しました。影響があった場面としては、「社外向けの資料や提出物」が17.0％、「社内の意思決定や報告」が16.4％となっています。

生成AIが示した内容をそのまま資料や報告に反映してしまうことで、社内外に誤った情報が広がるリスクがあることがうかがえます。

約8人に1人は事実確認をしていない

一方で、生成AIの利用時に何らかのハルシネーション対策を行っていると答えた人は55.5％でした。具体的には、「参照元や根拠を提示させる」「分からない場合は分からないと回答するよう指示する」といった工夫が挙げられています。

しかし、生成AIの回答に対して「ほとんど確認していない」「まったく確認していない」と回答した人も合計13.5％存在しました。

さらに、その理由として最も多かったのは「生成AIから誤った情報が出力されるリスクを想定していなかった」という回答で、38.9％を占めています。

「気付いていないだけ」のリスクも

同社では今回の調査結果について、ハルシネーション対策もファクトチェックも行っていない人たちが、全員「ハルシネーション経験なし」と回答している点に着目しています。

同社は、実際には誤回答が発生していても本人が気付いていない可能性が高いと分析。ハルシネーションを経験していないのではなく、「経験していることに気付いていない」潜在的なリスクが存在すると指摘しています。

生成AIは、心強い仕事のパートナーになりつつあります。しかし今回の調査からは、AIの回答をそのまま信じることの危険性も見えてきました。便利なツールを使いこなすだけでなく、情報を見極める力も身に付けることが、AI時代のビジネスパーソンに求められる重要なスキルになりそうです。