AIが堂々と間違える？使う前に知っておきたい「ハルシネーション」

最近では、ChatGPTを「チャッピー」と呼ぶと通じるほど、生成AIが私たちの生活に身近な存在になってきました。
ChatGPTだけでなく、GoogleのGemini、Claude、Perplexity、Copilotなど、さまざまな生成AIサービスが登場しています。
文章を作ったり、分からないことを調べたり、アイデアを考えてもらったり。
少し前までは「AI」と聞くと遠い未来の技術のように感じていましたが、今では誰でも日常的に使えるものになりつつあります。
AIによる変化を「産業革命に匹敵する大きな変化」と表現する人もいます。

そんな便利なAIですが、使ううえでぜひ知っておきたいことがあります。

それは、

AIは、もっともらしく間違ったことを答えることがある

ということ。これを「ハルシネーション」と呼びます。

ChatGPTを使っていると、たまにこんなことがあります。
分からないなら、「分かりません」と言ってくれればいいのに、なぜか堂々と答えてくる。
しかも文章が自然で、理由まで説明してくれるので、つい信じそうになってしまいます。

※今回の記事は、わたしがメインで使っているChatGPTについて記載していますが、ハルシネーションはChatGPTだけに限らず、生成AI全般で起こり得ます。

今回の記事はこちらを参考にしました。
OpenAI Help Center
OpenAI

ハルシネーションって何？

ChatGPTを開発・提供しているOpenAIも、ChatGPTは間違った回答をすることがあり、ときには間違っていても自信があるように聞こえると説明しています。

さらに厄介なのが、存在しない引用や研究、出典などを作ってしまうこともあるという点です。

だから、「こんなに詳しく説明しているんだから正しいだろう」とは限らないんですね。
私もAIを使うようになって、ここはかなり気をつけるようになりました。

なんで「分かりません」と言ってくれないの？

これが私には一番不思議でした。

OpenAIは、ハルシネーションが残る理由の一つとして、従来の学習や評価の方法では、

不確実だと認めるより、推測して答えることが評価されやすい場合がある

と説明しています。

わたしたちがマークシートでテストを受ける場合、答えが分からなくても、とりあえずどれかにマークすることってありますよね。
なぜなら、空欄のままなら0点ですが、どれかを選んでおけば、たまたま正解して点数がもらえる可能性があるからです。

この説明はかなり単純化していますが、AIにもこれと似た問題があります。

「分かりません」と答えれば正解にはならない
でも、推測して答えれば当たる可能性がある

こうした「分からないと認めるより、推測したほうが評価上有利になりやすい仕組み」が、ハルシネーションが残る理由の一つだと説明しています。

もちろんAI自身が、「分からないけど、とりあえず適当に答えよう！」と人間のように考えている、という意味ではありません。

AIが意図的に嘘をついているのではなく、学習したパターンから回答を生成した結果、誤った内容になることがあります。

ハルシネーションにはAIの学習や評価の仕組みが関係していて、現在も完全には解決されていない問題です。

「次の言葉を予測している」って本当？

ハルシネーションについて調べていると、

AIは次の言葉を予測している

という説明を見かけます。

わたしはそう思っていました。が、

OpenAIによると、AIはたくさんの文章をもとに、「次にどんな言葉が続きそうか」を予測する仕組みを学んでいます。

そして、その予測を繰り返しながら自然な文章を作っています。

このように、大量の文章を学び、人間のような文章を作るAIの仕組みを「大規模言語モデル（LLM）」と呼びます。

そのため、AIは「正しい答えを知っていて答えている」とは限りません。

難しい話ですが、ここで私たちが覚えておきたいのは、もっとシンプルなこと。

自然な文章を作れることと、その内容が正しいことは別

AIの文章がどれだけ自然でも、重要な情報は確認したほうが安心です。

ハルシネーションに気を付けるために

わたしはChatGPTに調べものをお願いするとき、最近こんな一文を入れるようにしています。

確実な情報を出力してください。分からないところは勝手に付け加えないでください。

ただし、この一文を入れればハルシネーションを完全に防げる、という意味ではありません。

だからわたしは、

AIに正確な情報をお願いする ＋ 大事な情報は自分でも確認する

ようにしています。

特にブログに掲載する情報なら、公式サイトなど元の情報まで確認する。

実はこの記事も同じです。

ハルシネーションについてChatGPTに教えてもらいながら書いていますが、事実に関する部分はOpenAIの公式情報を確認しています。

ハルシネーションの記事でハルシネーションしていたら困りますからね。笑

検索してくれたら安心？

ChatGPTにはWeb検索機能があり、検索した情報には出典を付けることもできます。

私はこれもよく使っています。でも、

「検索した＝全部正しい」と思わないことも大切です

OpenAI自身も、重要な情報については信頼できる情報源で確認し、
引用やデータ、外部資料への参照などを検証することを勧めています。

・出典が一次情報か。
・出典の公開日・更新日はいつか。
・AIの回答が出典の内容を正確に反映しているか。
・複数の信頼できる情報源で一致しているか。
・引用元が実在し、該当箇所を確認できるか。

出典が表示されていたら、「このサイト、本当にそう書いてある？」と元の記事を開いて確認する。

少し手間はかかりますが、ブログなど人に読んでもらう文章を書くときには特に大切だと思っています。

そもそも、ネット上の情報が間違っていることもある

ここでもう一つ注意したいのが、ハルシネーション以前に、
AIが参考にする情報そのものが正しいとは限らないということです。

インターネット上には、古くなった情報、個人の勘違い、根拠がはっきりしない情報などもたくさんあります。

そのため、AIがインターネットを検索して情報を示してくれたとしても、

「ネットで調べてくれたから正しい」
「出典が付いているから絶対に正しい」

とは限りません。

間違えると大きな影響がある内容については、国や自治体、企業の公式サイトなど、信頼できる一次情報を確認するようにしましょう。

AI時代だからこそ、自分の知識も大切に

「AIがこれだけ進化するなら、もう勉強しなくてもいいのでは？」という話もあります。

でも私は、むしろAIが身近になるほど、自分自身が知識を持つことが大切になると思っています。

もともと知識がある状態でAIを使えば、「あれ？これ、ちょっとおかしくない？」と気づくことができます。

AIを使って調べる時間を短縮したり、自分の知識を確認したりするのは、とても便利です。

だからこそ、AIにすべてを任せるのではなく、

AIの回答をそのまま信じない
重要な情報は一次情報で確認する
確認できない内容は、ブログや仕事で事実として断定しない

この3つを習慣にすることが、現時点で最も現実的な対策です。

AIは「勉強しなくてよくなるもの」ではなく、自分の知識を助けてくれる道具として使っていく。

これからもAIを便利に活用しながら、自分自身も学び続けていきたいです。

じゃあAIって使えなくない？

ここまで読むと、「AIって間違えるなら、使えなくない？」と思ったかもしれません。

でも、AIには正確さだけを求めない使い方もあります。

たとえば、アイデアを出してもらったり、文章を整えてもらったり、一緒に考えてもらったり。

AIは「何でも正しく答えてくれるもの」ではなく、得意なことに上手に使うことが大切です。

AIが得意な使い方については、こちらの記事でも紹介しています。