PR

AIの嘘【ハルシネーション】の意味・語源とは?なぜ起こる?バグじゃない理由をかんたん解説!

スポンサーリンク
エンタメ・時事ネタ

にほんブログ村 英語ブログへ

satomi
satomi

最近、ニュースやネットでよく耳にするようになった「AIのハルシネーション」という言葉。

「AIがもっともらしい嘘をつく現象のこと」を指しますが、なんとなく知っている方も多いかもしれません。

しかし、英語を学んでいる方なら、こんな疑問が浮かびませんか?

・そもそも「ハルシネーション」ってどういう意味?
・英語なの?
・AIはわざと嘘をついている?
・それともただのバグ?
・なぜこんな現象が起こるの?

ITの専門用語のように思えますが、実はこれ、もともとある英語が語源になっています。

そこで今回は、最近のトレンド用語である「ハルシネーション」の本来の英語の意味や語源、そしてAIが嘘をついてしまう仕組みを、どこよりもわかりやすく解説します!

スポンサーリンク

AIの嘘?「ハルシネーション」とは

ハルシネーション」とは一体どういう現象なのでしょうか。

一言でいうと

AIが、まるで本当のことのように、もっともらしい嘘(事実とは異なる内容)を出力してしまう現象

のことです。

satomi
satomi

ここで重要なのは、AIは
「いかにも本当らしく、自信満々に間違える」という点です。

そのため、私たちがうっかり信じてしまいそうになるのが、このハルシネーションの恐ろしいところなんです。

僕も経験ありますよ。
お笑い芸人について聞いたら、年齢も本名も有名なギャグも全部間違った情報でした。

日常でよくあるハルシネーションの具体例をいくつか見てみましょう。

よくあるAIのハルシネーションの例

実在しない「参考文献」を教えてくる

課題のレポートを作成しているとき、実在しない著者の名前や、存在しないもっともらしいタイトルの参考文献を、さも実在するかのようにズラリと並べてくることがあります。

存在しない「架空の観光地やお店」を勧めてくる

「〇〇駅の近くでおすすめのカフェを教えて」と聞いたときに、実際には存在しないお店の名前や、実在しないおすすめメニューをと詳しく紹介してくることがあります。

歴史の出来事や年号をサラッと捏造する

歴史上の有名な人物について質問したときに、実在しないエピソードを混ぜたり、全く違う年号を「〇〇年にこれが起こりました」と堂々と間違えたりします。

  

なるほど。
こんな感じで、AIが「悪気なく、もっともらしい大嘘をついてしまう現象」のことを、ハルシネーションと呼ぶんですね。

スポンサーリンク

「ハルシネーション」の本来の英語の意味と面白い語源

ITの最新用語のように思える「ハルシネーション」ですが、実はもともと英語として存在していた言葉です。

英語の本来の意味は「幻覚」

ハルシネーションは、英語で

hallucination(ハルシネーション)

と書きます。

英語としての本来の意味は、医学用語で

幻覚、幻聴

です。病気などが原因で、「そこにはないはずのものが見えたり、聞こえたりする状態」を指す言葉です。

ちなみに、動詞の形は

hallucinate 「幻覚を見る」

という意味になります。

satomi
satomi

つまり、AIが嘘をつく現象を「ハルシネーション」と呼ぶのは、「AIが、実在しないデータ(幻)を本当にあるかのように出力してしまっている」から。
その状態を、人間の「幻覚」に例えているんですね。

語源はラテン語の「心が迷子になる」イメージ

この hallucination という英単語の語源をさらに遡ると、

ラテン語の alucinari(心迷う、うわ言を言う、うろつく)

という言葉にたどり着きます。

「自分の心が、どこか別の場所にふわふわと彷徨(さまよ)って迷子になっている」ようなイメージですね。

そこから、現在の「現実にはないものを見てしまう=幻覚」という意味に繋がりました。

まさに、AIの中でデータが迷子になってしまい、変な回答をしてしまう様子に似ていると思いませんか?

ただの嘘(Lie)という言葉を使わずに、「幻覚(Hallucination)」という言葉を使った技術者たちのネーミングセンスは、語源を知ると納得ですね!

なぜ起こる?「ハルシネーション」の仕組みとバグじゃない理由

これだけ賢いAIがもっともらしい嘘をつくなんて、プログラムのバグ(ミス)のように思えますよね。

satomi
satomi

でも実はバグではなく、AIの仕組み上、どうしても起こってしまう「宿命」のようなものなんです。

理由は大きくまとめると3つ。

「事実」ではなく「もっともらしい言葉」を繋いでいるだけ

AIは事実を記憶しているわけではありません。

「この単語の次には、どの単語を置くと自然な文章になるか」という確率の計算をしているだけです。

いわば「連想ゲームの達人」なので、計算が少しズレると、実在しない嘘の情報を「それっぽく」自動生成してしまいます。

むしろ「AIの表現力の裏返し」

もし100%決まった事実しか言えないようにAIをガチガチに制限すると、AIはただの「無機質な辞書」になってしまいます。

AIが小説を書いたり、私たちの相談に柔軟に乗ってくれたりするクリエイティブな表現力があるのは、この「言葉の確率の遊び」があるからこそです。

AIには現実世界の「常識」がない

AIには「自分が言っていることが、現実世界に本当にあるか」を確かめる感覚がありません。

そのため、計算上「これが自然な文章だ」と判断したら、嘘であっても自信満々に出力してしまいます。

これが、世界中の技術者が対策してもハルシネーションを完全にゼロにできない理由です。

「ハルシネーションを防ぐ!」今すぐできるAI対策のコツ

AIの嘘(ハルシネーション)を100%ゼロにすることはできませんが、私たちの「頼み方(プロンプト)」を少し工夫するだけで、劇的に減らすことができます。

今日から使える簡単なコツを2つ紹介します。

① 指示の最後を工夫する

AIに質問するとき、プロンプトの最後に

・知らない場合は『知りません』と答えてください
・事実のみを答えてください

という一言を付け足してみてください。

これだけで、AIが無理にもっともらしい文章を作ろうとするのを防ぎ、ハルシネーションのリスクをグッと抑えることができます。

② 役割(ペルソナ)を与える

AIに

あなたはベテランの編集者です。事実確認(ファクトチェック)を厳重に行ってください

のように、客観的な視点を持つ役割を与えてみてください。

「ただ質問する」よりも、言葉の選び方が慎重になり、正確な回答が返ってきやすくなります。

💡 最大の対策は「人間の目で確認すること」
どれだけ対策をしても、AIは自信満々に間違えます。
レポートの参考文献や仕事のデータなど、重要な情報を扱うときは「最後は必ず人間の目で検索して確かめる」という習慣を持っておくのが、最大のハルシネーション対策です。

今日のまとめ

satomi
satomi

今回は、最近よく耳にする「ハルシネーション」について解説しました。
ハルシネーション(Hallucination)とは、AIがまるで本当のことのように「もっともらしい嘘」を出力してしまう現象のこと。
本来の英語の意味は「幻覚」「幻聴」で、ラテン語の「心が迷子になる」という言葉が語源です。
バグではなくAIが「次に続く確率の高い、自然な言葉」を繋いで文章を作っているという仕組み上の宿命のようなもの。
プロンプトの最後に「知らない場合は『知りません』と答えてください」などという一文を入れたりするのが対策としては効果的です。
ITの最新用語も、このように英語の本来の意味や語源から紐解いてみると、一気に理解しやすくなりますよね。

タイトルとURLをコピーしました