いまや誰でも使える生成AIツールが身近になりました。質問すればすぐに答えが返ってくるのでとても便利ですが、実は生成AIは 「もっともらしい嘘」 を平然と（？）答えることがあるんです。通称「ハルシネーション（幻覚）」と呼ばれるその現象に対して、いったいどうしたら良いのでしょうか？ 初診者向けにポイントを解説します。
なぜAIは「嘘」をついてしまうのか？：初心者でもわかるAIの仕組み
例えば、「富士山の高さは？」と質問すると、生成AIが「3,776m」と正確に答える一方で、「今年の紅葉の見頃はいつ？」と聞くと、存在しない気象データを元に間違った予測を自信満々に提示することも。こうしたAIが嘘をつくことを 「ハルシネーション」 と呼びます。
今回は、PCや生成AI初心者の方向けに、情報を鵜呑みにせず、正しく活用するための実践的な方法をご紹介します。
AIの「知識」は人間とは違うもの
AIは私たちのように本を読んで勉強するわけではありません。インターネット上の膨大な文章を学習して、「こういう質問にはこんな答えが来やすい」 というパターンを覚えているのです。
具体例で理解する
人間の場合：「富士山に登ったことがある」という実体験がある
AIの場合：「富士山について書かれた文章をたくさん読んだ」だけ
そのため、AIは実際には知らないことでも、それらしい（求められそうな）答えを組み立ててしまうことがあるのです。
気をつけたい「AIの嘘」パターン BEST4
1. 存在しない統計データ
「日本人の90%がスマホを使っています」など、実際とは違う数字
2. 架空の出来事
「昨日、東京で震度5の地震がありました」など、起きていない事実
3. 間違った専門知識
医療や法律について、危険な誤情報を提供
4. 偽の引用・出典
存在しない論文や記事を「参考文献」として挙げる
【実践編】シーン別・AI情報検証テクニック
買い物・商品選びでAIを使う場合
×NGな質問例
「一番安いiPhoneはどこで買える？」
「今日のタイムセールは？」
○推奨する質問例
「iPhoneの種類と基本的な違いを教えて」
「スマホ選びで重要なポイントは？」
検証方法
1. AIの回答で商品の基本情報を理解
2. 価格や在庫は必ず公式サイトで確認
3. 口コミサイトで実際の評判をチェック
健康・医療情報でAIを使う場合
×NGな使い方
症状を入力して診断を求める
薬の服用方法を質問
○安全な使い方
一般的な健康知識の学習
病院に行く前の基礎知識収集
●検証が必須
医療情報は必ず医師に相談
厚生労働省など公的サイトで確認
無料で使える情報確認サイト
ファクトチェック（事実確認）系
BuzzFeed Japan ファクトチェック（https://www.buzzfeed.com/jp/badge/factcheckjp）
InFact（NPO法人運営）（https://infact.press/）
公的情報源
厚生労働省（健康・医療情報）https://www.mhlw.go.jp/index.html
金融庁（投資・金融情報）https://www.fsa.go.jp/
気象庁（天気・災害情報）https://www.jma.go.jp/jma/index.html
まとめ：生成AIは優秀で一生懸命だけれど、まだ「完璧ではない」
かつ幼児に心がけたい基本姿勢としては、AIだって間違えるけれど、作業を真面目に手伝ってくれる優秀なアシスタントです。以下の3つを考慮に入れて使いましょう。
1. AIはあくまで「アシスタント」 として使う（最後に人間の目で確認）
2. 重要な判断は必ず人間が行う
3. 「疑う習慣」を身につける
精製AIは確かに日進月歩の便利なツールですが、まだ「完璧ではない」 ことを理解して使うことが大切です。正しい知識と簡単な確認習慣とともに、成長するまで付き合っていきましょう。
●関連記事
