GPT・生成AI 用語解説

ハルシネーションとは？

ハルシネーションは、AIが事実と違う内容を自然な文章で答えてしまうことです。

用語集へ戻る GPTとは

このページで分かること

ハルシネーションの意味

生成AIは、文章として自然な回答を作ることが得意です。その一方で、根拠がない内容や古い情報を、確信があるように見える文体で出すことがあります。特に医療、法律、お金、契約、最新情報、人物や会社の情報では、人間の確認と一次情報の確認が欠かせません。

初心者向けのたとえ

よく話す人が、うろ覚えの内容をなめらかに説明してしまう場面に似ています。話し方が自然でも、内容が正しいとは限りません。

使う場面と向かない場面

場面考え方
理解に向いている場面ハルシネーションという言葉をニュース、サービス画面、AI関連の記事で見かけた時に、何を指しているのか整理する入口になります。
実践前に確認したい場面ChatGPT、Codex、API、AIツールを使う前に、関連する用語と注意点を知っておくと安全に試しやすくなります。
向かない場面料金、提供状況、画面仕様、法的判断、医療判断などをこのページだけで決める使い方には向きません。提供元情報や専門家の確認が必要です。

実際に起きる形

ハルシネーションは「明らかなでたらめ」の形では現れません。実際に多いのは次のような、確かめないと気づけない形です。

用途によって危険度が違う

すべての用途で同じように警戒する必要はありません。知識を取り出す用途ほど危険で、渡したものを変換する用途ほど安全です。

用途危険度理由
事実の調べ物高い答えの全体が創作でも、形式は正しく見える
出典・数字つきの回答高い出典自体が創作されることがある
渡した文章の要約低め材料が手元にあり、突き合わせで確認できる
言い換え・翻訳・整形低い新しい事実を作る余地が小さい

調べ物に使う時は、「答え」ではなく「確かめるための手がかり（検索語や当たるべき資料名）」をもらう使い方に切り替えると、実用と安全の両方が取れます。

関連する用語

用語関連ページ関係
生成AI生成AI文章などを作るAI全体
AI検索AI検索情報源確認が必要な使い方
プロンプトプロンプト確認しやすい指示の出し方

GPTガイドでの位置づけ

このページは、gptguide.jp の用語解説ページです。具体的なChatGPTの操作例は chatgptguide.jp、CodexやGitHubを使った実務例は codexguide.jp に分け、このページではハルシネーションの意味、関連語、注意点を初心者向けに整理しています。

ハルシネーションが起きやすい場面

誤りはランダムに起きるのではなく、起きやすい条件があります。あらかじめ知っておくと、どこを確認すべきか判断できます。

場面起きやすさ理由
マイナーな固有名詞を聞く高い学習した情報が少なく、それらしい内容で埋めてしまう
最新の出来事を聞く高い学習時点より後の情報を持っていない
具体的な数値や日付を聞く高いもっともらしい数字が生成されることがある
存在するか不明なものを前提に聞く非常に高い「ない」と答えるより、あるものとして説明してしまう
一般的な概念の説明低い広く共有された知識であり、情報量も多い

特に注意したいのが4行目です。「〇〇という機能の使い方を教えて」と聞くと、その機能が存在しなくても説明が返ってくることがあります。存在の確認と使い方の質問は、分けて行う方が安全です。

誤りに気づくための工夫

すべてを疑うと使えなくなるため、効率よく気づく方法を持っておくと実用的です。

そして最も大切なのは、金銭、契約、健康、法律に関わる内容ではAIの回答だけで判断しないことです。これらの分野は誤りの影響が大きく、後から取り返しがつかない場合があります。必ず公式情報や専門家に確認してください。

よくある質問

ハルシネーションは完全に防げますか？

完全に防げるとは言えません。根拠を求める、情報源を確認する、人間が見直すことが重要です。

なぜ自信ありそうに間違えるのですか？

AIは自然な文章を作るため、誤った内容でも流暢に見えることがあります。

どんな場面で特に注意すべきですか？

医療、法律、お金、契約、最新ニュース、会社情報、個人に関する情報では特に注意が必要です。

次に読むページ

生成AIとは？生成AIの基本を確認するAI検索とは？検索との違いを見るChatGPTガイド安全な使い方の具体例を見る