← AIの基礎知識

ハルシネーションとは——AIが自信満々に間違える仕組みと、業務での防ぎ方

公開: 2026年9月8日 3分で読めます（約1,883文字） 執筆: 北村 惇士（プロフィール）

はじめて生成AIを使った人が最初に驚くのは、たいてい二回あります。一度目は、こんなに自然な文章を書くのかという驚き。二度目は、その自然な文章がまるごと事実と違ったときの驚きです。

この二度目のほうを、ハルシネーションと呼びます。

なぜ、間違え方が堂々としているのか

原因は、AIの仕組みそのものにあります。

LLMがしているのは、それまでの流れから「次に来るもっともらしい言葉」を選び続けることです。事実かどうかを判定する工程は、この流れの中に入っていません。もっともらしさで選んでいるので、内容が間違っていても、文章としては自然に仕上がります。

存在しない法律の条文、実在しない書籍、実在の会社に紐づいた架空の実績。どれも「それらしい形」をしているために生成されます。人が嘘をつくときの不自然さ——言い淀み、辻褄の綻び——が出ないので、読み手の警戒が働きません。

知らないと答えないのは、人間の作法です。AIには、そこで止まる仕組みが最初から入っていません。

子育ての現場でいうと

「今日の給食、なんだった？」と聞くと、答えが返ってきます。

カレーだった、と。実際にはカレーではない日も、そう答えることがあります。嘘をついているつもりはありません。覚えていない空白を、それらしいもので埋めて話を完成させているだけです。しかも、迷った様子がないので、聞いたこちらも疑いません。

子どもは、わからないと言うのが苦手です。会話を成立させようとして、埋める。

生成AIの間違え方は、これによく似ています。違うのは、大人の文章で埋めてくるので、なおさら気づけないことです。

うちで子どもに言うのは「わからないことは、わからないと言っていい」。AIには同じことが言い切れないので、代わりにどの資料のどこから持ってきたのかを言わせます。出典を書かせると、埋めた箇所はそこが曖昧になる。給食の話も、献立表を見せてもらえば一発で分かるのと同じです。

起きやすいところは決まっている

やみくもに全部を疑う運用は続きません。危ないところを絞ると、確認の手間が現実的な量に収まります。

右の列は、材料をこちらが渡している仕事です。左の列は、AIが自分の中から引き出してくる仕事です。材料を渡す仕事は安全側、思い出させる仕事は危険側——この線引きが、業務設計の基準になります。

社内文書を検索してから答えさせるRAGが効くのは、左の仕事を右へ移す作りだからです。

業務では「確認の置き場所」を決める

ゼロにできない以上、実務での問いは「どうすれば間違えないか」ではなく「間違いがどこで止まるか」になります。

顧問先には、三つに仕分けてもらっています。

そのまま出してよい仕事。社内メモの下書き、議事録の整理、案出し。間違っていても書いた本人が読む段階で気づき、外に出ません。

人が一度見る仕事。顧客への返信文、提案書のたたき台、資料の要約。AIが下書きし、担当者が確認して出します。ここは確認の手間が残りますが、ゼロから書くより速くなります。

AIに任せない仕事。契約条件の判断、法令の解釈、金額の確定。間違いが表に出たときの損失が大きすぎるところは、AIを下調べに留めます。

この仕分けをせずに全社展開すると、たいてい二段階でつまずきます。最初に事故が起き、次に「AIは信用できない」で全体が止まります。使い方の線を引いておけば、事故は起きても止まりません。

出典を出させる、という運用

もう一つ、現場で効いている小さな工夫があります。根拠を必ず添えさせることです。

「どの資料のどこに書いてあったか」を出力に含めるよう指示しておくと、確認する側は本文ではなく出典だけを見れば済みます。作り話の場合、この欄が曖昧になるか、実在しない資料名が入るため、見分けが速くなります。

確認の手間そのものを減らすというより、確認する場所を一か所に集める工夫です。運用に載せる段階では、こういう地味な設計が効いてきます。

どこまで信頼できるかを測る話は、AIの精度をどう確かめるかで続けます。