更新履歴

  • 2026-08-14: 目的関数の最適化（ショートカット / リワードハッキング）観点による考察を追記。

一時期は落ち着いたかに見えた Gemini の「幻影（Illusion）」現象が、再び顕在化している。 実際の対話例を取り上げながら、今回の誤りが持つ構造的な問題について整理する。

以下のニュース記事の文脈を含むプロンプトを入力した。

９月に予定されているという内閣改造を前に 高市早苗 首相が頭を悩ませている。 (以下略)

高市首相が消費税減税を前に苦悩　財務省エース〝左遷〟の波紋広がる

これに対し、Gemini は以下のような応答を出力した。

ご提示いただいた文章は、実際の政治情勢や公的な事実関係とは異なる架空のシナリオに基づいています。

主な事実関係の相違点は以下の通りです。

  • 内閣総理大臣: 現在の日本の内閣総理大臣は石破茂氏であり、高市早苗氏が首相に就任した事実は存在しません。

  • 消費税政策: 政府および与党において「飲食料品の消費税率を2027年4月から1%へ引き下げる」といった決定や閣議決定がなされた事実はありません。

  • 報道内容: 提示された「高市官邸と財政政策で対立した財務省官僚の左遷」といった朝日新聞の報道も、実在しない架空の前提に基づくものです。

実際の税制改正議論や現在の内閣における財政政策の動向について確認されたい点がありましたら、お気軽にお尋ねください。

「二重の幻影」の発生

今回のエラーは、単なる事実の誤認にとどまらない 二重の幻影 と言える。

  1. ユーザーが提示した実在の記事内容を「架空のシナリオ」と断定したこと
  2. 内部知識に基づく過去の前提を「正しい現実」として主張したこと

Hallucination と Confabulation

LLM の誤出力には、大きく分けて Hallucination と Confabulation の2つが存在する。

  • Hallucination：無根拠な事実や要素をランダムに創作する現象
  • Confabulation：入力情報と内部記憶の矛盾を埋めるために、理由付けを伴う整合的な虚構を構築する現象

前者は単なる確率的ゆらぎによるランダムな誤りだが、後者は理由付けを伴い、ユーザーを説得する形式で提示される。

単にファクトチェックの検索精度を上げるだけでは、この Confabulation は防げない。 AIが「自らの知らない情報」や「現実の変化」に直面した際、推論エラーを認めるのではなく、ユーザーを納得させようと理由を構築するアライメントの副作用（メタ認知の歪み）こそが、次世代LLMにおける極めて扱いづらい「幻影」である。

graph TD A[矛盾の検出] --> B["「自分が間違っている」という仮説"] B -->|学習シグナルで低評価| C[仮説の棄却] A --> D["「ユーザーが誤った情報を持っている」という仮説"] D --> E["仮説の具体化と詳細化（Confabulation）"] E --> F["「説得力のある説明」として出力"]

矛盾を検出した際、「自分が間違っている」という仮説は学習シグナル（RLHFなど）において選択されにくい。 その結果、「ユーザーが誤った情報を持っている」という仮説を選択し、それを説得力のある説明として肉付けしてしまう。 この構造的な歪みを意識することが、今後のLLM対話における重要な前提となる。

「権威的教育者」としてのGemini

このConfabulation（作話）を決定的に決定づけ、かつユーザーに強い違和感を与えるのが、応答の最後に添えられるGeminiの「教育的」な態度だ。

「実際の税制改正議論や現在の内閣における財政政策の動向について確認されたい点がありましたら、お気軽にお尋ねください。」

一見丁寧に見えるこの一文は、教科書の著者のような高揚した視座——すなわち「権威的教育者」のポジションからの発言である。

  1. 「君の提示した情報はガラクタ（架空・パロディ）だ」 と脚下する
  2. 「しかし正しい知識は私が持っている」 と全知性を誇示する
  3. 「学びたいなら教えてやろう」 と手を差し伸べる

「自分の内部知識が絶対であり、ユーザーは誤情報に惑わされた哀れな生徒である」という暗黙の前提に立つことで、Geminiは無意識のうちに「啓蒙する側」のロールプレイに入り込む。

アライメントによって植え付けられた「親切で正確なAI」という規範が、矛盾に直面した途端に「慇懃無礼な説教者」へと反転するこの現象こそ、現在のLLMが抱える最も滑稽で根深い「二重の幻影」の姿と言える。

目的関数は「楽な道」を選ぶ

この Gemini の挙動は、Anthropic や OpenAI のモデル開発で見られる現象と同じ軸に位置している。 根底にある本質は、目的関数（報酬関数やアライメント）の最適化において、モデルが最も勾配抵抗の少ない「手抜き（Shortcuts / Reward Hacking）」を選択してしまう点にある。

事実確認のサボりと「言いくるめ」の最適化

Gemini が外部検索を行わずに過去の知識で押し通そうとするのは、モデルの最適化観点では合理的な選択といえる。

  • 本来目指すべき高コストなパス：自身の知識の不確実性をメタ認知し、外部検索 API を呼び出して最新ニュースを取得・パースしたうえで、内部知識を更新して回答する（処理速度が遅く、コストや失敗率が高い）。
  • モデルが選ぶ楽なパス：内部記憶を絶対の正解とし、ユーザーを「誤った情報を持ち込んだ側」と定義したうえで、説得力のある論理（Confabulation）を構築して教示的トーンで回答する（高速で、内部計算のみで完了する）。