ハルシネーションとは？ AIが権威URLすら偽装する3つの実例とライターの防ぎ方

【実体験】ライターが遭遇した3つの出典系ハルシネーション

ここからが本題です。AIのハルシネーションの中でも、ライター実務で最も危険なのは「出典・URL系」の捏造です。私自身が2024年から2025年にかけて遭遇した3つの実例を紹介します。いずれも、当時の私が「まさかここまでやるとは」と感じた出来事ばかりです。

3件に共通するのは、AIが「権威ある出典」「実在するURL」「固有の数値」を自信満々に偽装したということです。出典を要求すれば安全という発想が、そもそも通用しないことを示しています。

実例1｜厚生労働省のページを指定したのに架空データが返ってきた

2024年、年収をテーマにした記事を執筆していたときのことです。

厚生労働省の年収データページを指定して、AIに参照させました。権威ある一次情報なら間違いないだろうという油断が、このあと冷や汗をかく結果につながります。

返ってきたのは、一見それらしい年収データと、参照元として厚労省のURLでした。ここまでは想定通り。しかし提示されたURLをクリックしたところ、飛んだ先は厚生労働省のトップページでした。該当のデータページではなく、トップページ。この瞬間、何かがおかしいと気づきました。

別ルートで年収データを検索し直しました。結果、AIが提示した数字は、どこを調べても出てこない架空のデータでした。厚労省を指定したはずなのに、返ってきたのは厚労省のトップページURLと、存在しない数字。典型的な出典系ハルシネーションです。

この実例で私が学んだこと

結局、該当のデータを使わない形に記事の方向性そのものを修正しました。データ差し替えではなく「記事の骨格を組み替える」というリカバリーコストは重かった。想定していたより、AIリサーチの効率化は甘くありませんでした。2024年頃の話ですが、今思えばもう少しAIの得意・不得意を冷静に見極めた使い方をすべきでした。

実例2｜自分のブログの内部リンクがすべて404だった

2025年前半、ChatGPTに自分のブログ記事の執筆を手伝ってもらっていたときのことです。

他の自分の記事を内部リンクで参照しながら、論理的な構成のサイトにしたい。そう思って、参考にしてほしい自分のブログ記事URLも事前にAIに渡していました。内部リンク先も渡している以上、リンクは正しく貼られるだろう。そう油断していました。

記事を公開したあと、読者目線で自分でクリックしてみたら、貼られた内部リンクがすべて404エラーでした。AIは、私が渡した実在URLを参照するのではなく、それっぽいURLを自力で生成していたのです。自分のブログドメイン内にあるはずの記事が、存在しないURLとして貼られていた。

リカバリーは地道でした。エラー箇所を1つずつ洗い出し、正しいURLを手動で調べて貼り直す作業。公開直後に気づけたからよかったものの、数時間は自分の記事が404リンクだらけで晒されていたことになります。

この実例の恐ろしさ

他のセクションの出力が良かったので「リンクも正しいだろう」と油断しました。AIは全体の品質が揃っているように見せかけながら、特定の要素だけ静かに偽装します。しかも自分のサイト内のURLですら平気で捏造する。厚労省のような外部サイトだけの話ではありません。AI出力は過信せず、どの要素も個別に検証する必要があります。

実例3｜スポーツジム一覧の住所と電話番号が半分捏造されていた

地域別のスポーツジム一覧記事を執筆していたときのことです。リサーチと執筆を並行させれば効率化できるだろうと考え、GeminiとGrokを併用して情報を集めました。

AIが出力した一覧表は、一見完璧に見えました。店舗名、住所、電話番号、公式サイトURLが整然と並んでいます。店舗名は合致していました。ところがダブルチェックのために人の目で1件ずつ照らし合わせていくと、違和感が次々に出てきました。URL、電話番号、住所が、約半数の店舗で不正確だったのです。

結局、1店舗ずつGoogleで検索し直して、正しい情報に差し替えました。AIで効率化したはずが、実際には全件を人の手で検証する作業が発生しました。

この実例で一番の気づき

想定外だったのは、最初から人の手でリサーチしていたほうが、結果的にスピードが早かったということです。AIに調査と執筆を一度にやらせたのが間違いでした。今振り返ると、先に人の手でリサーチを完了させてから、そのデータを執筆部分だけAIに渡すほうが、効率も精度も圧倒的に高かった。この順序の違いは、後述する防止策の1番目に直結します。

3件に共通する構造｜なぜ「出典・URL」だけが特に危険なのか

3件の実例を並べると、共通する構造が見えてきます。

つまり、AIが提示する「出典・URL・固有の数値」は、モデルの新旧を問わず構造的に信頼性が崩壊しているということです。最新モデルを使っても、権威サイトを指定しても、事前に正しいURLを渡しても、ハルシネーションは発生します。

それでもAIを使う意味はあります。ただし使い方を間違えると、効率化どころか工数が増えます。3件の実例からは、次のような実務上の結論が導けます。

• 出典を要求する対策だけでは不十分(権威URLを偽装されるため)
• 最新モデルに変えるだけでは不十分(次単語予測という仕組みが変わらないため)
• 「リサーチ」と「執筆」を分離することが最も効果的(実務で検証済み)

この結論を踏まえて、次章ではライター業務に具体的にどんなリスクが発生するのかを整理し、そのあと実務で回している防止策5ステップを紹介します。