世界4大会計事務所のひとつKPMGが、自社が公開した報告書を取り下げました。理由は、報告書に書かれた内容が事実と違っていたこと。しかもその誤りは、AIが生成した「ハルシネーション（もっともらしい嘘）」が原因だったとされています。皮肉なことに、それは「AIの活用」をテーマにした報告書でした。AIについての報告書を、AIに書かせて、AIが嘘をついた——。笑い話のようですが、AIを仕事に使うすべての人にとって、他人事では済まない話です。
何が起きたのか
取り下げられたのは、KPMGが2025年10月に公開した「エージェント型AI時代の卓越性の再定義」と題する報告書です。報告書の中で、複数の有名組織のAI活用状況について言及していたのですが、当の組織側から「そんな事実はない」「内容が誤解を招く」という指摘が相次ぎました。
事実と違うと申し立てたのは、金融大手のUBS、英国の国民保健サービス（NHS）、スイス連邦鉄道、ロンドン交通局といった名だたる組織です。調査グループのGPTZeroが報告書の中の複数の不正確な記述を特定し、それらはAIのハルシネーションに由来するとフィナンシャル・タイムズに伝えています。KPMGは現在、自社で調査を進めるため、報告書を各サイトから削除しています。
注目すべきは、これがKPMG単独の事故ではない点です。先月には、同じく4大会計事務所のEYが、存在しない脚注（出典）が混入した報告書を取り下げています。世界トップクラスの専門家集団が、立て続けにAIの嘘に足をすくわれているということです。
ハルシネーションはなぜ起きるのか
生成AIは、文章を「正しいかどうか」で書いているわけではありません。「次に来そうな、もっともらしい言葉」をつなげて文章を作っています。そのため、事実が手元になくても、それらしい固有名詞・数字・出典を、いかにも自信ありげに書いてしまうことがあります。これがハルシネーションです。
やっかいなのは、嘘ほど自然に見えることです。「○○社はAIで業務を3割削減した」「××の調査によると」——こうした記述は、本物と見分けがつきません。特に実在の企業名・統計・出典が絡む部分ほど、AIは平気で創作します。今回のKPMGの件は、まさにこの「実在組織についての創作」が表に出てしまった例です。
人間なら「わからない」と答える場面でも、AIはもっともらしい答えを作り出します。専門家でもチェックを怠れば見抜けません。だからこそ、出力をそのまま信じるのではなく、人間が事実を検証する工程が欠かせません。
これは大企業だけの問題ではありません
「大手コンサルがやらかしただけでしょう」と思うかもしれません。しかし構図は、中小企業や個人事業主がAIを使う場面とまったく同じです。
提案書をAIに書かせる。ブログ記事をAIに生成させる。顧客への報告資料をAIにまとめさせる。市場調査をAIに任せる。どれも便利ですが、AIが混ぜ込んだ事実誤認や架空の出典をそのまま出してしまえば、信用を失うのは一瞬です。世界トップの専門家集団ですら防げなかったのですから、チェックなしで使えば誰でも同じ罠にはまります。
AIを業務に使うときのファクトチェック3原則
AIを使うのをやめる必要はありません。むしろ使いこなすべきです。ただし、次の3点を守るだけで、今回のような事故はほぼ防げます。
企業名、統計データ、引用元、日付——この4つはAIが最も創作しやすい部分です。外部に出す文書なら、ここだけは必ず一次情報で確認してください。「AIがそう書いた」は根拠になりません。
文章の下書きや構成案はAIに任せ、事実確認と最終判断は人間が持つ。この線引きを最初に決めておくと、丸投げによる事故を防げます。AIはあくまで下書き役で、責任を負うのは人間です。
顧客向けの提案書・報告書・公開記事は、書いた人とは別の目で一度確認する仕組みを作ります。今回KPMGが失ったのは情報ではなく信用です。重要な文書ほど、チェックの一手間が割に合います。
システム開発・業務自動化
AIに丸投げするのではなく、人間のチェックを組み込んだ「安全に使える」自動化を設計します。文書生成・データ集計・問い合わせ対応などの業務にAIを入れたいが、品質や誤情報が心配——という方は、お気軽にご相談ください。島根県から全国対応です。
まとめ
AIの安全な業務導入・自動化のご相談はお気軽にどうぞ。
AI活用・業務自動化のご相談はこちら
無料相談する →