AIを使っていて、少し気になったことがあります。
みんながAIに質問し、その回答を正しいものとして受け入れる。その内容を人間が記事や資料に書き、それをAIが再び参照したり、学習したりする。こうした循環が続いたら、最初の回答が間違っていても、いつの間にか「みんなが知っている事実」になってしまうのではないでしょうか。
AIによる偽の映像や音声は、ディープフェイクとして問題になります。しかし、もっと目立たないところで、過去についての誤った認識が定着していくこともあるのではないかと思います。
私はこれを、AIによるマンデラ効果と呼びたくなりました。
AIの説明が、みんなの知っている過去になる
LLMは、人類が残してきた膨大な文章や記録から学習しています。歴史、科学、文化、昔の製品の話まで答えてくれるので、人類史を収めた巨大なデータベースと話しているような感覚になることがあります。
ただ、原資料を保存し、必要な箇所を取り出すデータベースとは仕組みが違います。人類の記録を網羅しているわけでもありません。学習したパターンをもとに文章を生成するため、実在しない出来事や発言、出典まで、もっともらしく答えることがあります。いわゆるハルシネーションです。AIが架空の参考文献を生成する問題は、2023年の研究でも確認されています。
気になるのは、回答が間違っていても、読んだ人には「そういうことがあった」という認識が残ることです。
例えば、ある製品の名前の由来をAIに尋ねたとします。納得できる説明が返ってきたので、それを覚えておく。後日、誰かとの会話で話したり、ブログに書いたりする。その頃には、AIに聞いた話だったことを忘れているかもしれません。
同じ説明を多くの人が受け取り、それぞれが語り始めれば、出どころの曖昧な話が共通知識になっていきます。
マンデラ効果とは、多くの人が事実と異なる共通の記憶を持つ現象を指します。有名な図像について、複数の人が同じように誤った形を覚える現象も研究されています。
もちろん、誤情報を信じることと、自分の経験を誤って思い出すことは別です。AIの誤回答が広まっただけで、マンデラ効果が起きたとは言えません。私が気になっているのは、その説明が知識や記憶に入り込み、「以前からそうだった」と多くの人が認識するところまで進む可能性です。
関連する研究として、2024年にプレプリントとして公開された論文では、誤った前提を含む質問をし、参加者の回答を肯定・補強する生成AIとの対話によって、映像についての誤った記憶が増えたと報告されています。誤誘導を組み込んだ実験なので、普通にAIを使うだけで同じ影響が出るという話ではありません。それでも、会話の内容が人の記憶に入り込む可能性を考える材料にはなります。
ファクトチェックで、同じ情報を一周する
ここからが、今回いちばん気になったところです。
AIの説明を受け入れた人が、その内容を記事にする。別の人がその記事を参考に資料を作る。それらが検索で見つかるようになり、検索を使うAIの参照先になる。さらに、将来のモデルの学習資料にも採用されるかもしれません。
質問するたびに、その場でモデルが学習するという意味ではありません。人間の発信や情報の収集を経由して、AIが作った説明がAIに戻ってくるという話です。検索を通じた参照なら、モデルの再学習を待たずに起こりえます。
こうなると、一つの誤りが、いくつもの場所に書かれた情報になります。
調べる側からすれば、複数のサイトで同じ説明が確認できるので、裏付けが取れたように見えます。しかし、出どころをたどれば、どれも最初の誤回答に行き着くかもしれません。情報の数は増えていても、独立した証拠は増えていないわけです。
しかも、人間が自分の言葉で書き直せば、AI由来だったことは見えにくくなります。ファクトチェックをしたつもりで、同じ情報を一周しているだけになる可能性があります。
別のAIにも聞けばいい、と思うところですが、これも同じです。同じ情報を参照したり、似た資料から学習したりしているなら、回答の一致だけでは独立した裏付けになりません。
引用の循環や誤情報の転載は、AI以前からある問題です。ただ、AIは説明を作る側にも、それを参照して次の説明を返す側にも入ります。文章を作る手間が減っても、その根拠を確かめる手間まで同じように減るとは限りません。そこを省いた情報が増えれば、この循環も広がりやすくなるのではないかと考えています。
「分からない」が、もっともらしい説明で埋まっていく
特に危ういと思うのは、もともと記録が乏しい話です。
地域の慣習の由来、消えてしまったサービスの裏話、ある言葉が広まった経緯。当時の関係者も詳しく覚えておらず、原典と呼べるものも見つからない。そういう話にAIが分かりやすい説明を付け、それが定着したら、後から否定するのは難しそうです。
例えば、あるサービスの終了理由について、当時の発表には「事業環境の変化」としか書かれていなかったとします。そこにAIが「利用者の減少によって終了した」と説明を補う。
ありそうな理由なので、読む側は疑わないかもしれません。しかし、ありそうなことと、当時確認されたことは違います。その説明が転載され続ければ、後から調べる人には、この区別がつかなくなります。
「本当のところは分からない」だったものが、「そういう理由だった」に変わってしまうわけです。
原典があれば、そこに戻って照合できます。ただ、資料が残っていることと、実際に確認されることは別です。
図書館や公文書館には記録がある。でも、検索では見つからない。見つかっても、閲覧や読解に手間がかかる。一方で、AIに聞けば数秒で分かりやすい説明が返ってくる。私自身、すべての話題について原資料まで調べるとは言えません。
システムにたとえるなら、参照用に作ったデータだけが使われ続け、その生成元を誰も確認しなくなる状態に近いと思います。元の記録と食い違っていても、日常的に使われる側が事実上の基準になっていく。
ここで、映画『マイノリティ・リポート』を思い出しました。映画は予知に基づいて犯罪を未然に取り締まる世界を描いており、AIによる歴史改変の話ではありません。ただ、システムが示したものが、社会の判断の前提になるという構造に重なるものを感じます。
誰かが「当時は違った」と言っても、AIや検索結果がそろって同じ説明を示せば、私たちは当事者の記憶違いを疑うかもしれません。当事者が常に正しいわけではありませんが、確かめる前に「AIもそう言っている」で判断が決まるとしたら、気になります。
調べるための手掛かりだったAIの回答が、他の証言や資料を判定する基準になる。その変化が、気づかないうちに起きないだろうかと思います。
AIが何を常識として語るのか
さらに考えると、事実の間違いがなくても、似た問題はありそうです。
歴史の説明には、何が起きたかに加えて、誰の視点で語るか、何を原因と考えるか、どの出来事を重要とするかが含まれます。
例えば、ある企業の事業撤退を「経営合理化」と説明することも、「地域の雇用が失われた」と説明することもできます。両方とも事実でありえても、どちらを中心に語るかで、受け取る印象は変わります。
AIが一方をいつも自然な説明として返せば、その見方が標準になっていくかもしれません。書かれた各文の真偽を確かめるだけでは、取り上げられなかった事実や視点までは分かりません。
ここには、イデオロギーにつながる部分があります。モデル自身が思想を信奉するという意味ではなく、資料の選択や回答の調整に含まれる価値判断が、説明に表れるということです。
そう考えると、各国が自国の言語や文化に対応したAIを持とうとする背景も、少し違って見えてきます。例えばシンガポールのSEA-LIONは、東南アジアの言語や文化、地域の文脈に対応することを掲げています。
言語や文化への対応には、実用上の意味があります。その上で私は、自分たちの社会や歴史を説明する仕組みを、外国のモデルだけに委ねたくないという意識も、自国でAIの開発や運用を制御しようとするソブリンAIへの関心に重なるのではないかと思います。
産業育成やデータ管理などの目的もあるので、すべてをイデオロギーで説明することはできません。ただ、文化を守ることと、何をその文化の代表として語るかを決めることは、切り離しにくい部分があります。
ファウンデーションモデルを持つ企業や、提供のルールを定める国家が、人々が「過去の事実」として受け取る説明に、大きな影響を持つ可能性もあります。
とはいえ、今回気になるのは、誰かが意図的に歴史を書き換える場合だけではありません。便利で分かりやすい説明が選ばれ続けるうちに、別の記録や解釈が見えなくなる。それだけでも、共有される過去の姿は変わりうると思います。
一つの誤回答で終わらない影響
最初にこのことを考えたとき、私は「正史としての人類史を残さなければいけない」と思いました。
いまの歴史の説明を、唯一の正解として固定したいわけではありません。実際に起きたことと、AIがもっともらしく生成したことを、後からでも確かめられるようにしておきたいということです。
そのためには、元の文書や写真、証言などを、出どころまでたどれる形で残す必要があります。原資料にも間違いや偏りはあるので、互いに比較できることが重要です。「分からない」「複数の証言がある」という状態も、分かりやすい話で埋めずに残しておきたいと思います。
AIは、そうした記録を探し、読み解く助けにもなるでしょう。さらに考えると、AI自身の回答を検証するためにも、出どころを確認できる原資料や、独立した証拠は必要です。将来、AIが記録の保存や検証を積極的に担うこともあるかもしれません。人類の記録を残すことは、人間が過去を確かめるためにも、AIの誤りを修正するためにも意味があるのだと思います。
人類史全体がAIの創作に置き換わるというのは、大きな想像です。しかし、出来事の理由が補われ、発言した人物が入れ替わり、複数あった説明が一つになる。そうした小さな変化なら、わざわざ疑われることなく残るのかもしれません。
AIのハルシネーションは、一つの回答の間違いとして扱われがちです。しかし、それが人の認識に残り、発信され、再び参照されるなら、影響はその会話の中だけでは終わりません。いつか「昔からそうだった」と語られる話の出発点が、誰にも確かめられなかったAIの一言だった、ということも考えられます。
私がAIによるマンデラ効果と呼びたくなったのは、そういう可能性です。
こうした循環が、実際にどこまで人々の記憶や歴史認識を変えているのかは、まだ分かりません。ただ、AIが日常の情報源として使われるほど、一人の勘違いでは済まない広がりを持つのではないでしょうか。目立つ偽動画や偽音声だけでなく、静かに定着していく「過去の説明」にも、無視できない社会的な影響があるように思います。
コメント