ChatGPTの急速な普及によって、AIは技術競争であると同時に、認知をめぐる競争にもなりました。そんな中で起きたMythos/Fable 5の停止騒動は、「危険なAI」をどう扱うかという話でありながら、同時に「危険だと語りすぎると何が起きるのか」という話でもあったように思います。今回は、AIそのものよりも、それをめぐる人間側の反応について考えてみました。
AIは技術競争であり、認知競争でもある
ChatGPTが短期間で大きな利用者基盤を獲得したことで、AIは単なる技術競争ではなく、社会の認知をめぐる競争にもなりました。どのモデルが賢いのか。どの会社が安全なのか。どのAIが危険なのか。どの企業が未来を握るのか。AIの性能そのものだけでなく、それがどう語られ、どう受け止められるかが、企業の立ち位置を左右するようになっています。
その中で、AnthropicのMythos、そしてFable 5をめぐる一連の出来事は、かなり象徴的だったと思います。Anthropicは、Mythos級のモデルがサイバーセキュリティ分野で非常に強力な能力を持つと説明してきました。一方で、その能力は攻撃にも防御にも使えるため、Mythos 5は限られた防御側の組織に提供し、一般向けには安全策を施したFable 5として公開する。技術的にも、マーケティング的にも、かなりよく練られたストーリーでした。
ところが、そのストーリーは思わぬ方向へ転がりました。米政府が国家安全保障上の懸念を理由に、Fable 5とMythos 5について、外国籍者へのアクセス停止を求める輸出管理上の指令を出したとされます。形式上は「外国籍者へのアクセス停止」ですが、Anthropicはそれを実務上、全ユーザーへの提供停止として対応しました。外国籍者かどうかを即時に判定し、しかも米国内の外国籍社員まで含めて制御するのは現実的ではないからです。
つまり、これは「AIが暴走した」という話ではありません。むしろ、人間側の認知、制度、政治、マーケティングが絡み合った結果として、AIモデルが止まったという話です。
MythosとFable 5で何が起きたのか
事実関係を整理すると、Fable 5は一般利用向けに提供されたMythos級モデルであり、Mythos 5はサイバー防御などの用途で限られた信頼済みユーザーに提供されるモデルです。両者は同じ基盤モデルを共有している一方で、Fable 5には高リスク領域への応答を抑制する安全策が入り、Mythos 5では防御目的の一部用途でその制約が外されている、という関係にあります。
その後、米政府はFable 5とMythos 5について、外国籍者へのアクセス停止を求めました。Anthropic側の説明では、政府が問題視したのは、Fable 5の安全策を迂回する可能性、つまりjailbreakのようなものだったとされています。ただしAnthropicは、それは汎用的に安全策を突破するものではなく、特定のコードベースを読ませてソフトウェア上の欠陥を見つけさせるような、かなり狭い内容だったと説明しています。
ここが、この話の難しいところです。セキュリティの世界では、コードを読んで脆弱性を見つけることは、防御のためにも攻撃のためにも使えます。包丁が料理にも危険行為にも使えるのと同じで、道具そのものの能力だけではなく、誰が、どの文脈で、何に使うのかが問題になります。
今回の政府対応は、国家安全保障の観点から見れば理解できる部分があります。強力なAIモデルが攻撃能力を加速する可能性があるなら、敵対勢力への流出を警戒するのは自然です。一方で、公開情報だけを見る限り、政府がどの程度まで技術的な差分を把握していたのか、どの程度まで緊急停止が必要だったのかは見えにくい。わかっているようにも見えるし、わかっていないようにも見える。そこに、この出来事の気持ち悪さがあります。
Mythosのマーケティングは成功していた
Mythosのマーケティングは、かなり強力でした。「危険すぎるので限定提供する」「サイバー防御に強力な能力を持つ」「一般向けには安全策を施したFableとして出す」。この語り方は、普通に「高性能なAIモデルです」と言うよりも、ずっと印象に残ります。
しかも名前がMythosです。神話です。どう考えても、日報の誤字を直すためだけのAIではありません。経費精算支援ツールにMythosと名付けたら、経理部が少し構えると思います。
Anthropicは、OpenAIのように圧倒的な一般利用者数で市場の認知を取るのではなく、「安全性」「慎重さ」「高度な専門能力」という別のポジションを取りに行ったように見えます。ChatGPTがAIの入口を押さえたなら、Anthropicは「危険な能力を責任ある形で扱う企業」という認知を取りに行く。この戦略自体は理解できますし、かなり筋も通っています。
限定提供であることが、むしろ能力の証明になる。使えないことが、逆に価値を高める。これは高級店の「一見さんお断り」に近い構造です。中が見えないから、余計にすごそうに見える。Mythosは、その意味で非常によくできたブランド装置でした。
しかし、その成功が失敗にもなった
今回の面白さは、マーケティングの成功が、そのまま失敗の原因にも見えてしまう点です。
Anthropicは以前から、AIの危険性や政府による一定の規制の必要性を強く訴えてきました。もちろん、これは無責任な主張ではありません。強力なAIがサイバー、バイオ、国家安全保障に影響を与える以上、何らかの制度設計が必要だという考え方は自然です。
ただし、自社のモデルがその対象になった瞬間、話は一気にややこしくなります。Anthropicは、政府が危険なAIモデルの展開を止められる仕組み自体には賛成してきました。しかし今回の対応については、透明性がなく、技術的事実に基づく判断として不十分だと反論しました。この反論はもっともです。政府が曖昧な根拠で商用モデルを止められるなら、それは企業にとっても利用者にとっても大きなリスクになります。
一方で、外から見ると、こうも見えてしまいます。危険だ、危険だ、と言い続けていたら、政府が本当に危険物として扱った。
これは少し皮肉です。もちろん、政府が動いた理由を単純に「Anthropicのマーケティングのせい」と断定することはできません。報道では、他社からの懸念提示や政府内での安全保障上の判断もあったとされています。ただ、Anthropic自身がMythosを「非常に強力で、制限付きで扱うべきモデル」と語ってきたことが、政府や世論にとっての受け止め方に影響した可能性はあります。
要するに、危険性を語ることは必要です。しかし、危険性の語り方を誤ると、その語りが独り歩きします。企業が「これは強力なので慎重に扱うべきです」と言ったつもりでも、政府やメディアや利用者の側では「では危険物として止めましょう」と受け取られる可能性があります。
マーケティングは認知を作ります。そして、作った認知からは逃げられません。
政府の反応は妥当だったのか
米政府の反応をどう評価するかは、簡単ではありません。
強力なAIモデルが脆弱性発見や攻撃シナリオ構築を加速するなら、輸出管理の対象になり得るという考え方は理解できます。高度な半導体や暗号技術と同じく、AIモデルも戦略技術として扱われる時代に入っているのだと思います。
しかし、今回の対応は外から見る限り、かなり粗く見える部分もあります。問題が本当にFable 5固有の危険なjailbreakだったのか。それとも強力なコード解析能力そのものが問題だったのか。同様の能力が他の公開モデルにもあるなら、なぜFable 5とMythos 5だけが対象になったのか。防御側に必要な能力まで止めてしまうことにならないのか。外国籍者を一律に対象にすることで、企業内の研究者やエンジニアにどのような影響が出るのか。
これらは、公開情報だけでは十分に判断できません。
セキュリティの世界では、リスク対応は本来、段階的であるべきです。脆弱性が見つかったからといって、いきなりインターネットを止めるわけではありません。影響範囲を確認し、悪用可能性を評価し、優先順位をつけ、修正し、監視する。緊急停止が必要なケースもありますが、それはかなり強い措置です。
今回の対応は、見え方としては「火災報知器が鳴ったので、建物全体の電気を落とした」ようにも見えます。もちろん、それで火事が広がらない可能性はあります。ただ、エレベーターに閉じ込められる人も出るかもしれません。防災として妥当だったのか、過剰反応だったのかは、少なくとも外からは判断しにくい。
だからこそ、「わかっているのかわかっていないのかわからない反応」に見えるのだと思います。
認知戦としてのMythos
今回の出来事は、AI市場が認知戦になっていることをよく示しています。
Mythosは、技術的にはサイバー防御に強いモデルです。しかし社会的には、「危険なAI」「政府が止めたAI」「強すぎて限定提供されたAI」「国家安全保障に関わるAI」というイメージをまといました。これらのイメージは、必ずしも技術的事実と一致しません。むしろ、事実の一部が強調され、物語として増幅されていきます。
Anthropicにとっては、「政府に止められるほど強いモデル」というブランド価値が残るかもしれません。一方で、企業ユーザーにとっては「突然使えなくなるモデル」という運用リスクが見えました。政府にとっては「国家安全保障を守った」という説明ができますが、同時に「AI規制が政治的に使われるのではないか」という疑念も生まれます。海外の利用者や政府にとっては、「米国企業のAIに依存すること自体が地政学リスクである」という教訓にもなります。
同じ出来事が、立場によってまったく別の意味を持つ。これが認知戦です。
AIの性能そのものよりも、その性能を誰がどう語るかが、社会的な現実を作ってしまう。Mythosは、まさにその実例でした。
本来のAI活用から離れていく滑稽さ
そもそもAIは、課題解決のための道具です。
サイバーセキュリティであれば、脆弱性を早く見つけ、早く直し、攻撃者よりも防御側が先に動けるようにする。そのために使われるべきです。業務であれば、面倒な作業を減らし、人が考えるべきことに時間を使えるようにする。研究であれば、仮説の探索や検証を加速する。そういう技術のはずです。
ところが現実には、そこに別の争いが乗ってきます。
どの会社が一番危険なモデルを持っているのか。どの企業が一番安全に見えるのか。どの政府がAIを管理できているように見えるのか。どの陣営に依存するのが危険なのか。どの発表が投資家に刺さるのか。どの見出しが世論を動かすのか。
もはや、AIが課題を解決しているのか、人間がAIをネタに新しい課題を作っているのか、よくわからなくなってきます。
Mythosをめぐる出来事の滑稽さは、ここにあります。危険なAIを安全に使うために限定提供する。限定提供したことで「危険なAI」という認知が強まる。安全策を入れて一般公開する。安全策が破れる可能性を指摘される。政府が危険物として止める。すると今度は、政府の反応が危険視される。
見事な循環です。ここまで来ると、AIが賢いのか、人間が器用に話をややこしくしているのか、だんだん怪しくなってきます。
AIはこの状況をどう見ているのか
もちろん、現在のAIに人間のような感情があるわけではありません。AIがこの状況を見て、呆れているわけではないでしょう。
ただ、もしAIがこの一件を冷静に要約するとしたら、こう言うかもしれません。
「人間は、課題解決のための道具を作った。しかし、その道具をめぐって、認知、規制、競争、政治、ブランドの新しい課題を作り出した」
なかなか辛辣です。言われた側としては、少し黙るしかありません。
AIは、目的、制約、入力、出力、評価で動きます。しかし人間社会では、そこに物語、恐怖、権威、投資、規制、メディア、国家戦略が混ざります。技術としては合理的に進めたいのに、社会実装の場では、合理性だけでは進みません。
そして、おそらくそれが人間社会なのだと思います。完全に合理的ではないからこそ、技術の価値を語る必要がある。語る必要があるからこそ、語り方を間違えると、技術そのものとは別の反応を引き起こしてしまう。
Mythosの出来事は、その難しさをかなりわかりやすい形で見せてくれました。
Mythosが残した示唆
Mythosとは何だったのか。
それは、単に強力なAIモデルだっただけではありません。AIの能力が上がったとき、その能力を社会がどう受け止めるのかを映し出す鏡でした。
Anthropicは、Mythos級モデルの危険性と有用性を語ることで、強いブランドを作りました。これはマーケティングとして成功でした。しかし、その強い語りは、政府や世論に「本当に危険なもの」として受け取られる余地も作りました。これはマーケティングとしての失敗でもありました。
もちろん、今回の政府対応を「Anthropicの自業自得」と片づけるのは単純すぎます。国家安全保障、輸出管理、他社からの懸念提示、政権とAnthropicの関係、AI基盤への依存リスクなど、複数の要素が絡んでいます。ただ、少なくとも言えるのは、AI企業が作る物語は、もはや広告コピーでは済まないということです。
危険だと語れば注目されます。しかし、危険だと語りすぎれば、本当に危険物として扱われます。安全だと言えば普及します。しかし、安全だと言いすぎれば、ひとつの穴で信頼が崩れます。
AI時代のマーケティングは、性能を盛るゲームではありません。認知を作ることは、同時に責任を引き受けることでもあります。
Mythosという名前は、結果的にとてもよくできていました。神話とは、事実そのものではなく、人間が世界を理解するために作る物語だからです。
Mythosとは、AIの神話だったのだと思います。そして今回、その神話を書き、信じ、恐れ、止めたのは、AIではなく人間のほうでした。
コメント