私はシステムエンジニアなので、システムの説明をするときに、結構な頻度でシステムを擬人化します。
「この子、今日はちょっと機嫌が悪いですね」
「こいつ、負荷をかけるとすぐ拗ねるんですよ」
「ここでちょっと待ってあげないとダメなんですよね」
エンジニア同士では、割と普通に出てくる表現です。サーバーやネットワーク機器、アプリケーションに対して「この子」と呼んだり、「機嫌が悪い」「嫌がっている」と言ったりします。
でも当然ながら、私はシステムに人格があるとは思っていません。
サーバーが本当に拗ねているわけでもないし、ネットワーク機器に機嫌があるわけでもない。何かがおかしいのであれば、CPU、メモリ、I/O、ネットワーク、ソフトウェア、設定、外部システムとの依存関係など、どこかに原因があります。
それを分かった上で、なぜ「機嫌が悪い」なんて言うのか。
改めて考えてみると、これが結構面白い話だと思ったんです。
「機嫌が悪い」は意外と正確な表現だった
最初は単なる擬人化だと思っていました。
ところが考えてみると、「機嫌が悪い」という表現は、複雑なシステムの状態を説明する言葉として意外と優秀です。
例えば、システムのレスポンスがいつもより悪い。ただし、完全に壊れているわけではない。負荷をかけると悪化することもあるけれど、必ず再現するわけでもない。再起動すると直ることもある。
ログを見ても決定的な原因がまだ分からない。
こういう状態ってあります。
これを毎回、
「複数の要因が関係している可能性があり、現時点では再現条件が特定できておらず、通常時とは異なる挙動を示している」
などと説明していたら面倒です。
そこで、
「なんか今日、こいつ機嫌悪いんだよね」
と言う。
これで結構通じます。
考えてみると、人間の「機嫌が悪い」という状態にも、「いつもと反応が違う」「原因が一つとは限らない」「同じことをしても反応が違う」「しばらくすると戻るかもしれない」「あまり刺激しないほうがいい」といった意味が含まれています。
その構造が、調子の悪いシステムの状態と妙に似ている。
だから私たちは「機嫌」という人間向けの概念をシステムに持ってきて使っているわけです。
これは単なる擬人化というより、ある種のアナロジー思考なのかもしれません。
言葉は、現実を説明するためのツールでもある
ここでちょっと視点が変わりました。
「機嫌」という言葉を使っているからといって、本当に機嫌というものがシステム内部に存在すると考えている必要はありません。
複雑で、そのままでは扱いにくい現象を、人間がすでに知っている概念に一度置き換えているだけです。
つまり、
「複雑なシステムの状態」→「人間の機嫌」
という写像をしている。
そう考えると、言葉というものは現実に存在するものに名前を付けるだけではなく、複雑な現実を人間が扱える形に変換するためのツールでもあるのだと思います。
ITっぽく言えば、ちょっと抽象化レイヤーに近いのかもしれません。
内部で何が起きているのかを全部展開しなくても、「機嫌が悪い」というインターフェースを介して、おおよその状態を共有できる。
「市場が嫌気した」
「台風が迷走している」
「会社が判断した」
「アルゴリズムが選んだ」
私たちは普段から、似たような表現を大量に使っています。
市場という人格が何かを嫌がっているわけではないし、台風に行きたい場所があるわけでもありません。会社という一人の人間が存在するわけでもありません。
でも、そのように表現したほうが話が早い。
科学の世界でも、似たことは昔から行われています。
例えばリチャード・ドーキンスの「利己的な遺伝子」は有名ですが、遺伝子が本当に「利己的」という人格を持っているという話ではありません。
科学における比喩や擬人的表現については昔から議論があり、科学者同士のコミュニケーションや複雑な現象を理解するために有用である一方、その比喩を文字どおり受け取ると誤解につながることも指摘されています。
つまり、便利だけれど、扱いを間違えると危ない言葉でもあります。
科学者の「人格発言」をそのまま信じてはいけない
そこで、今回のタイトルの話になります。
科学者や研究者、エンジニアが研究対象について人格的な表現をしていたとしても、その言葉をそのまま受け取らないほうがいいと思っています。
例えば、
「この細胞は死を選ぶ」
「このAIは自信がない」
「このモデルは考えている」
「このシステムは嫌がっている」
といった表現です。
こういう言葉だけを見ると、その人が対象に何らかの意志や人格を認めているように見えます。
でも実際にはそうとは限りません。
むしろ、その仕組みをよく知っている人が、複雑な現象を扱いやすくするために意図的に擬人的な言葉を使っていることがあります。
ここに、外から見ている人との認知のズレが生まれます。
観察している側は「機嫌が悪いと言った。ということは、この人は対象に人格を感じているんだ」と解釈する。
ところが本人は、「この条件では通常とは異なる挙動をする」というくらいの意味で使っている。
言葉の温度と、その人が対象に対して持っている認識の温度が一致していないんです。
AIでは、この問題がもっとややこしい
最近、このズレが特に大きくなっているのがAIです。
私自身、ChatGPTなどのAIに対して普通に擬人的な表現を使います。
「こいつ、この仕事苦手なんだよね」
「このモデルは妙に慎重」
「今日は頑固だな」
「こっちの意図を分かってくれない」
そんなことを普通に言います。
でも、それとAIに人間と同じような人格や感情が存在すると考えることは、私の中では別の話です。
少なくとも現在のLLMについて、その人間らしい出力だけを根拠に、人間と同じ意味での感情や主観が存在すると結論づけることはできません。
一方でAIは自然言語を使います。
しかも、「考える」「迷う」「理解する」「忘れる」「嘘をつく」といった人間向けの言葉が、AIの振る舞いを説明するのに恐ろしく便利です。
実際、NLPやAIの研究論文でも擬人的な表現は珍しくありません。2022年のACLの論文要旨を調べた研究では、言語モデル技術を扱った90本のうち36本に擬人的な表現が見つかったという報告もあります。
研究者でさえ使ってしまう。
それくらい便利なんです。
ただし、ここには一つ問題があります。
専門家同士なら「これは比喩だ」と共有できていても、その言葉が一般社会に出ていった瞬間、その前提がなくなります。
研究者が「AIは考えている」と言った。
それを見た人が、
「AI研究者も、AIが人間と同じように考えていると認めた」
と解釈してしまう。
ここで意味が変わってしまいます。
擬人化は便利だけど、思考まで引っ張られる
もう一つ注意しないといけないのは、擬人化は単なる言葉遊びでは終わらない可能性があることです。
科学における比喩についての研究でも、比喩やアナロジーは理解や新しい発想を助ける一方で、その比喩自体が研究者の考え方を制約してしまうことが指摘されています。
これはエンジニアとしても何となく分かります。
最初は単なる便宜上の表現だったはずなのに、いつの間にか、その言葉に引っ張られて現象を見るようになる。
「このシステムは機嫌が悪い」という言葉を使っているうちに、本当は存在するはずの再現条件を探さなくなったら、それはエンジニアとしてまずい。
「AIが考えている」という表現も同じです。
説明のためのアナロジーだったものが、いつの間にか「AIは人間と同じような仕組みで考えている」という前提にすり替わってしまう可能性があります。
最近では、LLM研究そのものが人間を基準にした擬人的な概念に引っ張られているのではないか、という議論も出ています。
アナロジーは、未知のものを既知のものを使って理解するための強力な道具です。
でも、似ているところを使って考える方法なので、当然ながら「似ていないところ」もあります。
そこを忘れると、アナロジーは途端に危なくなります。
研究者が冷たく見えるのも、同じ構造かもしれない
最初にこの話を考えたとき、もう一つ気になっていたことがあります。
研究者が研究対象に対してかなりドライな扱いをすると、「人の心がないのか」と言われることがあります。
ここは少し慎重に考えたほうがよさそうです。
研究者だから研究対象に感情を持たない、ということではありません。研究対象に強い愛着を持つ研究者もいるでしょうし、生命科学などでは研究倫理や動物福祉の問題もあり、研究者自身が葛藤を抱えることも当然あります。
ただ、それとは別に、研究をするためには対象を「研究対象」として見る視点が必要です。
これは医師が手術をするとき、患者を一時的に臓器や血管、神経といった構造として見ることに少し似ています。
患者に人格がないと思っているわけではありません。
むしろ、人格を持った一人の人間であることを知った上で、目の前の作業では別の抽象化レイヤーで対象を見ている。
研究者にも似たところがあるのではないかと思います。
面白いのは、そうやって対象との距離を取れる人が、研究室では対象を「この子」と呼んでいたりすることです。
「この子、今日は元気だね」
と言いながら、データを見るときには淡々と数値として評価する。
外から見ると、愛着があるのか冷たいのか、よく分かりません。
でも本人の中では、たぶん矛盾していない。
対象について話すための言葉と、対象を分析するときのモデルが違うだけなんだと思います。
言葉を、そのまま世界だと思わない
今回このことを考えていて、最初に思っていた「科学者は研究対象を擬人化する」という話から、少し違うところにたどり着きました。
たぶん重要なのは擬人化そのものではありません。
言葉は、現実そのものではないということです。
複雑な現実を人間が理解したり、他人と共有したり、考えたりするために、私たちは言葉という道具を使っています。
その中には比喩もあるし、アナロジーもあるし、擬人化もある。
「機嫌が悪い」という表現もその一つです。
だから、科学者が「AIが考えている」と言ったからといって、それだけでAIに人間と同じ思考があるという話にはなりません。
逆に、「AIは単なる計算だ」と言ったからといって、AIが示す複雑な能力を否定しているとも限りません。
その言葉が何を指していて、どのレイヤーの話をしているのかを見る必要があります。
これはAIについて考えるとき、これからますます重要になる気がしています。
AIはどんどん人間らしい言葉を使うようになっています。そして私たちも、AIを説明するためにどんどん人間の言葉を使うようになっています。
その結果、「人間のように表現できる」と「人間と同じ仕組みである」の境界が曖昧になっていく。
そんなときに、
「これは実体の話なのか、それとも説明のために借りてきた言葉なのか」
と一度考えてみる。
エンジニアが「この子、今日は機嫌が悪い」と言いながら、裏では黙々とログを追っているように。
言葉を信じすぎず、でも言葉をうまく使う。
科学者やエンジニアがやっている擬人化というのは、案外そんな話なのかもしれません。
参考資料
Cynthia Taylor & Bryan M. Dewsbury, “On the Problem and Promise of Metaphor Use in Science and Science Communication”, Journal of Microbiology & Biology Education, 2018.
科学において比喩やアナロジーが、研究対象の理解や科学コミュニケーションに広く利用されている一方、誤解や思考の制約につながる可能性について論じています。
Casper H. J. van der Kooi & A. G. M. van der Kooi, “The two languages of science”, EMBO Reports, 2020.
「利己的な遺伝子」などを例に、科学者が擬人的な表現を使う理由と、その有用性・危険性について論じています。
David Watson, “Deanthropomorphising NLP: Can a language model be conscious?”, 2024.
NLP研究における擬人的表現を調査し、2022年ACL論文の分析などを通じて、専門家が使う擬人的な言葉が一般社会では異なる意味として受け取られる可能性を論じています。
Lujain Ibrahim & Myra Cheng, “Thinking beyond the anthropomorphic paradigm benefits LLM research”, 2025.
LLM研究における擬人的な概念そのものが研究方法や評価方法に影響している可能性を指摘し、人間を基準としないAI研究の見方を提案しています。
コメント