「AIを導入すること自体が目的になってはいけない」
AI活用の話をしていると、よく出てくる言葉です。AIはあくまで道具であり、解決したい課題が先にあるべきだ、という話です。
これはたぶん、基本的には正しいと思います。
AIを導入した件数や、AIを使っている人数だけを成果として扱ってしまうと、何のために導入したのかが分からなくなります。業務が楽になったわけでも、サービスが良くなったわけでもないのに、「AIを導入しました」という実績だけが残ることもあります。
ただ、「AIを目的化するな」という言葉が出てくる場面を見ていると、少し引っかかることがあります。
本当に無意味なAI導入を止めようとしているのか。それとも、今ある仕組みを変えたくないという気持ちが、もっともらしい言葉に置き換わっているのか。
この二つは、外から見ると意外に区別がつきません。
「今のシステムで十分」という反論
以下はフィクションです。
とある企業で、AIを活用したデータサービスの導入が検討されました。それに対して、既存システムを担当する技術チームから、こんな反論が出ました。
現在のシステムでも十分な精度が出ています。AIを利用することが目的になってしまっているのではないでしょうか。
一見すると、かなり正しい反論です。
今のシステムが必要な性能を満たしているのであれば、わざわざ新しい技術に置き換える必要はありません。AIを使うという理由だけで、安定して動いている仕組みを変更すれば、開発費用も運用負荷も増えます。
AIだから精度が高いとも限りません。従来のルールベースの処理や統計モデルのほうが、対象とする範囲によっては安定していることもあります。説明のしやすさや、誤りが起きたときの調査のしやすさまで含めれば、既存方式を維持するほうが合理的な場合もあります。
そう考えると、「今のシステムで十分」という判断には、きちんとした根拠があるように見えます。
ただ、ここで気になるのは、何をもって「十分」としているのかです。
現在設定されている精度目標を満たしている、という意味なのか。今の業務を続けるうえで困っていない、という意味なのか。あるいは、利用者にとってこれ以上の改善は必要ない、という意味なのか。
同じ「十分」でも、意味はかなり違います。
今の要件を満たしていることと、今の仕組みが最適であることは違う
既存システムの精度が十分であることは、そのシステムに設定された現在の要件を満たしている、という話です。
しかし、現在の要件を満たしていることと、現在の仕組みが今後も最適であることは同じではありません。
そもそも、従来の技術では実現できないために、要件として定義されていなかったものがあるかもしれません。技術的には可能でも、費用がかかりすぎるために諦めていた処理もあるでしょう。
AIを使うことで、これまで人が個別に確認していた情報をまとめて扱えるようになるかもしれません。対象とするデータの種類を増やしたり、利用者ごとに異なる回答を返したりできるようになる可能性もあります。
もちろん、実際にできるかどうかは検証が必要です。AIを入れれば自動的に新しい価値が生まれるわけではありません。
ただ、「現在の評価指標では十分な精度が出ている」という理由だけで検討を終えてしまうと、今の評価指標の外側にある可能性も見えなくなります。
これはAIの性能の話というより、どの範囲までを評価対象にするかという話なのだと思います。
「AIを目的化するな」は、やはり正しい
一方で、「AIを目的化するな」という主張が間違っているわけではありません。
実際、AIを使うことから考え始めると、話の順番がおかしくなりがちです。
「このAIで何ができるか」を先に考え、その後から使えそうな業務を探す。使えそうな業務が見つかると、それを導入効果として説明する。気がつけば、利用者が困っていることではなく、AIが処理できることを中心にサービスが設計されています。
これは、いわゆる技術起点の発想です。
技術起点で考えること自体が悪いわけではありません。新しい技術を触っているうちに、これまで気づかなかった使い方が見つかることもあります。
ただ、実際の業務やサービスへ導入する段階では、何が良くなるのかを改めて確認する必要があります。
処理時間が短くなるのか。人が確認する件数が減るのか。対応できる範囲が広がるのか。利用者の待ち時間が減るのか。これまで提供できなかったサービスを提供できるようになるのか。
こうした変化が説明できないままAIだけを導入しても、効果はなかなか出ません。
AIを既存業務の一部に追加しただけでは大きな変化につながらず、業務の流れや人の役割まで見直す必要がある、という指摘は、現在のAI導入に関する議論でも繰り返し出ています。
その意味では、AIはやはり手段です。
ただし、その言葉は現状維持にも使える
問題は、「AIを目的化するな」という言葉が、AI導入の妥当性を確認するためだけに使われるとは限らないことです。
新しい仕組みを導入すれば、今までの仕事のやり方が変わります。既存システムの役割が小さくなるかもしれませんし、担当者が持っている知識や経験の位置づけも変わります。
そうなれば、反発が起きるのは自然なことです。
これは技術チームに限った話ではありません。業務部門でも、管理部門でも、経営側でも起きます。今の仕組みの上で役割を持っている人ほど、その仕組みを維持する理由を見つけやすくなります。
もちろん、反対意見が出たからといって、それをすぐに抵抗勢力のように扱うべきではありません。
既存システムを知っている人だからこそ見える問題もあります。AIの精度だけではなく、運用時の例外処理や障害対応、監査、データ管理まで考えれば、慎重になるのは当然です。
それでも、「今のままで問題ない」と「変える必要がない」は、同じではありません。
今の仕組みが動いているという事実だけで、今後も変えなくてよいと判断してしまえば、それは現状維持です。変えないことを選ぶのであれば、少なくとも、新しい方法と比較したうえで変えない理由を説明する必要があります。
AI化を目標にすることは、本当に間違いなのか
ここまで考えると、AI化そのものを目標にすることも、必ずしも悪いとは言い切れないと思っています。
たとえば、社内にAIを利用できるデータ環境がない、利用ルールも決まっていない、現場に使える人もほとんどいない、という状態を考えます。
この状態で個別の案件ごとに費用対効果を求めても、なかなか導入は進みません。最初の案件には、基盤整備やルール作成、人材育成の費用まで乗ってくるからです。
一つの業務だけを見れば、従来の方法を続けるほうが安く見えるでしょう。しかし、その判断をすべての業務で繰り返していると、組織としてAIを使える状態にはなりません。
このような場合、経営や事業の判断として「AIを利用できる組織へ変える」という目標を置くことはあり得ます。
一時的には、AIを使うこと自体が目標に近い位置づけになるかもしれません。実際に使ってみなければ、どこで効果が出るのか、どのような問題が起きるのか、どんなデータが足りないのかも分からないからです。
ただし、ここで目標にすべきなのは、AIの導入件数ではないと思います。
AIを使って業務を見直せるようになったのか。AIを前提にデータを整備できるようになったのか。現場が自分たちの課題に合わせてAIを選べるようになったのか。
目指しているのは、AIという製品を増やすことではなく、AIを利用できる能力を組織に持たせることです。
この違いは結構大きいです。
目的か手段かは、見る位置によって変わる
AIが目的か手段か、という議論がややこしいのは、見る位置によって答えが変わるからだと思います。
一つの業務から見れば、AIは手段です。
問い合わせへの回答を早くする、需要を予測する、調査にかかる時間を減らす。目的は業務やサービスの改善であり、AIはそのために使う技術です。
一方、会社全体から見れば、AIを使える能力を持つことが目標になる場合があります。データを整備し、利用ルールを決め、人材を育て、AIを前提に業務を設計できる状態を作る。これは個別業務よりも上位の経営課題です。
つまり、下の階層では手段だったものが、上の階層では目標として扱われることがあります。
クラウド化でも似たようなことがありました。
個別のシステムにとって、クラウドはシステムを動かすための手段です。しかし、全社の調達速度や拡張性を変えるために、クラウド移行そのものが会社の目標として置かれることがあります。
だからといって、クラウドへ移行した件数だけを成果にすればよいわけではありません。移行した結果として、開発や運用がどう変わったのかを見る必要があります。
AIについても、たぶん同じです。
ところで、利用者は何を得るのか
ここまで、AIを目的にすべきか、手段にとどめるべきかを考えてきました。
ただ、この議論には、少し抜けているものがあります。
どちらの意見も、基本的にはサービスを提供する側の話なんです。
経営側は、投資や競争力の視点でAIを見ます。技術チームは、精度や安定性、保守性を見ます。業務部門は、作業時間や人員の削減を期待します。AIのベンダーは、製品の機能や導入効果を説明します。
では、そのサービスを使う人は、何を得るのでしょうか。
利用者にとって、裏側でAIが動いているかどうかは、必ずしも重要ではありません。
手続きが早く終わる。必要な情報を見つけやすくなる。自分の状況に合った回答が返ってくる。今までは対応してもらえなかった時間や場所でも、サービスを利用できるようになる。
そうした変化があれば、AIを使った意味があります。
反対に、AIを導入した結果として、回答が曖昧になったり、間違いを直してもらえなくなったり、人に相談する経路がなくなったりすれば、利用者にとっては改悪です。
AIのリスクや効果を考える際にも、想定する利用目的や利用者、その人たちへの影響を具体的に捉えることが必要だとされています。AIの精度だけではなく、利用される状況を含めて評価するということです。
そう考えると、AIを目的にするか手段にするかという議論だけでは、少し足りません。
「精度は十分」の主語は誰なのか
冒頭の話に戻ります。
技術チームは、「今のシステムでも十分な精度が出ている」と説明しました。
では、その精度は誰にとって十分なのでしょうか。
システムの評価試験では十分なのか。運用担当者が扱うには十分なのか。サービスの利用者が困らない水準なのか。平均では問題なくても、特定の条件や利用者だけ精度が落ちることはないのか。
また、サービスの価値は精度だけで決まるわけでもありません。
応答にかかる時間、対応できる範囲、結果の説明のしやすさ、問題が起きたときの修正方法、運用に必要な人手もあります。
AIを導入した結果、精度が変わらなくても、扱えるデータが増えるかもしれません。人が確認する作業を減らせるかもしれません。
逆に、精度が少し上がったとしても、なぜその結果になったのか説明できず、確認作業が増える可能性もあります。
既存システムとAIを比べるのであれば、モデルの精度だけではなく、利用者に提供する価値と、システム全体を運用するための負担を見たほうがよいと思います。
手段か目的かを決めるのも需要者であるべき
現在のAIに関する話題は、どうしても供給側から始まりがちです。
新しいモデルが出た。性能が上がった。長い文章を扱えるようになった。画像や音声も扱えるようになった。エージェントとして操作を任せられるようになった。
技術の変化が速いので、これは仕方のないことだと思います。新しい技術が登場すれば、まずは提供する側が使い方を考え、市場へ可能性を示します。
ただ、AIが長く使われていくためには、少しずつ需要者側へ重心が移っていく必要があります。
自分たちは何に困っているのか。何を変えたいのか。どこまでなら間違いを許容できるのか。どのような状態になれば、費用をかける価値があるのか。
それを決めるのは、AIを作る側ではありません。
AIを使って業務やサービスを提供する企業であり、その先にいる利用者です。
AIを目的として戦略的に取り組むのか、個別の課題を解決するための手段として利用するのか。その選択自体も、需要者側が行うべきだと思います。
AIを使うかではなく、何を変えるか
結局のところ、最初に考えるべきなのは「AIを使うべきか」ではありません。
今の業務で何に困っているのか。利用者にどのような不便があるのか。これまで技術や費用の制約で諦めていたことはないのか。何が変われば、大きな効果が得られるのか。
その中で、AIが有効であれば使えばよいし、既存の仕組みのほうが適しているのであれば、無理に変える必要はありません。
一方で、個別の費用対効果だけを見ていては組織全体が変わらないと判断するのであれば、AI活用を経営上の目標として置くこともあり得ます。
なので、AIは目的か手段か、という問いに一つの答えを出す必要はないと思っています。
「AIを目的化するな」という言葉は、無意味な技術導入を防ぐためには有効です。ただ、その言葉を、今の仕組みを変えないための理由にしてはいけません。
反対に、AI化を目標に掲げることにも意味はあります。ただし、AIの導入件数や利用率だけが増えて、利用者の状況が何も変わっていないのであれば、それは目的を取り違えています。
AIが目的なのか、手段なのか。
その前に確認したいのは、誰の何を変えようとしているのか、ということです。
そこが決まっていれば、AIを目的として扱うべき場面と、手段として扱うべき場面も、もう少し自然に判断できるのではないかと思います。
コメント