なぜ人々はAIの予測を信用しないのか?不信の背景と信頼回復への道筋

人工知能(AI)はあらゆる分野に変革をもたらしています。患者の病気の予測、次に犯罪が発生しうる地域の特定など、その活用範囲は多岐にわたります。さらに専門家たちは、AIをより創造的にし、予期せぬ事態にも対応できるよう取り組んでいます。

私たちの人生における多くの決断には予測が欠かせず、予測に関してはAIが人間よりも優れているのは明らかです。それにもかかわらず、なぜ私たちは自らが開発した機械や技術を信用できないのでしょうか?大多数の人々は、賢い機械やチャットボットよりも専門家に相談する方が良いと考えます。たとえその専門家が機械ほど正確でなくても、です。

AIに支えられた未来を夢見ながら、AIそのものを信用しない——そんな矛盾した状態は続けられません。AIの恩恵を最大限に受けたいなら、人々にAIを信じてもらう方法を見つける必要があります。では、私たちはなぜAIを疑うのでしょうか?

信頼問題の発端は何だったのか?

これは重要な問いです。もし疑い始めていなければ、今頃はすでにAIに囲まれた生活を送っていたかもしれません。すべての始まりは、IBMががん治療支援AI「Watson Oncology(ワトソン・オンコロジー)」を売り込んだことにあります。このAIは、世界のがん患者の約80%を占める12種類のがんについて、信頼性の高い治療推奨を提供すると約束していました。しかし、結果は失敗に終わったのです。

経緯はこうです。医師たちがWatson Oncologyにいくつかの症例の解決策を求めてやり取りしたところ、AIの提案が自分たちの判断と一致しました。ここから2つのことが起こりました。第一に、医師たちは「自分の手法こそ正確だ」と確信するようになりました。第二に、仮にWatsonの提案が医師の判断と矛盾した場合でも、彼らは「Watsonは有能ではない」と結論づけてしまったのです。

さらに、「なぜその提案された手法が、医師が従来用いてきた手法より優れているのか」と問われても、Watsonは満足のいく答えを出せませんでした。原因は、人間には理解しきれないほど複雑なアルゴリズムにありました。AIが説明し、自説を証明しようとしても、医師側には伝わらなかったのです。やがて疑念は膨らみ続け、まもなくIBMワトソンが医療分野で最も重視していたパートナーであるMDアンダーソンがんセンターはプログラムを打ち切り、従来の手法へと戻ってしまいました。

AIは新しい技術ながら、大量のデータから潜在的に隠れたパターンを識別する複雑な分析システムによって意思決定を行います。これは大きな強みですが、たとえAIが説明したとしても、その結論にどう至ったのかを人間が理解するのは極めて困難です。実際、多くの専門家が「AIが本当に機能しているのか目に見えないので、疑わしく感じる」と語っています。無理もない話でしょう。

その他にも、Googleのアルゴリズムが有色人種をゴリラと誤分類した事件、Microsoftのチャットボット「Tay」が短期間で差別的な発言をするようになった事件、テスラ車のオートパイロット作動中の死亡事故などが、人々の疑念を深める要因となりました。結論として現時点で言えるのは、「AIは完璧ではない」ということです。設計し、コードを書いた人間自身が完璧ではないのですから、当然の帰結とも言えるでしょう。

この不信から抜け出す方法はあるのか?

AIへの不信は、社会を分断する最大の要因になり得ます。AIが本来の潜在能力を発揮するためには、特に、私たちが慣れ親しんだ選択肢とは異なる推奨を提示する場面において、人々にAIを信頼してもらう必要があります。幸い、私たちは手詰まりというわけではなく、AIへの信頼を高めるための有望なアイデアをすでにいくつか持っています。トンネルの先には光が見えているのです。詳しく見ていきましょう。

1. 経験を積む

一つ目の解決策は、日常の場面で自動化アプリを積極的に活用することです。過去の経験(記憶に残る程度に心地よいものであれば)が、人々のAIに対する態度を改善することが分かっています。技術的な詳細に精通しておらず、高度な理解を持たない一般の人々にとって、これは特に重要です。また、どんな技術も、頻繁に使ってこそ信頼できるものになります。例えば、私たちがインターネットを信頼しているのは、十分に使い込んできたからです。かつてインターネットも疑われていたことを忘れてはいけません。

2. 透明性を高める

物事が疑われるもう一つの理由は、人々がそれについてよく知らないことにあります。一度理解してしまえば、以前ほど恐れたり疑ったりすることはなくなります。そのため、企業が透明性レポートを定期的に公開することが重要です。Google、Airbnb、Twitter(X)などの企業はすでにこれを実践しています。同様の取り組みは、アルゴリズムがどのような根拠で意思決定を行っているのかを、人々がより深く理解する助けとなります。

3. コントロールを共有する

専門家によれば、人間とAIが協働する意思決定プロセスを構築することが、信頼構築につながるとされています。これは機械が自律的に学習することにも役立ちます。多くの人が抱くイメージに反して、AIの意思決定プロセスにより多く人間を関与させることは、実際には信頼と透明性の両方を高めるのです。

以上が、AIがより多くの信頼を得るために有効とされる主なアプローチです。AIの仕組みについて学ぼうとするのは専門家だけかもしれませんが、その動作原理について少しでも理解が深まれば、人々はAIをより受け入れやすくなるはずです。あなたはこの問題についてどう考えますか?