AIに人間性を教えるべきか?――機械の道徳をめぐる課題と3つの指針

AI専門家たちから発せられる警告は、もはや耳にタコができるほど聞かれていることでしょう。「人類が本格的なAIを開発すれば、AIは自らを再設計し、指数関数的な速度で成長していく」という主張です。確かに、未来がどうなるのか私たちにはまだ何も分かりません。しかし、これまでに設計・実装されてきたAIは、その段階にはほど遠いのが現状です。現在は、AIに簡単な判断を自力で下せるよう教えている初期段階にすぎません。

出典：techemergence.com

こうした取り組みの背景には、「ローン審査や運転免許の可否、昇給の判断といった単純なタスクにおける人的介入を減らしたい」「人間には速すぎる観察や処理を任せたい」という狙いがあります。ところが研究者たちを悩ませているのが、ひとつの根本的な問いです。それは――「機械に道徳を教えるべきなのか?」という問題です。

なぜこの問いへの回答が難しいのか

結論を出すことが困難なのは、現実世界での意思決定がプロトタイプの実装よりもはるかに複雑だからです。例えば、ある状況における「公平さ」を機械が理解するにはどうすればよいのでしょうか。全体像を把握しない限り、それは不可能です。私たち人間には、状況のさまざまな側面を見て総合的に結論を導き出すという「超能力」がありますが、機械は同じようには動いてくれません。

出典：datasciencecentral.com

つまり技術的には、今のところ機械に人間らしさを植え付けることは不可能なのです。理由は、意思決定の際に私たちが最も頼りにしている良心や直感（ガットフィーリング）を機械に与えるには、まだ程遠いからです。確かに、ポーカーで人間を打ち負かしたり、自動化処理や高度な計算を行ったりする点では、機械は私たちよりはるかに優れています。それでも、AIには人間による監督が不可欠です。

AIの行く末をめぐっては今も終わりのない議論が続いていますが、争う代わりに、私たちが注目すべきは次のような指針ではないでしょうか。

機械の倫理化に向けた3つの指針

1. 倫理と人間の行動を明示的に定義する

AIが適切に反応できるようになるまでの間、特定の状況に対しては明示的な答えを用意しておく必要があります。しかし、そのためには適切な審議パネルの設置が求められます。なぜなら、私たちは自分自身の倫理についてさえ確信を持てていないからです。意見の相違を脇に置いたとしても、合理的で広く受け入れられる解決策を導けない事柄は数多く存在します。

2. 人間の道徳をクラウドソーシングで集める

対立が生じる可能性への代替策を模索するなら、機械が特定の価値観に偏らないようにすることも重要です。状況によっては機械の判断が変わり、それがまた新たな対立を生むかもしれません。そこで有効なのが、人間が信頼を寄せている信念や価値観のデータベースへアクセスできる仕組みです。そうすれば、状況から結論を導き出すことが格段に容易になります。

出典：blog.applovin.com

3. システムをより透明化する

現状では、機械の行動を導いているニューラルネットワークの中身は、ほとんど理解できません。もしエンジニアがどのように倫理的価値を教え込んだのかが分かれば、誰がミスをしたのかを容易に特定でき、理解しにくいアルゴリズムだけを一方的に責めるような事態を避けられます。これは自動運転車などのインテリジェントシステムにとって特に有用です。失敗や経験から学習し、改善を重ねられるようになるからです。

このアプローチが推奨されるのは、倫理的に振る舞う機械のほうが人間にとって信頼しやすいからです。さらに、明確な指針があれば、自身の行動を決定する責任を負うAIエージェントの負担も軽減されます。そして見逃せないのは、人間と機械が協力して意思決定を行う際、共有された道徳的価値観が合意や妥協を促進するという点です。

人間と機械が共に判断する未来へ

より具体的にイメージしてみましょう。手術室で、専門家たちのグループが決断に苦慮している場面を想像してください。そこに、彼らを支援するAIがあるとしたらどうでしょう。基本的に、私たちはそうすることでより強力になれるのです。そんな未来が実現する日が、早く来てほしいものですね。

あなたはどう思いますか？ぜひコメント欄でご意見をお聞かせください！