AIの実験は失敗だったのか？――急速な進化がもたらす「光と影」

映画の中で何十年も描かれ、私たちが憧れてきたような未来を実現しようと、世界は今、AI（人工知能）の導入に猛スピードで突き進んでいます。しかし、その裏に潜む「暗黒面」には、意図的に目を背けていませんか？　人類をあっという間に飲み込んでしまいかねない側面です。

ハッキングやウイルス、マルウェアといった問題すら対応しきれない現在の私たちに、この高度な技術が連れてくる「悪魔」に対処する準備はあるのでしょうか。AIが人間を超えた知性を持ったとき、何が起きるのか。私たちは自ら墓穴を掘っているのではないでしょうか。

今のAIは「特化型」――それでも脅威は現実的

現在のAIは、限定的な機能しか持たないことから「特化型AI（Narrow AI）」と呼ばれています。しかし、この段階ですら重大な脅威となり得ます。最も身近な例がSiriでしょう。素早く、時には機知に富んだ応答に驚かされます。とはいえ、現状ではインターネットからデータを取得して伝えているだけです。

一方、「強いAI（Strong AI）」とも呼べる、いわば休眠中のAIは、認知機能を備え、会話を行い、学習し、さらには推論までできる存在になるはずです。ここで一度立ち止まり、考えてみてください。AIがその段階に達したとき、何が起こるのでしょうか。

コインの裏側

この技術の進歩における最大の懸念は、それが悪意ある者の手に渡ることです。武器が最初に発明されたとき、その目的は動物などの外敵から身を守ることでした。ところが人類は長い道のりを経て、その武器を互いに向け合うようになりました。同様に、AIが人間の手によって人間に対して使われたらどうなるのか。

人工知能は「殺害するよう」プログラムすることも可能です。望むと望まざるとにかかわらず、この技術は高い確率で悪用され、大量殺戮を引き起こしかねません。Future of Life Instituteによれば、こうした技術兵器は特化型AIの段階でも実現可能だといいます。ましてや強いAIが登場したら？　AIが与えられたタスクの達成において、人間を「障害物」とみなす可能性さえあります。

IBMのWatsonが示す可能性

現在、私たちは強いAIと弱いAIの中間あたりに位置しています。その好例がIBMのスーパーコンピュータ「Watson」です。Watsonは膨大なデータを掘り起こし、エビデンスに基づいた結論を導き出すよう設計されています。実際、2011年にはクイズ番組「Jeopardy!」で過去のチャンピオンたちを破り、100万ドルを獲得しました。立派なことかもしれません。しかし、瞬時にアクセスできる膨大なデータ量を思い浮かべてください。すべてのデータへアクセスできるようになったとき、何が起こるのでしょうか。

汎用AIの到来と雇用への影響

今日あなたや私が目にしているのは、機械に特定のタスクを実行させる「応用AI（Applied AI）」です。データをもとに医療診断をしたり、顔を認識したりできます。まだ実現していないのが「汎用AI（General AI）」で、これは特定種類のデータから結果を導き出すだけでなく、人間が行うあらゆるタスクをこなせるようになります。そこで次の疑問が生まれます。私たちの仕事はどうなるのでしょうか。

焦点を変えるべき時

悲観論者になりたいわけではありません。しかし、ビル・ゲイツやイーロン・マスクといった著名人がAIの脅威を憂慮しているのには、それなりの理由があります。AIの進歩は、数年前の予測をはるかに上回るスピードで進んでいます。超知能への道を進むことよりも重要なのは、まずAIを安全に保つための対策を編み出すことではないでしょうか。

AIの知性が高まるにつれ、時間とともにその目標が人間のものと異なる方向へずれ込む可能性があります。この「非整合な知性」が最終的に何をもたらすのか、私たちには分かりません。それが実現するまでには数十年かかるかもしれませんが、本当に心配なのは、安全性のための対策を見つけるには、さらに長い時間が必要だという事実なのです。