マイクロソフト社長が警鐘、AI監視社会により『1984年』が3年後に現実化する恐れ

ジョージ・オーウェルの小説『1984年』は、文化界に大きな波紋を投げかけ続けている作品です。「午前11時を過ぎると朝食セットが注文できない」といった身近な不満の例えに使われることさえあります。しかしマイクロソフトは、現実のテクノロジーが近い将来、作中のビッグ・ブラザーのような監視体制を実現しかねないと懸念しているのです。

マイクロソフトの大胆な予測――AIの未来

マイクロソフト社長のブラッド・スミス氏は、BBCの報道番組「パノラマ」で、やや不気味な予測を語りました。同番組では、中国が人工知能（AI）を活用して自国民を監視する実態について掘り下げています。

スミス氏は、政府が技術による盗み見の手法を常に把握し、プライバシーを保護する法律を技術の発展に合わせて整備すべきだと指摘しました。これを怠れば、技術が法規制を「追い抜いてしまい」、一度先を越されると「追いつくのは非常に困難になる」と警告しています。

監視が野放しになった場合の危険性について、スミス氏は次のように語りました。

私は常に、ジョージ・オーウェルの『1984年』の教訓を思い出させられます。物語の根幹は、国民が何をしていても、何を話していても、そのすべてを政府が常時見聞きできるという話でした。

それは1984年には実現しませんでした。しかし、私たちが注意を怠れば、2024年に実現しかねないのです。

米中のAI冷戦

スミス氏に同意する専門家は他にもいます。元Google最高経営責任者（CEO）で、現在は米国国家安全保障AI委員会のメンバーであるエリック・シュミット氏は、AI分野で打ち負かすべき相手は中国だと述べています。

というのも、中国は2030年までに世界のAI技術のリーダーになることを目標に掲げているからです。すでにその動きは加速しており、2019年には米国を上回る数のAI関連特許を取得しました。さらに、世界に設置された約7億7000万台の監視カメラのうち、54％が中国市民に向けられているとも言われています。

こうした状況を受け、米国の専門家たちは、放置すれば中国の価値観が西側諸国へ浸透すると懸念しています。ただし中国側は、現時点でそのような計画はないと主張しています。

中国政府の顧問を務める薛瀾（ラン・シュー）博士は、顔認識技術は万一の事態が発生した際に「非常に役立つ」と述べました。さらに薛氏は、米国の懸念は中国の価値観の侵攻への恐れではなく、AI技術の首位の座から中国を引きずり降ろしたいという思惑によるものだと主張しています。

しかし米国は中国の主張を受け入れません。米国防衛の未来タスクフォース議長のセス・モールトン氏は、米国のAI能力強化に向けて国内テック企業を結集させており、「AI軍拡競争」が将来的に中国との紛争につながる可能性さえ否定していません。

世界を巻き込むAI開発競争

中国のAI能力が高まるにつれ、研究者や専門家は、その監視的な価値観がやがて西側諸国に及ぶことを懸念しています。もしそうなれば、マイクロソフトの懸念通り、『1984年』に描かれたディストピア（反理想郷）が現実のものとなるかもしれません。

テクノロジーの進歩は目覚ましく、24時間365日誰かに見張られているような感覚を覚えるのも無理はありません。幸い、私たち個人にもできる対策はあります。たとえば、知らないうちにWebカメラを第三者に乗っ取られていないかを定期的に確認することが挙げられます。