SlaughterBots(スローターボッツ)――ディストピアの未来が迫っている

先日、人工知能(AI)がもたらすメリットについて取り上げたばかりですが、興味深いことに今朝、「キラーロボット阻止キャンペーン」で知られる団体「Future of Life Institute(生命の未来研究所)」が公開した、悪夢のようでありながら示唆に富む動画に出会いました。この短編映画『Slaughterbots(スローターボッツ)』は、自律型兵器開発の暗黒面に対する世間の意識を高めることを目的とした作品です。

一部の人にとっては少し不気味でゾッとする映像かもしれませんが、同時に切実な問いを投げかけています。「私たちの偉大な技術的進歩は、いったいどこへ向かおうとしているのか?」

フィクションだと一蹴する人もいるかもしれませんが、実際に存在する高度な軍事技術に目を向ける価値は十分にあります。あらかじめ警告しておきますが、AI黙示録への漠然とした恐れが、一気に現実味を帯びてくるかもしれません。それでは見ていきましょう。

自律型兵器とは何か

自律型兵器とは、人間のオペレーターによる指示を受けずに、軍事目標を選択・攻撃するよう設計された軍用ロボットの一種です。「Lethal Autonomous Weapons(致死性自律型兵器)」「LAWS」「自律型ロボット兵器」などとも呼ばれ、より分かりやすく言えば「キラーロボット」と称されます。

これらの兵器は、空中、陸上、水上、水中、さらには宇宙空間でも活動できます。現時点では、完全に自律化された一部の防衛システムを除き、攻撃には依然として相当程度の人間の介入が必要とされています。

人工知能は自律型兵器の中核を支える技術です。恐ろしいのは、状況を自ら判断し決定を下せる高度なシステムを備えているという点です。当然ながら、これは私たちの安全保障と自由にとって深刻な脅威となり得ます。

Slaughterbots(スローターボッツ)とは

Slaughterbotsとは、映画に登場するロボットドローンシステムの名称で、人間の介入なしに人を殺害できる能力を持つドローンの発展形です。手のひらサイズの自律型ドローンであり、顔認識システムと搭載爆薬を備え、痕跡をほとんど残さない虐殺を実行することができます。

動画は、国防の強化を目的として爆薬を搭載可能な自律型小型ドローンを発表する記者会見の場面から始まります。しかし、その後に展開されるのが最も恐ろしい部分です。この技術兵器が悪意ある者の手に渡り、政治家、政治活動家、そして学生たちを標的とする暗殺ツールとして使用されたら――どうなるのか。

注目すべきは、Slaughterbotsに使われている技術が、今日すでに実用化されているものばかりだという点です。顔認識、自動標的捕捉、人工知能、武装航空ドローン、回路の小型化など、いずれも現存する技術です。

技術力こそが人類滅亡の原因となるのか?

この問いに答えるのは容易ではありません。多くの人にとって科学は人類を助けるためのものですが、一方で、その技術を人類破壊の武器として利用する者も確かに存在します。動画で描かれた惨劇は今日の時点ではまだ実現していませんが、技術開発の現在の軌跡に従えば、そうした日が遠くない将来に訪れる可能性は否定できません。

この動画は、自律型キラーロボットに満ちたディストピア的未来を描くことで、私たちへの架空の警告を発することを意図して作られました。カリフォルニア大学バークレー校のスチュアート・ラッセル教授とFuture of Life Instituteによる共同制作です。

未来を守るための試み

この動画は、スイス・ジュネーブで開催される国連通常兵器会議(CCW)における自律型兵器に関する協議の時期に合わせて、意図的に今週公開されました。これは、研究者たちが自律型兵器システムの世界的禁止に向けた支持を広げようとする試みの一環です。

Future of Life Instituteは、科学者やビジネスリーダーのグループによって設立された非営利団体で、イーロン・マスク氏や故スティーブン・ホーキング博士といったAIのリスクを警鐘する有識者からの支援を受けています。先端技術がもたらす実存的リスクの軽減に取り組んでいます。現在、国連安保理の常任理事国5カ国すべてを含む125カ国が、同条約の決議を尊重することを誓っています。

また、対ドローン技術の開発に取り組む企業は複数あり、各国政府も、特にドローン群(スウォーム)の形でAIがもたらしうる潜在的な脅威を十分に認識しています。

「キラーロボット阻止キャンペーン」は今週の国連会議でイベントを開催し、飛行型ドローン、無人戦車、自動哨戒銃などとして開発されうる致死性自律型兵器の世界的禁止を提案し、国際社会に警鐘を鳴らそうとしています。

動画の結びで、スチュアート・ラッセル教授は次のように語っています。

「あなたが今見た未来を防ぐ機会は、私たちにはまだ残されています。しかし、行動できる窓は急速に閉ざされつつあります。機械に人間を殺すかどうかを選択させることは、私たちの安全保障と自由にとって壊滅的な結果をもたらすでしょう。」