マイクロソフト、「責任ある」デジタルアシスタント開発のためのガイドラインを公開

会話型AIの普及と倫理的課題

マイクロソフトは、開発者が「責任ある」デジタルアシスタントを構築するための一連のガイドラインを公開しました。基盤技術の急速な進歩に伴い、会話型インターフェースの採用は拡大を続けています。しかし一方で、倫理的な懸念への配慮は、技術の進歩ほど速くは進んでいないのが現状です。

マイクロソフトによれば、このガイドラインは、自社の製品が開発者の予想を超えた形で使用される可能性があることを、開発者に改めて認識させることを目的としています。倫理的なデザインはテクノロジー業界において常に重要なテーマですが、会話型インターフェースの場合はとりわけ重要になると同社は指摘しています。

ピザ注文ボットに見る倫理設計のポイント

マイクロソフトは説明の一例として、ピザを注文するボットを挙げています。このようなサービスは、ユーザーの脱線による影響を最小限に抑えながら、ピザの注文をスムーズに完了できるよう設計されるべきです。もしユーザーが人種、性別、宗教、政治といった「センシティブな話題」を持ちかけた場合には、人間の店員と同じように、その話題に深入りしない姿勢が求められます。これを怠ると、ボットのアルゴリズムに潜むバイアスによって、顧客とのやり取りの中で望ましくない振る舞いを学習してしまう恐れがあります。

ガイドラインが求める基本原則

ガイドラインのその他の項目も、同様のテーマに沿って構成されています。全体を通じてマイクロソフトが強調しているのは、開発者が潜在的な問題に留意し続ける限り、ボットは社会にとって有益な存在になり得るという点です。また、組織はボットを利用していることを率直に明示しなければならず、AIを活用したサービスはバイアスを排除し、文化的な規範を尊重するものであるべきだとされています。

「このガイドラインは、設計プロセスのごく初期の段階から、責任があり信頼できる会話型AIの開発を重視しています」と語るのは、マイクロソフトで会話型AIを統括するコーポレート バイス プレジデントのリリ・チェン(Lili Cheng)氏です。「企業や組織に対して、ボットがどのように使われるのかを立ち止まって考え、悪用を防ぐために必要な措置を講じるよう促しています。結局のところ、このガイドラインの核心は『信頼』です。人々がテクノロジーを信頼しなければ、誰も使おうとはしないでしょうから」

ガイドラインの入手方法と今後の展開

ガイドラインの全容は、Microsoft Researchの公式サイトで確認できます。厳格なルールというよりも、ボット開発時に考慮すべき基本的な倫理基準をまとめたものですが、実務上の重要な指針となるでしょう。マイクロソフトは今週、デジタルアシスタントを開発するエンジニア向けのクイックスタートツールキットをはじめとする一連の新しいAI技術とあわせて、このガイドラインを発表しました。