Microsoft は、デジタル アシスタントを構築する開発者向けのガイドラインを公開しています

Microsoft は、開発者が「責任ある」デジタル アシスタントを構築するのに役立つ一連のガイドラインをリリースしました。基礎となるテクノロジーが急速に改善される中で、会話型インターフェイスの採用が拡大しています。ただし、倫理的な懸念事項の検討は、より遅いペースで進んでいます。

マイクロソフトによると、このガイドラインは、開発者が常に予測できない方法で製品が使用される可能性があることを開発者に思い出させることを目的としている.倫理的な設計は常にテクノロジ業界に関連していますが、会話型インターフェイスの場合は特に重要です。

Microsoft は、ピザ注文ボットの例を使用しました。このサービスは、ユーザーの気を散らす可能性を最小限に抑えて、ピザの注文を容易にするように設計する必要があります。ユーザーが人種、性別、宗教、政治などの「デリケートなトピック」について議論しようとする場合、サービスは、人間のピザ サーバーとほぼ同じ方法で関与することを控える必要があります。そうしないと、ボットのアルゴリズムに偏りがあり、顧客から望ましくない行動を学習する可能性があります。

ガイドラインの残りの部分は、同様のテーマに沿って続きます。全体として、Microsoft は、開発者が潜在的な問題に注意を払い続ければ、ボットは社会にとって良いものになり得ると強調しています。組織は、ボットの使用について率直でなければなりません。 AI を利用したサービスは、偏見がなく、文化的基準を尊重する必要があります。

マイクロソフトの会話型 AI 担当コーポレート バイス プレジデントであるリリ チェン (Lili Cheng) は、次のように述べています。 「彼らは企業や組織に、ボットがどのように使用されるかを立ち止まって考え、悪用を防ぐために必要な措置を講じることを奨励しています。結局のところ、ガイドラインはすべて信頼に関するものです。なぜなら、人々がテクノロジーを信頼しなければ、彼らはそれを使うつもりはありません。」

ガイドラインの完全なリストは、Microsoft Research の Web サイトで確認できます。これらは厳密な規則ではありませんが、ボットを開発する際に考慮すべき基本的な倫理基準を要約しています。マイクロソフトは今週、デジタル アシスタントを作成する開発者向けのクイック スタート ツールキットを含む新しい一連の AI テクノロジと共にガイドラインを公開しました。