人間性を機械に教えるべきか?

岩の下に住んでいない限り、AI の専門家によって攻撃されている警告に気付いているかもしれません。人間が AI を完全に開発すると、自分自身を再設計し、指数関数的に成長すると主張されてきました。私たちが未来についてまだ何も知らないという事実を否定することはできませんが、これまでに設計およびコーディングした AI は、そうするほど十分に成熟していません。私たちは、子供たちに自分で簡単な決定を下すように教えている初期段階にあります.

出典:techemergence.com

そうすることで、誰がローンを組めるか、車を運転できるか、次の増分を得ることができるか、人間には速すぎるいくつかの観察を行うことができるかを判断するなど、いくつかの単純なタスクに人間が関与することを減らすことができると信じています。しかし、研究者は 1 つの問題に取り組んでいます。それは、機械に道徳について教えるべきかどうかということです。

なぜこれが答えにくい質問なのですか?

実際の決定はプロトタイプの実装よりもはるかに複雑であるため、結論を出すのは困難な作業です。たとえば、シナリオ全体を把握していない限り、または把握するまで、マシンはどのような状況でも公平性について知ることができるでしょうか?私たち人間は、状況のさまざまな側面を見て結論を導き出す超能力を持っていますが、機械は同じように行動しません!

出典:datasciencecentral.com

したがって、技術的には、私たちの機械に人類を誘導することはまだ不可能です!この背後にある理由は、意思決定を行う際にほとんどの場合頼りにしている良心や直感を引き出すにはほど遠いからです。はい、これらのマシンは、ポーカーをプレイしたり、自動化を処理したり、同様の計算を行ったりする点で、私たちよりもはるかに優れていますが、人間の監視が必要です.現時点では、人工知能の運命を決定するために終わりのない議論が行われています。戦う代わりに、次のガイドラインに集中することができます:

倫理的および人間的行動を明示的に定義する

適切に反応するように教えない限り、いくつかの特定の質問に対して明確な回答を提供する必要があります。ただし、私たち自身の倫理についてはまだ確信が持てないため、これには適切なパネルが必要です。違いを脇に置いたとしても、賢明で広く受け入れられる解決策を引き出すことができないことがたくさんあります.

クラウドソーシングによる人間の道徳

発生する可能性のある競合の代替手段を見つけたい場合でも、機械は1つのことに偏ることはありません.状況によっては、彼らの決定が変わる可能性があり、それが再び対立を引き起こす可能性があります.人間が信じてきた信念にアクセスできるようになれば、状況から何かを結論付けるのがより簡単になります.

出典:blog.applovin.com

システムの透明性を高める

現在のシナリオを見ると、これらのマシンの動作を導くニューラル ネットワークはまったく理解できません。したがって、エンジニアが倫理的価値観をどのように教えたかを知っていれば、誰が間違いを犯したかを簡単に知ることができ、理解するのが難しすぎたアルゴリズムを責めることはありません。これは、過ちや経験から学習するため、インテリジェントな自動運転車にとって非常に役立ちます。

これが推奨されるのは、人間が倫理的に動作するマシンに依存する方が簡単だからです。さらに、指針となる原則は、行動の決定を担当する人工エージェントの負担を軽減します。その後、機械と人間が一緒になって決定を下す必要がある場合、共有された道徳的価値が合意と妥協を促進する可能性があるという事実を無視することはできません.

これをよりよく理解するために、例を見てみましょう。専門家グループが決定を下すのに苦労している手術室を視覚化します。さて、彼らを助ける機械があると想像してみてください。まあ、基本的にはそうすることでより強力になります！そして今、これが起こるのが待ちきれません!

どう思いますか？以下のセクションにコメントを残してお知らせください!