テクノロジー企業への警鐘――倫理と信頼回復が問われる時代

Cambridge Analytica(ケンブリッジ・アナリティカ)騒動は、Uber、Twitter、Apple、Google、そして何よりもFacebookといった大手テクノロジー企業をめぐる一連の論争の中で、最新の話題となりました。完全なデジタル化の時代へと進みつつある今、こうした事件は私たちのテクノロジー企業に対する信頼を損なうばかりです。私たちは彼らのサービスや製品に慣れ親しみ、依存し、そして脆弱になっています。「利用されている」という感覚すら抱くようになり、こうした事件はまさにその懸念を裏付ける結果となっています。

よく使われる比喩とは異なり、有害な製品を供給するタバコ会社とテクノロジー企業を同一視すべきではありません。しかし事実として、テクノロジー企業はプライバシーを弱め、偏見を増幅させ、心理的な弱点につけ込み、ハラスメントを助長し、注意力の散漫を悪化させ、政治的な対立を煽ってきました。一方で、彼らの提供するツールは市民生活・経済・社会・個人の幸福を確かに向上させており、単純に切り捨てることはできません。それでも、サービスが持つあらゆるメリットにもかかわらず、テクノロジー企業は公衆の信頼を一度ならず、何度も裏切ってきたのです。

信頼性には倫理が伴います。企業がユーザーの信頼を取り戻したいのであれば、多大な努力が必要です。今後の実践において、倫理の欠落を埋めていくことが求められます。本記事では、特に改善が必要な重要分野である「製品インフラにおける倫理」について考察します。あわせて、テクノロジー企業にとって倫理遵守が難しい理由を検証し、現状改善のための方策を提案します。その前に、まず自明の疑問に答えておきましょう。倫理は本当にテクノロジー企業のユーザーデータへの向き合い方を変えるのでしょうか? データ搾取を食い止めるために、ユーザー側の行動にも抜本的な変化が必要なのでしょうか?

倫理は単なる道徳的な説教にすぎないのか?

テクノロジー企業は、私たちのデータがどのように使われ、生活にどのような影響を与えているのかについて、責任を持って議論すべきです。『ブラック・ボックス・ソサエティ』の著者であり、業界を代表する思想家の一人であるフランク・パスクアーレ(Frank Pasquale)氏は、膨大なユーザーデータを保有するテクノロジー企業は、政府による厳格な規制が課されない限り、ユーザープライバシーの尊重について真剣に議論しないだろうと指摘します。自主規制だけでは、市民は依然としてテクノロジー企業に搾取され、欺かれ、操作され続けるというのです。

パスクアーレ氏はこう語ります。「規制の枠組みが強制しない限り、テクノロジー企業がこうした議論に真面目に取り組むことはないと思う。彼らは自社ガイドラインの杜撰な運用による危険性について警告を受けていたのに、批判者を無視したり軽視したりしてきた」。実際、Facebookのような企業は、人工知能・自動化・エンジニアリングを体系的に過大評価する一方で、倫理・法的専門知識・コンプライアンスを過小評価してきました。

パスクアーレ氏はまた、ある出来事を思い起こさせます。2011年から2012年にかけて第三者アプリによるデータ漏洩防止を担当していたサンディ・パラキラス(Sandy Parakilas)氏は、重大な漏洩リスクについて上層部に警告したにもかかわらず、対応する権限を与えられませんでした。彼は「データ保護に対する同社の甘い姿勢は、重大なデータ漏洩につながる」と伝えていたのです。こうした実態を踏まえれば、公衆はどうすれば企業を信頼し、「今度こそ倫理的な懸念を持つ従業員の声に耳を傾ける用意がある」と信じられるのでしょうか?

膨大な顧客データへのアクセスを握るテクノロジー企業は、権力に酔っているように見えます。自分たちも失敗しうるという事実を完全に否定しがちなのです。さらに、テック大手は規制当局・消費者・株主など多くの「主人」に仕えており、その利害はしばしば対立します。公衆は市場を支える良心的な資本主義に反対しているわけではありません。しかし、厳しい強制規制を避けたいのであれば、企業は自らの組織構造に倫理を組み込むべきです。

一方で、もし企業が今回のCambridge Analytica騒動をきっかけに、ついに自らの在り方を内省するようになったとしたら? スパイダーマンの格言――「大きな力には、大きな責任が伴う」――をようやく実感したとしたら、どうでしょうか。

なぜ製品設計が倫理にとって重要なのか?

企業が信頼を取り戻す決意があるなら、まず理解すべきは、倫理的な革命に向けて製品やサービスの設計を見直す時期が来たということです。

サービスに関わる設計上の問題は、テクノロジー企業に対する公衆の信頼を損ないます。難解で入り組んだ利用規約は、私たちの周りに「無知の壁」を作り出します。さらに、設計上の選択はプラットフォームに反映され、私たちの好みに沿って支援するためではなく、企業が私たちを搾取しやすくするために活用されています。企業はそれに合わせてデザインや広告戦略をカスタマイズしているのです。

FacebookのVP(バイスプレジデント)であるアンドリュー・“ボズ”・ボズワース(Andrew “Boz” Bosworth)氏がリークしたメモは、テックユーザーから最大限の個人データを抽出できるよう、設計上の選択が最適化されていたことを示すものでした。

このメモを知ったウッドロー・ハーツォグ(Woodrow Hartzog)氏は、「Facebookのデザインのあらゆる側面が、『ユーザーに共有を止めさせず、その過程で心地よさを感じさせる』という使命に向けて歪められているのが、少し見えやすくなった」と述べました。さらに同氏は、「このデザインがこれほど重要な倫理問題となっているのは、法や政策がこれまでほとんど触れてこなかったからだ。立法者はデータ処理に目を向けるが、デジタル技術の設計に関するルールをあまりにも軽視しがちだ。私たちはあらゆる面でもっと良い取り組みができるはずで、それは自分たちの道具がどのように作られているかにもっと批判的になることから始まる」と続けています。

厳密に言えば、製品設計の問題が蔓延しているのは、政策立案者がユーザーの利益を軽視してきたためです。現状を改善するには、プライバシー価値に関する新しい設計指針をテック各社が受け入れる必要があります。そのためには、テック大手自身が「自社の倫理は正しい」という自己正当化の幻想を払拭しなければなりません。企業はかつてないほどの透明性を求められているのです。

テクノロジー企業は、「価値観の多様性、ユーザーの多様性、さまざまなプライバシー設定の好みがあるため、強い基準を適用するのは難しい」と主張します。確かに一部のユーザーは受け入れないかもしれません。しかし、必ずしも正しいとは言えないこの弁明は、ユーザーデータを適正に管理する責任から企業を免除するものではありません。それは、世間の注目を浴びたいのに、社会の模範となる義務は果たそうとしないセレブのようなものです。

テクノロジー企業が大規模にユーザーの行動へ影響を及ぼす製品やサービスを提供する限り、世界に放つ力に対する責任を受け入れるべきです。

責任には複数の次元がありますが、ハーツォグ氏によれば、テクノロジー企業は次の3つの重要な基準を設定すべきだとされます。

• 信頼の向上――操作を減らし、透明性を高めることで信頼を育む
• ユーザーの秘密の尊重――個人データの共有において、ユーザーが選択的に振る舞える力を与える
• 尊厳の尊重――完全な自律性を促進し、ユーザーを混乱させる手法を放棄する

テクノロジー企業がビジネス倫理を重視し、多数のユーザー向けにサービスや製品を開発する際の真剣な要素として位置づけるべき時が来ました。それこそが、公衆の信頼を取り戻す唯一の方法です。政治家も一般の人々も、テクノロジー企業が生み出し続ける問題行動に苛立ちを募らせています。テクノロジー企業が信頼性の向上に向けて再考し始めたように見えるものの、それを実現するための仕組みは依然として不足しています。いずれにせよ、傲慢さ、強欲さ、組織の近視眼は、もはや公衆にも政府にも容認されないのです。