顔認識技術における人種プロファイリング:顔認識は人種差別主義者になりうるか?

顔認識 テクノロジーとその能力は、法執行機関でこのテクノロジーを強化する新しいアルゴリズムが注目を集めて以来、私たちの想像をはるかに超えて成長しています.現在、顔認識技術は法執行機関によってデータ収集プロセスの最下位レベルで使用され、密集した集会の中で犯罪者を特定しています。この技術は、公共の場所や街路にある CCTV カメラの映像を使用し、収集したデータを政府機関のアーカイブと照合して、犯罪で指名手配されている顔を検出します。

この技術は、携帯電話やスマート ウェアラブル デバイスなどの最小のガジェットにも組み込まれています。したがって、路上であなたを保護するだけでなく、スマートデバイスに保存されている個人情報を保護することも目的としています.ソーシャル メディア キャンペーンの現代では、マーケティングや広告の実践に「フェイスプリント」を使用することが一般的になっています。そして、ショッピング モールや小売店などで私的な監視が行われます。

この観点から、顔認識技術の否定できない利点をすぐに指摘できます。しかし、それがユーザーのプライバシー、データ保護、そしてもちろん法律と公衆の間の透明性にもたらす脅威についても精査されてきました.このような侵略的な技術の長所と短所の両方を認識することは良いことです.しかし、顔認識技術には、人々が無視しているように見えるもう 1 つの欠点があります。それは、人種プロファイリングと人種差別です。 .

この記事では、この技術がどのように人種的偏見と差別を助長し、そのような侵略的技術の影響がどれほど深刻であるかを見ていきます.

顔認識の仕組み

ステップ 1: あなたの写真は、カメラ、アカウント、メールなどから取得されます。それは、ストレートなプロフィール写真か、群衆の中でのランダムなスナップです。

ステップ 2: 顔認識ソフトウェアは、保存された顔写真のデータベースを介してあなたの顔を実行します。フェイスプリントは、顔の幾何学的追跡によって収集されます。

ステップ 3: 決定が行われるアルゴリズムを使用して、既知の顔写真に対するあなたの写真の一致率が生成されます。

自動化バイアス:顔認識技術の多くの欠陥の 1 つ

オートメーション バイアスまたはマシン バイアスとは、マシン アルゴリズムが入力データのキャリブレーションで特定のバイアスを示し、好ましくない出力を与えるシナリオを指します。これは、アルゴリズム コードにエラーがある場合、キャリブレーション用に保存されたデータセットが不足している場合、入力値が正しくない場合、または入力データが過剰である場合に発生します。これは、マシンのキャリブレーション能力を超えています。

人種プロファイリングはこれらすべてとどのように関係していますか?

当時は取るに足らないと見なされていた古代の事件から始めましょう。 2001 年、タンパ シティは、2001 年のスーパー ボウルのために観光客が街の通りに殺到したため、混雑した街を監視するために顔認識ソフトウェアを使用しました。 New York Times のレポートによると、このソフトウェアは、未解決の令状を持っていると思われる 19 人を特定しました。しかし、スタジアムのインフラストラクチャが圧倒的な群衆の中で特定された犯人に到達することを不可能にしたため、逮捕は行われませんでした.

この特定のケースでは、人種プロファイリングの兆候はどこにも見られませんでしたが、市民の自由と個人のプライバシーの侵害に対して監視技術が適用されたのはこれが初めてでした.数年後、タンパ警察は信頼できない結果を理由にこれらの監視システムを断念しました.

少し最近のシナリオに早送りすると、アリ・ブレランドはガーディアンに、主に有色人種の近所であるブレントウッド地域で悪名高い麻薬の売人であると非難された黒人のウィリー・リンチの逮捕について報告しました。リンチに対する唯一の証拠は、警察が彼を犯人と判断する前に、警察のデータベースに対して実行された携帯電話の彼の写真でした.リンチは 8 年間の有罪判決を受けており、現在、有罪判決に対して上訴しています。彼が疑惑のディーラーであったかどうかにかかわらず、調査中の誰かの有罪判決を支持するのに機械ベースの結果だけで十分であるかどうかについて、必然的に懸念が生じますか?

2019 年、The Guardian の Tom Perkins が報告したように、デトロイト警察は過去 2 年間、顔認識を使用して逮捕を行っていることが判明しました。デトロイトは、人口の 80% 以上が黒人である場所です。デトロイト警察委員会の黒人メンバーの声明は、この慣行に対する懸念を提起しました。彼は、黒人にはシステムのアルゴリズムを危険にさらす共通の顔の特徴があり、これを「技術的人種差別」と呼んでいる.

Journal of Information Communication and Ethics Society の Fabio Bacchini と Ludovica Lorusso による 2019 年の調査では、これらの生体認証および顔認識システムは法執行機関にとって 100% 信頼できるものではないことがわかりました。さらに、人種差別はそのようなすべてのシステムに悪影響を及ぼし、さらに逆の社会的影響を及ぼします。この研究は特に、そのようなシステムが監視のために広く使用されている西洋社会を対象としています。

これらは、顔認識システムによって引き起こされた人種格差が明るみに出た多くの事例のうちの 3 つにすぎません。しかし、テクノロジのアルゴリズム コーディングのアップグレードで精度が向上しているにもかかわらず、これらのシステムがこれほど無能なのはなぜでしょうか。

西部の州における白人至上主義:白人優位のテクノロジー産業

2014 年には、巨大企業の Apple Inc. を含むテクノロジー企業の大半が、ほとんどが白人の男性従業員を雇用していることが判明しました。 Apple では、従業員の 55% が白人であり、同様に、Apple の経営陣は白人従業員の 63% を占めていました。同様の多様性レポートを共有した企業には、Facebook、Google、および Twitter も含まれていました。 5 年後、Wired のレポートは、これらの数値の改善が最小限であったことを明らかにしました.

フェイスブックはかなりの数の改善を示しましたが、アップルの黒人技術労働者の割合は全従業員のわずか 6% で変化がありませんでした。 Amazon は、米国オフィスで 42% の黒人またはラテン アメリカ人労働者を登録した唯一の組織でした。

これらの統計は何を意味しますか?米国では、監視システムのアルゴリズムの設計などの主要なプロジェクトに割り当てられているコーダーのほとんどが白人です。これらは、会社が立ち上げ/発表する製品またはサービスに関して最も重要な決定を下す人々です.したがって、最終的な創造につながるのは、彼らの視点、アプローチ、および思考プロセスです。これは、白人が人種差別主義者であり、そのような監視システムを意図的に設計したことを意味するものではありません.いいえ!

白人が顔認識アルゴリズムを設計し、白人の同僚だけが相談/支援している場合、コードを完成させる前に、他の色の顔の特徴を持つ人々を考慮しません。白人のエンジニアがテクノロジー業界を支配しているため、最初のコードを準備するために使用されるデータ アーカイブも、白人の技術者によって作成および調整されます。このように、コード自体はコアとなる計算アルゴリズムに偏りを持って作成されており、その結果、監視結果に人種差が生じています。

このコードは、白人が何を体現しているのかを単純に学習します。別の色の人物の視点や貢献はありません。

キャリブレーションの問題

アメリカの法執行機関は、監視とデータ追跡に大きく依存しています。内部告発者が民間人の無許可の監視に関する情報を追放した例が数多くあります。エドワード・スノーデンが明らかにした NSA の違法な監視はその一例です。

これらの監視プログラムは、何百万人もの市民の顔写真やその他の個人情報によって支えられています。顔写真だけを考慮すると、何百万人ものアメリカ人がソーシャル メディア プラットフォームで公然と写真を共有しています。それから、何十万人もの通行人のライブ映像を提供する国のすべての通りに CCTV カメラがあります。現在、警察のデータベースには約 1 億 1,700 万枚の画像があり、FBI には監視用の顔認識アルゴリズムを調整するための 4 億以上のデータセットがあります。

これらのデータセットを、特定の人物のすべての顔の特徴を捉えているかどうかにかかわらず、単一の画像と比較したと想像してください。このようなシナリオでは、エラーが発生する可能性があります。 1 つのフェイスプリントに対して理解して実行するには、データが多すぎます。キャリブレーションが非常に複雑な場合、結果の 100% 保証を保証できるアルゴリズムはありません。これは最終的に、顔認識技術によって引き起こされる人種プロファイリングにつながります.

顔認識の絶大な信頼性

ウィリー・リンチの事件は、法執行に関して証拠として提示される唯一の信頼できる技術が顔認識であってはならないことを思い出させてくれます。これが、タンパ市警察がこの技術を断念した理由です。

確かに、顔認識は優れた手段であり、警察にとって有益です。ボストン マラソン爆撃の犯人は、監視記録の広範かつ詳細な分析を使用して認識されました。しかし、これは有罪判決を下す唯一の証拠にはなり得ません。顔認識アルゴリズムの結果を証明する裏付けとなる証拠が必要であり、最終決定に至る前に自動化バイアスの概念を考慮する必要があります。

ハードウェアのトラブル:モバイルとカメラでの顔認識

監視カメラ システムおよび関連するハードウェアとソフトウェアは、1 つの会社によって設計されたものではありません。それは数十億ドルの価値がある産業であり、数十の企業が法執行機関からの契約を得るために競争しています。これらのシステムの多くは中国のメーカーのものです。最高の品質を備えた最も安価な技術を手に入れることがすべてです。それがほとんどの場合の仕組みです。したがって、さまざまなシステムのキャリブレーションに違いが生じる可能性や、監視結果の品質にばらつきが生じる可能性が常にあります。多くのカメラ監視アルゴリズムは、技術的な無能さのために有色人種の画像を調整するのに効果がなく、人種差別を美化している.

顔認識を介して人種差別を引き起こす技術的な問題は、Apple の Face Lock 機能でも指摘されています。中国のケースでは、iPhone X のフェイス ロックが 2 人の異なる中国人の同僚を区別できず、この機能が役に立たなくなったというものでした。同様の報告は、2人の黒人を互いに分離する機能の問題を理由に却下されました.前述のように、Apple の技術チームに黒人が占める割合はわずか 6% です。これは、ハンドヘルド デバイスでさえ、顔認識技術が人種差別を促進する方法の明確な例です。

結論

はい、顔認識は人種差別主義者であり、それは今や常識です.このような問題を修正するためのテクノロジーは日々進歩していますが、結果はすべて同じです。技術は、技術の進歩と開発という共通の目標をめぐって世界を結び付けるはずですが、一部の技術は人種や共同体の調和に害を及ぼすだけです.

今のところ、法執行官ができる最善のことは、信頼性さえないアルゴリズムのキャリブレーションからの証拠に基づいて事件をサポートしないことです.さらに、職場におけるダイバーシティとインクルージョンが真剣に受け止められ、あらゆる民族の人々が集まって人種格差のない製品を作成できるようになる時が来ています。世界には何千もの人種があり、人々は人種の違いを脇に置くように成長しました。それを維持しなければならないのであれば、私たちが頼りにしている機械にも同じように教えなければなりません.