顔認識技術は人種差別を生むのか?——AIによる人種プロファイリングの実態と課題

顔認識技術は、法執行機関向けの強化アルゴリズムが登場して以来、私たちの想像をはるかに超えるスピードで進化してきました。現在では、混雑した群衆の中から犯罪者を特定するために、警察などの捜査現場で実際に活用されています。この技術は公共の場や街頭に設置された防犯カメラ(CCTV)の映像を取得し、そのデータを機関のアーカイブと照合することで、指名手配された人物の顔を検出します。

さらに、この技術はスマートフォンやウェアラブル端末といった小型デバイスにも組み込まれています。つまり顔認識は、街中での安全を守るだけでなく、スマートデバイスに保存された個人情報を保護する役割も担っているのです。SNSマーケティングの時代において、「フェイスプリント(顔情報)」を広告や宣伝活動に利用することも一般的になり、ショッピングモールや小売店などでは民間による監視も行われています。

こうした観点から見れば、顔認識技術には疑いようのないメリットがあると言えます。しかし一方で、ユーザーのプライバシー、データ保護、そして法と市民の間の透明性に対する脅威として厳しい批判にもさらされています。このような侵襲的な技術については、長所と短所の両方を理解しておくことが大切です。しかし、多くの人が見過ごしがちなもう一つの重大な欠点があります。それが人種プロファイリングと人種差別です。

本記事では、顔認識技術がいかに人種的バイアスと差別を助長しているのか、そしてこの技術がもたらす影響がどれほど深刻なのかを詳しく解説します。

顔認識の仕組み

ステップ1: カメラ、SNSアカウント、メールなどからあなたの写真が取得されます。正面からのプロフィール写真である場合もあれば、群衆の中に写った偶然の一枚である場合もあります。

ステップ2: 顔認識ソフトウェアが、あなたの顔を保存済みのフェイスプリント・データベースと照合します。フェイスプリントは、顔の幾何学的特徴を追跡することによって収集されたものです。

ステップ3: アルゴリズムが、あなたの写真と既知のフェイスプリントとの一致率を算出し、その結果をもとに判断が下されます。

自動化バイアス:顔認識技術の数ある欠陥の一つ

自動化バイアス(オートメーションバイアス)またはマシンバイアスとは、機械のアルゴリズムが入力データの処理段階で特定の偏りを示し、好ましくない結果を出力してしまう現象を指します。これは、アルゴリズムのコードにエラーがある場合、校正用のデータセットが不足している場合、入力値が誤っている場合、あるいは機械の処理能力を超える過剰なデータが入力された場合などに発生します。

人種プロファイリングはどこで起こるのか?

まず、当時はさほど重要視されなかった古い事例から紹介しましょう。2001年、タンパ市はスーパーボウル開催に伴って観光客が街にあふれる中、顔認識ソフトウェアを使った都市監視を実施しました。ニューヨーク・タイムズの報道によると、同ソフトウェアは逮捕状が出ているとみられる19人を特定しましたが、スタジアムの構造上、圧倒的な人混みの中から該当者に接触することができず、逮捕には至らなかったといいます。

この事例自体には人種プロファイリングの兆候は見られませんでしたが、監視技術が初めて市民の自由とプライバシーの侵害という問題に直面した瞬間でした。その後数年で、タンパ市警は結果の信頼性に欠けるとして、これらの監視システムの運用を断念しています。

少し時代を進めると、ガーディアン紙のアリ・ブレランド記者が、ウィリー・リンチという黒人男性の逮捕について報じています。リンチは、有色人種が多数を占めるブレントウッド地区で悪名高い麻薬ディーラーであるとして容疑をかけられました。彼に対する唯一の証拠は、携帯電話に保存されていた写真でした。警察はその写真をデータベースと照合し、彼を犯人と断定したのです。リンチは8年の刑を言い渡され、現在は控訴中です。彼が本当にディーラーだったかどうかは別として、機械による判定結果だけで被疑者の有罪を確定できるのかという懸念は避けられません。

2019年には、トム・パーキンス氏がガーディアン紙で報じたところによると、デトロイト警察が過去2年間にわたり顔認識を用いて逮捕を行っていたことが判明しました。デトロイトは人口の80%以上が黒人の街です。デトロイト警察委員会の黒人委員はこの運用に懸念を示し、黒人特有の顔の特徴がシステムのアルゴリズムに悪影響を与えているとして、これを「テクノ・レイシズム(技術的人種差別)」と呼びました。

2019年、ファビオ・バッキーニ氏とルドヴィーカ・ロルッソ氏が「Journal of Information Communication and Ethics Society」誌上で発表した研究では、生体認証および顔認識システムは法執行にとって100%信頼できるものではなく、人種差別がこうしたシステム全体にネガティブな影響を及ぼし、さらに社会的な逆効果をもたらしていることが明らかになりました。この研究は、監視目的でこれらのシステムが大量に導入されている西洋社会を主な対象としています。

これらは、顔認識システムが引き起こす人種格差が明るみに出たいくつかの事例にすぎません。では、アルゴリズムのコーディング技術がここまで精度を高めているのに、なぜこれほどまでに不正確なのでしょうか?

西側諸国における白人の優位性:白人が支配するテック業界

2014年、Appleをはじめとする大手テック企業の多くが、主に白人男性を採用している実態が明らかになりました。Appleの場合、従業員の55%が白人であり、経営陣に至っては63%が白人でした。同様の多様性レポートを公表していた企業には、Facebook、Google、Twitterも含まれていました。5年後、Wired誌の報道によれば、これらの数字にはほとんど改善が見られなかったのです。

Facebookは一定の改善を見せましたが、Appleの技術職における黒人従業員の割合は全労働力のわずか6%のまま変わりませんでした。米国内の拠点で黒人およびラテン系労働者が42%を占めたのは、Amazonが唯一でした。

この統計が意味するものは何でしょうか?米国では、監視システム向けアルゴリズムの設計のような主要プロジェクトを担当するコーダーの大多数が白人です。製品やサービスに関する最も重要な意思決定を下すのも彼らであり、したがって最終的な成果物には彼らの視点、アプローチ、思考プロセスが反映されることになります。もちろん、これは「白人は人種差別主義者で、意図的に差別的な監視システムを設計した」という意味ではありません。決してそうではありません。

白人の技術者が顔認識アルゴリズムを設計し、相談相手や補助者も白人の同僚ばかりであれば、コードを完成させる前に他の肌の色を持つ人々の顔の特徴を考慮することはないでしょう。白人エンジニアがテック業界を支配している以上、初期コードの作成に使われるデータアーカイブもまた、白人技術者によって作成・調整されているのです。その結果、コードそのものの根幹にある計算アルゴリズムに偏りが組み込まれ、監視結果における人種格差が生じてしまいます。

コードは、白人が体現するものだけを学習します。他の肌の色を持つ誰かの視点や貢献はそこに存在しないのです。

キャリブレーションの問題

米国の法執行機関は、監視とデータトラッキングに大きく依存しています。市民への無許可監視に関する内部告発は後を絶ちません。エドワード・スノーデン氏が暴露したNSA(国家安全保障局)による違法監視は、その典型例です。

これらの監視プログラムは、何百万人もの市民のフェイスプリントやその他の個人情報によって支えられています。フェイスプリントだけ考えてみても、ソーシャルメディア上で写真を公開している米国人は何百万 人もいます。さらに全国の街角には防犯カメラが設置され、何十万人もの通行人の映像をリアルタイムで記録しています。現在、警察のデータベースには約1億1700万枚の画像が登録されており、FBIは4億件を超えるデータセットを監視用顔認識アルゴリズムの校正に使用しています。

ここで、これほど膨大なデータセットを、対象人物の顔の特徴をすべて捉えているかどうかも分からない一枚の画像と照合することを想像してみてください。このような状況では、エラーが発生する可能性は非常に高いのです。一つのフェイスプリントと照合するには、データ量が多すぎます。これほど複雑な校正作業では、どんなアルゴリズムも100%の正確さを保証できません。これが、顔認識技術による人種プロファイリングにさらに拍車をかけているのです。

顔認識への過度な依存

ウィリー・リンチのケースは、法執行の場において顔認識を唯一の証拠とすべきではないことを思い起こさせます。タンパ市警がこの技術を断念したのも同じ理由によるものです。

確かに、顔認識は優れた手段であり、警察にとっても有用です。ボストンマラソン爆破事件の犯人は、監視映像の綿密な分析によって特定されました。しかしそれは、誰かを有罪とする唯一の証拠にはなり得ません。顔認識アルゴリズムの結果を裏付ける補足的な証拠が必要であり、最終的な判断を下す前に必ず自動化バイアスの概念を考慮すべきです。

ハードウェアの問題:モバイルとカメラにおける顔認識

監視カメラシステムとそれに関連するハードウェア・ソフトウェアは、単一の企業によって設計されているわけではありません。これは数十億ドル規模の産業であり、多数の企業が法執行機関からの契約獲得を競っています。これらのシステムの多くは中国メーカー製です。基本的には「最高品質の技術をいかに安く手に入れるか」がすべてであり、だからこそ異なるシステム間で校正の違いが生じたり、監視結果の品質にばらつきが生じたりするのです。多くの監視カメラ用アルゴリズムは、単純な技術的能力の欠如により有色人種の画像を正しく処理できず、結果として人種差別を助長しています。

顔認識による人種差別を引き起こす技術的問題は、AppleのFace ID機能でも確認されています。中国での事例では、iPhone Xの顔認証ロックが二人の中国人同僚を区別できず、機能が役に立たなくなったことが明らかになりました。同様に、二人の黒人を区別できないという報道もありましたが、これは却下されました。先述の通り、Appleの技術チームに占める黒人の割合はわずか6%です。顔認識技術が、私たちの手元にあるデバイスの中にまで人種差別をもたらしうることの明白な例と言えるでしょう。

結論

そうです。顔認識技術には人種差別が内在しており、それは今や周知の事実となっています。こうした問題を是正するために技術は日々進歩していますが、結果は変わらないままです。テクノロジー本来の目的は、技術の進歩と発展という共通の目標のもとで世界を結びつけることにあるはずです。しかし一部の技術は、人種的・共同体的な調和を損なう害をもたらしてしまっています。

現時点で法執行当局ができる最善の策は、そもそも信頼性すら保証されていないアルゴリズムの照合結果だけを根拠に事件を立証しないことです。さらに、職場における多様性と包括性を真剣に受け止め、あらゆる民族の人々が協力して人種格差のない製品を作れるようにすべき時が来ています。世界には何千もの民族が存在し、人々は長年グローバル社会を悩ませてきた人種の壁を乗り越えて成長してきました。その歩みを守るためには、私たちが強く依存する機械にも、同じことを教え込まなければならないのです。