なぜAppleはその写真スキャン機能に戻ったのか？

2021年8月、AppleはiPhoneをスキャンして児童の性的虐待の画像を探す計画を明らかにしました。この動きは、児童保護グループから拍手喝采を浴びましたが、プライバシーとセキュリティの専門家の間で、この機能が悪用される可能性があるという懸念が生じました。

Appleは当初、iOS 15に児童性的虐待資料（CSAM）スキャン技術を含めることを計画していました。代わりに、完全にリリースされる前にフィードバックを求めるために、機能のロールアウトを無期限に延期しました。

では、なぜCSAM検出機能が白熱した議論の対象になったのか、そしてAppleがその展開を延期した理由は何ですか？

Appleの写真スキャン機能は何をしますか？

Appleは、児童の性的虐待と闘うことを期待して、写真スキャン機能を実装することを発表しました。 Appleユーザーのデバイス内のすべての写真は、Appleによって作成された「NueralHash」アルゴリズムを使用して小児性愛者のコンテンツについてスキャンされます。

さらに、子供が使用するAppleデバイスには、子供が受け取った場合に大人の写真を自動的にぼかす安全機能があり、ユーザーがそれらを開こうとすると2回警告されます。

アダルトコンテンツへの露出を最小限に抑えることとは別に、保護者が子供が所有するデバイスを安全性を高めるために登録した場合、子供がオンラインの誰かから明示的なコンテンツを受け取った場合に備えて、保護者に通知されます。

続きを読む：Appleの児童安全保護について知っておくべきこと

Siriを使用して子供を性的にするものを探す大人の場合、Siriはその検索を行わず、代わりに他の選択肢を提案します。

アルゴリズムによって疑わしいと見なされた10枚以上の写真を含むデバイスからのデータは復号化され、人間によるレビューの対象になります。

デバイス内のこれらの写真またはその他の写真が、全米行方不明・搾取児童センターが提供するデータベースのいずれかと一致することが判明した場合、当局に報告され、ユーザーのアカウントは停止されます。

写真スキャン機能に関する主な懸念事項

CSAM検出機能は、2021年9月のiOS 15のリリースで稼働していましたが、広範な抗議に直面して、Appleはフィードバックを収集し、この機能を改善するためにより多くの時間をかけることにしました。遅延に関するAppleの完全な声明は次のとおりです。

「先月、コミュニケーションツールを使用して子供を募集および悪用する捕食者から子供を保護し、児童の性的虐待資料の拡散を制限することを目的とした機能の計画を発表しました。

顧客、擁護団体、研究者などからのフィードバックに基づいて、これらの非常に重要な児童安全機能をリリースする前に、今後数か月にわたって情報を収集し、改善するためにさらに時間をかけることにしました。」

Appleの写真スキャン機能に関連する懸念のほぼ半分はプライバシーに関するものです。残りの議論には、アルゴリズムの不正確さの可能性と、システムまたはその抜け穴の潜在的な誤用が含まれます。

4つの部分に分けてみましょう。

潜在的な誤用

児童ポルノや児童の性的虐待の既知の画像に一致する素材がデバイスを「疑わしい」リストに入れることを知っていると、サイバー犯罪者を動かす可能性があります。

彼らは、iMessage、WhatsApp、またはその他の手段を介して不適切なコンテンツで人を意図的に攻撃し、その人のアカウントを停止させることができます。

Appleは、誤解によりアカウントが停止された場合に備えて、ユーザーが申し立てを行うことができることを保証しています。

インサイダーの悪用

この機能は慈悲深い目的のために設計されていますが、通信の監視に関心のある親戚が、知識の有無にかかわらず、デバイスをシステムに登録すると、特定の人々にとって完全な災害になる可能性があります。

それが起こらなくても、Appleは一日の終わりにユーザーのデータにアクセスできるようにするためのバックドアを作成しました。今では、人々が他の人々の個人情報にアクセスする動機と決意の問題です。

それはプライバシーの重大な侵害を助長するだけでなく、虐待的、有毒、または支配的な親戚、保護者、友人、恋人、世話人、および幹部が誰かの個人的なスペースにさらに侵入したり、彼らの自由を制限したりするための道を開きます。

一方では、それは子供の性的虐待と戦うことを意図しています。一方、それは他の種類の虐待をさらに永続させるために使用することができます。

政府の監視

Appleは常に、競合他社よりもプライバシーに配慮したブランドであると宣伝してきました。しかし今、それは政府によるユーザーデータの透明性の終わりのない要求を満たさなければならないという滑りやすい坂道に入っているかもしれません。

小児性愛者のコンテンツを検出するために作成したシステムは、電話のあらゆる種類のコンテンツを検出するために使用できます。つまり、カルト精神を持った政府は、ユーザーがそれを手に入れれば、より個人的なレベルでユーザーを監視できるということです。

抑圧的であろうとなかろうと、あなたの日常生活や個人的な生活への政府の関与は不安を感じる可能性があり、あなたのプライバシーの侵害です。何か間違ったことをした場合にのみそのような侵入を心配する必要があるという考えは、思考に欠陥があり、前述の滑りやすい坂を見ることができません。

誤警報

画像をデータベースと照合するためにアルゴリズムを使用することの最大の懸念の1つは、誤警報です。ハッシュアルゴリズムは、2つの写真が同じでない場合でも、それらを一致として誤って識別する可能性があります。 「衝突」と呼ばれるこれらのエラーは、児童の性的虐待コンテンツのコンテキストで特に憂慮すべきものです。

Appleが画像のスキャンにアルゴリズムを使用すると発表した後、研究者は「NeuralHash」でいくつかの衝突を発見しました。 Appleは、結果は最後に人間によってレビューされるので、人々はそれについて心配する必要がないことを指摘することによって、誤警報に関する質問に答えました。

AppleのCSAM一時停止は永続的ですか？

Appleが提案する機能には多くの長所と短所があります。それらのそれぞれは本物であり、重量を保持します。批評家を満足させるためにAppleがCSAMスキャン機能にどのような特定の変更を導入できるかはまだ不明です。

ユーザーのデバイスを使用する代わりに、スキャンを共有iCloudアルバムに制限することができます。 Appleは通常、計画を放棄する傾向がないため、これらの計画を完全に破棄する可能性はほとんどありません。

しかし、広範な反発とAppleの計画の延期から、企業は最初から研究コミュニティを組み込む必要があることは明らかです。特に、テストされていないテクノロジーの場合はそうです。