Appleはなぜ写真スキャン機能（CSAM検出）の導入を延期したのか？

2021年8月、AppleはiPhone内の画像をスキャンし、児童性的虐待の記録（CSAM：Child Sexual Abuse Material）を検出する計画を発表しました。この動きは児童保護団体から大きな支持を集めた一方で、プライバシーやセキュリティの専門家たちからは「悪用される恐れがある」と強い懸念の声が上がりました。

当初、AppleはこのCSAM検出技術をiOS 15に搭載する予定でしたが、正式リリース前に幅広いフィードバックを募るため、導入を無期限に延期することを決定しました。

では、なぜCSAM検出機能はこれほど激しい議論の的となり、Appleは導入を見送ることになったのでしょうか？

Appleの写真スキャン機能とは？何をするもの？

Appleは児童性的虐待と闘うことを目的に、写真スキャン機能の実装を発表しました。ユーザーのデバイス内にあるすべての写真が、Apple独自開発の「NeuralHash」というアルゴリズムを使ってスキャンされ、不適切なコンテンツが検出されます。

さらに、子どもが使用するAppleデバイスには安全機能が組み込まれており、不適切な画像を受信した場合には自動的にぼかしがかけられ、開こうとした際には2回にわたって警告が表示される仕組みです。

不適切なコンテンツへの露出を最小限に抑えるだけでなく、保護者が子どものデバイスを追加の安全対策として登録していれば、子どもがオンラインで露骨なコンテンツを受け取った際に保護者へ通知が届きます。

Siriについても、子どもを性的な対象とするようなコンテンツの検索要求には応じず、代わりの情報を提案するようになっています。

そして、アルゴリズムによって10枚以上の疑わしい写真が含まれていると判断されたデバイスのデータは復号化され、人間によるレビューが実施されます。

その写真やデバイス内の他の画像が、全米行方不明・被害児童センター（NCMEC）が提供するデータベースと一致した場合には当局へ通報され、該当ユーザーのアカウントは停止されるという流れです。

写真スキャン機能をめぐる主な懸念点

CSAM検出機能は、2021年9月のiOS 15リリースとともに提供される予定でした。しかし、世間の広範な反発を受け、Appleは時間をかけてフィードバックを収集し、機能の改善を図ることを決断しました。以下は、延期に関するAppleの公式声明です。

「先月、通信ツールを利用して子どもを勧誘・搾取する加害者から子どもを守り、児童性的虐待資料（CSAM）の拡散を抑制することを目的とした機能の導入計画を発表しました。
お客様、支援団体、研究者をはじめ多くの方々からのフィードバックを踏まえ、これら極めて重要な児童保護機能をリリースする前に、今後数ヶ月かけて意見を収集し、改善を行うことに決めました」

この機能に対する懸念の約半数はプライバシーに関連するもので、残りはアルゴリズムの精度への疑問や、システムの悪用・抜け穴の可能性に関するものです。

ここでは、4つの観点から詳しく見ていきましょう。

1. 第三者による悪用の可能性

「児童ポルノや既知の虐待画像に一致するデータがあれば、デバイスが『疑わしい』リストに入る」という仕組みを知れば、サイバー犯罪者が動き出す可能性は十分にあります。

例えば、iMessageやWhatsAppなどを通じて意図的に不適切な画像を送りつけ、標的のアカウントを停止させるといった攻撃が考えられます。

Appleは「誤解によるアカウント停止の場合は異議申し立てが可能」と説明していますが、被害を受けた側の手間や精神的負担は無視できません。

2. 身近な人による監視（内部者による悪用）

善意の目的で設計されたこの機能も、使い方次第では特定の人にとって深刻な事態を招きかねません。例えば、通信を監視したい親族が、本人の了承の有無にかかわらずデバイスを登録してしまうケースです。

仮にそれがなくても、Appleは結果的にユーザーデータへアクセス可能な「バックドア」を作り出したことになります。あとは、他人の個人情報にアクセスしようとする人の動機と執着の問題です。

これは重大なプライバシー侵害を助長するだけでなく、支配的・虐待的な親族、保護者、恋人、元パートナーなどが、さらに対象者の個人空間を侵害したり自由を制限したりする道を開いてしまいます。

一方では児童性的虐待と戦うための仕組みでありながら、他方では別の形の虐待を助長する道具にもなり得る——この矛盾こそが最大の論点の一つです。

3. 政府による監視への懸念

Appleは常に「競合他社よりもプライバシーを重視するブランド」であることを誇ってきました。しかしこの機能は、政府による終わりのないデータ開示要求に応え続けなければならない「滑りやすい坂道」へ足を踏み入れる第一歩になるかもしれません。

未成年者への不適切なコンテンツを検出するために構築されたシステムは、理論上、スマートフォン内のあらゆる種類のコンテンツを検出する用途にも転用できます。つまり、監視主義的な政府の手に渡れば、より個人的なレベルでの市民監視が現実のものとなります。

抑圧的な政権であろうとなかろうと、政府が個人の日常生活に介入すること自体が不安材料であり、プライバシー侵害です。「何か悪いことをしていない限り心配ない」という考え方は根本的に誤りであり、前述の滑りやすい坂道を見落としています。

4. 誤検知（フォールスポジティブ）の問題

アルゴリズムで写真をデータベースと照合する方式における最大の懸念の一つが、誤検知です。ハッシュアルゴリズムは、実際には同じ画像ではない2つの写真を誤って一致と判断することがあります。こうしたエラーは「コリジョン（衝突）」と呼ばれ、児童性的虐待コンテンツの文脈では特に深刻な問題となります。

実際、AppleがNeuralHashを採用すると発表した後、研究者たちはこのアルゴリズムに複数のコリジョンが存在することを発見しました。Appleは誤検知に関する指摘に対し、「最終的には人間が結果を確認するため心配は不要」と回答しています。

AppleのCSAM延期は恒久的なものなのか？

Appleが提案した機能には、確かな根拠を持った賛否両論が数多く存在します。批判者たちを納得させるために、AppleがCSAMスキャン機能にどのような具体的な変更を加えるのかは、現時点ではまだ明らかになっていません。

一つの選択肢としては、ユーザーのデバイス本体ではなく、共有iCloudアルバムにスキャン対象を限定する方法が考えられます。ただし、Appleは基本的に計画を簡単に撤回しない企業風土のため、この構想を完全に放棄する可能性は低いと見られています。

しかし、今回の広範な反発とApple自身の導入保留から読み取れる教訓は明確です。特に未検証の新技術については、企業は開発の初期段階から研究コミュニティを巻き込み、社会的合意を形成すべきだということです。