武器化された情報とは？その正体・発生源と認知セキュリティによる防御策

トム・ハンクスが本当に5人もの人を殺害したのか？――もちろん、そんなことはない。これは風刺新聞「The Onion」のジョーク記事で、トム・ハンクスは誰も殺していない。ほとんどの人はこの記事が真実ではないとすぐに気づくだろうし、確信が持てなければ、簡単な検索だけで彼の潔白を確認できる。

しかし、もし単発の軽いユーモア記事ではなく、トム・ハンクスを心底嫌う何者かが、この俳優について詳しくない層に向けて、こうした記事を数十本も執筆・拡散していたとしたらどうだろう。それはもはや「武器化された情報」によって実行される認知ハック（コグニティブハック）と言える。要するに、特定の目的を達成するために、あなたの脳内にある情報を書き換えようとする試みだ。

こうした手法は現実世界の出来事に影響を与えてきた実績があり、時には命に関わる結果をもたらすことさえある。人々がデマやプロパガンダに騙されてきたのは、コミュニケーションが存在した頃から変わらない。しかし、精密なターゲティングとほぼ瞬時の拡散が可能になったのは、ごく最近の現象だ。

QAnon（キューアノン）陰謀論のような事例は、偽情報がいとも簡単に人々を操るために使われ得ることを示しているし、2016年の米大統領選挙前後に注目を集めたフェイクニュースの流行は、今なお大きな懸念材料であり続けている。大多数の人は基本的に騙されないため、パニックになるほどのことではない。だが、ニッチな集団への的確なターゲティングが容易になるにつれ、テクノロジーを活用してより良い「認知セキュリティ」を実現する方法を考えておく価値は十分にある。

「武器化された情報」とは何か？

武器化された情報とは、以下のチェック項目のうち1つ以上に該当するあらゆる情報のことだ。

• 意図的に偽造されている、または誤解を招くものである
• 意見、行動、真実についての認識に影響を与えることを目的としている
• 特定の集団をターゲットにし、彼らを欺くよう設計されている
• プロパガンダ、フェイクニュース、風刺、陰謀論などに分類できる
• 主にソーシャルメディアやニッチなサイトを使って拡散される
• ボットネットによる自動拡散や捏造されたコメント・情報源によって、人気度や正当性を装っている場合がある
• 特定の政治的意図を推し進めるため、あるいは既存の社会対立につけ込んで金銭を稼ぐために作成される

ひとことで言えば、武器化された情報とは「無制限の広告」だと考えればよい。広告も特定のグループにターゲットを絞り、製品に対する印象を変えることを狙っているが、通常は露骨な嘘まではつかない。「タバコは体にいい！」といった広告は、その逆が証明されている以上、通用しない。一方、武器化された情報は、あなたに関するどんなデータでも自由に利用でき、真実性の最低基準など存在しない。

これは誰の武器なのか？

場合によっては、武器化された情報のキャンペーンを、単一の組織が実際に指揮していることもある。ロシアが偽情報戦争における主要な勢力の一つであることを示す証拠が相次いでおり、政治目的で情報を武器化している他の主体も存在する可能性が高い。ただし、この業界は匿名性が極めて高いため、どれが主に政治目的で運用されたのかを見極めるのは難しい。しかも、非常に儲かるビジネスになり得るため、問題はさらに複雑になっている。

フェイクニュースが儲かるビジネスである最大の理由は、社会に既存する対立の増幅器として機能するからだ。人々が言い争う話題はクリックを集める。そしてそれらはたいてい政治的に敏感なテーマなので、政治目的で武器化された情報と、マケドニアのどこかで広告収入目当てに書かれた情報を区別することはほぼ不可能だ。まるで魚を捕まえるために湖へダイナマイトを投げ込むようなものだ。あなたにとってダイナマイトは金稼ぎの道具に過ぎないが、湖の生態系から見れば、誰かが攻撃を仕掛けたことに他ならない。

情報はどのように「武器化」されるのか？

RAND研究所のランド・ウォルツマンは、情報を武器化するプロセスを次のように説明している。

1. 政治的立場、趣味、関心など、あらゆる基準に基づいてターゲット集団をコミュニティやグループに分解する
2. 各コミュニティの中で、偽情報を信じ込みやすい人物を特定する
3. コミュニティを分析し、彼らがどのようにコミュニケーションを取っているかを把握する
4. コミュニティの会話によく登場する物語（ナラティブ）を洗い出す
5. 自らの見解を押し進める独自のナラティブを設計し、彼らが集まるメディアを通じてコミュニティに注入する
6. コミュニティを監視し、人々の反応に応じてメッセージを調整する

これこそが、風刺やクリックベイトと武器化された情報を分ける要素だ。意図がどうであれ、偽情報の作り手には、影響を受けやすいコミュニティを見つけて標的にするためのプロセスが必要となる。ターゲット集団の行動に関する情報が多ければ多いほど効果は上がる。これこそが、Cambridge Analyticaのようなデータ流出事件が深刻な懸念とされる理由の一つだ。

認知セキュリティ

武器化された情報の拡散に対抗する方法は大きく分けて2つある。広く拡散される前に食い止めるか、個人がそれを見抜けるように教育するかだ。Facebook、Google、Twitterなどの大手企業はプラットフォームから偽の記事を削除する取り組みを行っており、他のスタートアップ企業もそれぞれ貢献している。しかし、これは終わりのないいたちごっこであり、品質管理と検閲の間には微妙な境界線が存在する。オンライン上で情報を武器化することが、金銭的にも政治的にも利益を生み出し続ける限り、その生産が止むことはまずないだろう。

とはいえ、読者の識別力を高める取り組みと組み合わせれば、こうしたツールによって武器化された情報の拡散と影響を大幅に抑えられる可能性がある。フェイクニュースへの警戒心を高める取り組みはすでにさまざまなレベルで行われているが、残念ながらこれもまた軍拡競争だ。オンライン上の武器化された情報の最大の強みの一つは、オーディエンスにほぼ瞬時に適応できる点にある。人々が情報源を確認し始めたら、少しのデザイン変更で、より信頼できる外見を作り上げることは容易なのだ。

武器化された情報は、実際以上に恐ろしく聞こえる

長期的に見れば、最も強力な認知セキュリティの資産は、普通の人間の脳だ。武器化された情報は恐ろしげに響くが、不可逆的なマインドウイルスではない。最も影響を受けやすいのは、もともと事実とは異なる信念を抱いていた傾向のある人たちであり、そうした人は昔から常に一定数存在してきたのである。