アソシエーションパターンの評価方法とは?客観的・主観的な興味深さの基準を解説
アソシエーション分析のアルゴリズムは、膨大な数のパターンを生成する可能性があります。例えば、データセットに含まれる項目がわずか6個であっても、特定のサポート度と確信度のしきい値において、数千件ものアソシエーションルール(相関ルール)が作り出されることがあります。
実際のビジネスデータベースは規模も次元も非常に大きくなりやすいため、抽出されるパターンは数千件、さらには数百万件に達することも珍しくありません。しかも、その中にはあまり価値のないパターンが多数含まれています。そのため、「どのパターンが本当に興味深いのか」を見極めることは決して簡単な作業ではありません。ある人にとって不要な情報が、別の人にとっては貴重な発見になることもあるからです。
この課題に対応するためには、アソシエーションパターンの品質を測定するための、広く受け入れられた一連の評価基準を整備することが不可欠です。
客観的な評価基準(統計的な観点)
最初の評価基準は、統計的な議論から導き出すことができます。互いに無関係な項目同士で構成されるパターンや、ごく少数のトランザクションしかカバーしないパターンは、データ中の偽の関連性(見かけ上の相関)を反映している可能性があるため、興味がないものとして扱われます。
このようなパターンは、データから導出された統計量に基づいてパターンの興味深さを判定する「客観的な興味深さ尺度」を使うことで除去できます。客観的興味深さ尺度の代表例としては、以下のようなものが挙げられます。
- サポート度(support)
- 確信度(confidence)
- 相関(correlation)
主観的な評価基準(ドメイン知識の観点)
もう一つの評価基準は、主観的な議論に基づくものです。あるパターンが、データに関する予期しない新たな知見を提供するか、あるいは収益につながる実用的な知識を裏付けるものでない限り、主観的には興味がないと判断されます。
例えば、「{バター} → {パン}」というルールは、サポート度や確信度が高かったとしても、その関係があまりに自明であるため、興味深いとは言えません。
一方、「{おむつ} → {ビール}」という有名なルールは興味深いとされます。この関係は直感に反する予想外のものであり、小売業者にとって新しいクロスセル(併売)施策のヒントになり得るからです。
ただし、こうした主観的な知識をパターン評価に組み込むのは容易な作業ではありません。ドメイン専門家による大量の事前知識が必要となるためです。
主観的知識を組み込むための3つのアプローチ
パターン発見のプロセスに主観的知識を取り入れる手法として、代表的なものは次の3つです。
1. 可視化(Visualization)
このアプローチでは、人間のユーザーが分析プロセスに関与し続けられる、使いやすい環境が必要です。ドメイン専門家が発見されたパターンを実行・検証しながらデータマイニングシステムと対話できるため、直感的な判断を評価に反映できます。
2. テンプレートベースのアプローチ
このアプローチでは、ユーザーがマイニングアルゴリズムによって抽出されるパターンの種類を制約できます。抽出されたすべてのルールを提示するのではなく、ユーザーが指定したテンプレートに合致するルールだけを結果として返します。
3. 主観的興味深さ尺度
概念階層や要素の利得閾値といったドメイン知識に基づいて、主観的な尺度を定義できます。この尺度を用いることで、自明であり実行可能なアクションにつながらないパターンをフィルタリングできます。
-
データウェアハウス設計とは?基本概念と4つの設計視点を解説
データウェアハウスとはデータウェアハウスとは、複数の情報源からデータを収集・管理し、ビジネスにおける重要なインサイト(洞察)を支えるための仕組みです。経営層の意思決定を支援することを目的として特別に構築されており、日常業務で使われる運用データベースとは切り離して管理されます。データウェアハウスシステムは複数のアプリケーションシステムの統合を実現し、分析用に統合された過去のレコードを蓄積する堅牢なプラットフォームを提供することで、データ処理を支えます。データウェアハウスは、リモートにある基盤データ上に定義された「マテリアライズドビュー(実体化ビュー)」の集合体と捉えることができます。クエリが発行
-
ステガノグラフィの用途とは?データ隠蔽技術の7つの活用シーンを解説
ステガノグラフィ(Steganography)とは、データを隠す技術であり、埋め込まれたデータの「存在そのもの」を秘匿することを目的とした技術です。暗号化はメッセージの内容を隠すだけで、メッセージが存在している事実までは隠せません。その点、ステガノグラフィは存在ごと隠せるため、より高度な情報保護手法といえます。元のメッセージは画像や音声などの「カバー媒体」の中に見えない形で埋め込まれ、媒体に生じる変化は外観上ほとんど判別できません。ここでは、ステガノグラフィの主な用途を7つに分けて紹介します。1. 検閲や追跡を回避した通信ステガノグラフィを利用すれば、検閲を受けることなくニュースやデータを送信