データマイニングの基本概念とは?分類・予測・相関ルール・データ削減を徹底解説
データマイニングとは、リポジトリに保存された大量のデータの中から、統計的手法や数学的手法といったパターン認識技術を用いて、有用な新しい相関関係・パターン・トレンドを発見するプロセスです。事実に基づくデータセットを分析して予期しない関係性を見つけ出すとともに、データの所有者にとって論理的かつ有益な形でレコードを要約することを目的としています。
データマイニングには、主に以下のような重要な概念があります。
1. 分類(Classification)
分類とは、データのクラスや概念を表現し、区別できるようなモデルを構築する手続きのことです。その目的は、クラスラベルが未知であるオブジェクトについて、構築したモデルを使ってそのクラスを予測できるようにすることにあります。
導出されるモデルは、訓練データ(クラスラベルが既知のデータオブジェクト群)の分析結果に基づいて作られます。例えば、過去の顧客データから「退会しそうな顧客」と「継続しそうな顧客」を判別するモデルなどが典型例です。
2. 予測(Prediction)
予測は分類とよく似ていますが、決定的な違いは「将来の値を対象とする」という点です。ビジネスや研究の分野における予測の具体例としては、以下のようなものが挙げられます。
- 3か月後の株価の予測
- 制限速度を引き上げた場合に、翌年の交通事故死亡者数が何%増加するかの予測
- 各チームの統計データの比較に基づく、今秋の野球ワールドシリーズ優勝チームの予測
- 創薬において、特定の分子が製薬会社にとって費用対効果の高い新薬につながるかどうかの予測
3. 相関ルールと推薦システム(Association Rules and Recommendation Systems)
相関ルール(アフィニティ分析とも呼ばれます)は、大規模なデータベース内にある項目同士の一般的な関連パターンを見つけ出すことを目的とした手法です。導出されたルールは、さまざまな形で活用できます。
例えば、スーパーマーケットでは「一緒に購入されやすい商品の組み合わせ」の情報をもとに、売り場の商品配置を最適化したり、週替わりの販促企画や商品のセット販売(バンドリング)に役立てたりできます。
また医療分野でも応用されています。病院のデータベースから、連続する入院時に記録された患者の症状に関する相関ルールを抽出すれば、「ある症状の後にどの症状が現れやすいか」を把握でき、再入院する患者の将来の症状予測につなげることが可能です。
4. データ削減(Data Reduction)
データマイニングは、膨大な規模のデータベースを対象として実行されます。しかし、大量のレコードに対してそのまま分析やマイニングを行うと、処理に非常に長い時間がかかり、現実的ではなくなってしまいます。
そこで用いられるのがデータ削減技術です。これは、元のデータの完全性(整合性)を保ちながら、はるかに小さい容量のデータセット表現を得るための手法です。データを削減することで、ほぼ同等の分析結果を保ったまま、データマイニング処理の効率を大幅に向上させられます。
データ削減の狙いは、データをよりコンパクトに表現することにあります。データサイズが小さくなれば、計算コストの高い洗練されたアルゴリズムも使いやすくなります。削減の対象は、行数(レコード数)の場合もあれば、列数(次元数)の場合もあります。
-
データマイニングにおける外れ値の種類を徹底解説!3つのタイプと検出のポイント
はじめに:データマイニングにおける外れ値とはデータマイニングにおいて、外れ値(アウトライヤー)はデータセット内の他のオブジェクトから大きく逸脱した値やパターンを指します。一見すると「異常なノイズ」のように思えますが、不正検知や故障予測など、実務上きわめて重要な情報を含んでいることも少なくありません。外れ値には複数の種類があり、それぞれ特徴や検出手法が異なります。本記事では、代表的な3つのタイプ——グローバル外れ値・文脈外れ値・集合的外れ値について詳しく解説します。1. グローバル外れ値(大域外れ値)グローバル外れ値とは、与えられたデータセット全体に対して、あるデータオブジェクトが他の大部分のデ
-
プライバシー保護データマイニングとは?主な手法と仕組みを徹底解説
プライバシー保護データマイニングとは プライバシー保護データマイニング(Privacy-Preserving Data Mining)は、データマイニングにおけるプライバシーセキュリティの課題に対応するために生まれた研究分野です。「プライバシー強化データマイニング」や「プライバシー配慮型データマイニング」とも呼ばれています。 この手法の目的は、基礎となる機密性の高いデータ値を開示することなく、正確なデータマイニング結果を得ることにあります。 プライバシーとデータ有用性のトレードオフ 多くのプライバシー保護データマイニングのアプローチでは、データに対して何らかの変換を施すことでプライバシー保護