データマイニングにおける単一属性評価器とは？主な種類と特徴を徹底解説

単一属性評価器（Single-Attribute Evaluator）は、データマイニングにおいて各属性を個別に評価するための手法です。Rankerなどの検索手法と組み合わせて使用され、属性のランキングリストを作成し、そこから指定された数の属性を選択または除外します。また、RankSearchメソッドの中でも活用されています。

Relief Attribute Eval（インスタンスベース型）

Reliefはインスタンスベースの評価器で、ランダムにサンプリングしたインスタンスについて、同一クラスおよび異なるクラスの近傍インスタンスを調査します。離散型・連続型のどちらのクラスデータにも対応しているのが特徴です。パラメータとしては、サンプリングするインスタンス数、チェックする近傍インスタンスの数、距離に応じた重み付けの有無、そして距離が増すにつれて重みが指数関数的に減衰する度合いを制御する指数関数などを設定できます。

InfoGain Attribute Eval（情報利得）

クラスとの関係から各属性の情報利得（Information Gain）を計算し、それに基づいて属性を評価します。数値属性については、事前にMDL（最小記述長）ベースの離散化手法を用いて離散化されます。この手法と後述の3つの手法では、欠損値を独立した値として扱うか、あるいは他の値の出現頻度に比例してカウントを配分するかを選択できます。

Chi-Squared Attribute Eval（カイ二乗）

クラスとの関係におけるカイ二乗統計量を計算することで、属性を評価します。

Gain-Ratio Attribute Eval（利得率）

クラスに対する利得率（Gain Ratio）を計算することで、属性を評価します。

Symmetrical Uncert Attribute Eval（対称不確実性）

クラスに対する対称不確実性（Symmetrical Uncertainty）を計算することで、属性を評価します。

OneR Attribute Eval

OneR分類器で採用されているシンプルな正解率尺度を利用した評価器です。OneRと同様に訓練データをそのまま計算に使用することもできますし、内部で交差検証を行うことも可能です（フォールド数はパラメータとして指定できます）。さらに、OneRの簡易な離散化手法を採用することもでき、その際の最小バケットサイズもパラメータとして設定できます。

SVM Attribute Eval（サポートベクターマシン）

線形サポートベクターマシン（SVM）を用いた再帰的特徴除去（Recursive Feature Elimination）によって属性を評価します。属性は係数の大きさに基づいて1つずつ選択され、除去のたびにモデルが再学習されます。

段階的な削除戦略

実際には、一定の割合で属性を削除し続け、残りが一定数に達した時点で固定数方式へ切り替えるアプローチが採られます。これにより、まず大量の属性を素早く除去し、その後残った属性をより綿密に検討することが可能になります。

サポートベクターマシンには複数のパラメータが引き渡されます。具体的には、複雑さ（complexity）、イプシロン（epsilon）、許容誤差（tolerance）、そして使用されるフィルタリング手法などです。

Principal Components（主成分分析）

Principal ComponentsとLatent Semantic Analysisは、属性の集合そのものを変換する手法です。主成分分析の場合、新しく生成された属性（主成分）は固有値の降順でランキングされます。オプションとして、分散の一定割合（デフォルトでは95%）を説明できるだけの固有ベクトルを選択することで、部分集合を抽出できます。さらに、次元削減後のデータを元の空間へ逆変換することも可能です。

Latent Semantic Analysis（潜在意味解析）

潜在意味解析（LSA）は、訓練データに対して特異値分解（SVD）を適用します。特異値分解は主成分分析と関連が深く、どちらも元の属性値の線形結合からなる方向（軸）を生成します。ただし、両者には違いがあります。LSAは属性間の相関行列や共分散行列ではなく、元のデータ値そのものを含む行列から計算される点が特徴です。