ナイーブベイズ分類はなぜ「ナイーブ（単純）」と呼ばれるのか？

ベイズ分類器とは

ベイズ分類器は統計的分類器の一種で、あるサンプルが特定のクラスに属する確率（クラス所属確率）を予測することができます。大規模データベースに適用した場合でも高い精度と処理速度を発揮することで知られています。

分類ルールの決定

クラスが定義されると、システムはその分類を支配する規則を推論し、各クラスの記述（特徴付け）を見つけ出す必要があります。この記述は訓練セットの予測属性のみに基づくものであり、正例（ポジティブな例）だけがその記述を満たし、負例（ネガティブな例）は満たさないものでなければなりません。ある規則が「正しい」とみなされるのは、その記述があるクラスのすべての正例をカバーし、負例を一切カバーしない場合です。

ナイーブベイズ分類の仕組み

すべての属性の寄与が相互に独立であり、かつ分類問題に対してそれぞれが等しく寄与すると仮定する、シンプルな分類手法が「ナイーブベイズ分類」です。個々の「独立した」属性の寄与を分析して条件付き確率を求め、異なる属性が予測に与える影響を組み合わせることで、最終的な分類を行います。

なぜ「ナイーブ（単純）」と呼ばれるのか

ナイーブベイズ分類が「ナイーブ（単純）」と呼ばれるのは、クラス条件付き独立性を仮定しているためです。これは、ある属性値が特定のクラスに与える影響は、他の属性値とは無関係であるとみなすという考え方です。実際のデータでは属性間に相関関係が存在することが多いため、この仮定は非現実的に思えます。しかし、この仮定を置くことで計算コストを大幅に削減できるため、「単純（ナイーブ）」な手法と見なされているのです。

ベイズの定理

X をデータタプルとします。ベイズ理論の用語では、X は「証拠（エビデンス）」と見なされます。H を何らかの仮説、たとえば「データタプル X が特定のクラス C に属する」という仮説とします。データを分類する際に求められるのが確率 P(H|X) です。これは、「証拠」すなわち観測されたデータタプル X が与えられた条件下で、仮説 H が成り立つ確率を表します。

事後確率 P(H|X)

P(H|X) は、X を条件とする H の事後確率です。たとえば、データタプルの集合が「年齢」と「収入」という属性で記述される顧客に限定されているとし、X を「年齢30歳・収入20,000Rsの顧客」とします。さらに、H を「その顧客がコンピュータを購入する」という仮説としましょう。このとき P(H|X) は、顧客の年齢と収入が既知であるという条件下で、顧客 X がコンピュータを購入する確率を表しています。

事前確率 P(H)

P(H) は H の事前確率です。たとえば、年齢や収入などの情報に一切依存しない、「任意の顧客がコンピュータを購入する確率」に相当します。事後確率 P(H|X) は、X に依存しない事前確率 P(H) よりも多くの情報に基づいている点が大きな違いです。

P(X|H) と P(X)

同様に、P(X|H) は H を条件とする X の事後確率であり、ここでは「顧客 X が30歳で収入20,000Rsである確率」を意味します。

P(H)、P(X|H)、P(X) はいずれも与えられたデータから推定することができます。そしてベイズの定理は、これらの値から求めたい事後確率 P(H|X) を計算する方法を提供します。式は次のとおりです。