SVMの特徴は何ですか？

かなりの精査を受けた分類アプローチは、サポートベクターマシン（SVM）です。このアプローチは、統計的学習理論にルーツがあり、手書きの数字の識別からテキストの分類まで、いくつかの実用的なアプリケーションで有望な経験的結果を示しています。

SVMは高次元データでも動作し、次元の呪いの問題を防ぎます。このアプローチの2番目の要素は、サポートベクターと呼ばれるトレーニングインスタンスのサブセットを使用して決定境界を定義することです。

SVMは、線形分離可能なデータでこのタイプの超平面を明示的に表示するように準備できます。これは、SVM方法論を非線形分離可能なデータに継続する方法を表示することで実現できます。データセットは線形分離可能です。つまり、超平面の片側にあるすべての正方形と、異なる側にあるすべての円を含む超平面を検出できます。

線形モデルの容量は、そのマージンに反比例します。マージンが小さいモデルは、マージンが大きいモデルとは異なり、動的で一部のトレーニングセットに適合できるため、容量が大きくなります。 SRMの原則に従って、容量が増加すると、汎化誤差の限界が増加する可能性があります。したがって、最悪の場合の汎化誤差を減らすために、決定境界のマージンを最大化する線形分類器を作成することが望ましいです。

線形SVMは、最大マージン分類器と呼ばれる、マージンが最も高い超平面をチェックする分類器です。 SVMがそのような境界をどのように学習するかを学習でき、線形分類器の決定境界とマージンに関する予備的な分析から始めることができます。

SVMには次のようなさまざまな特性があります-

SVM学習問題は、凸最適化問題として編成できます。この問題では、効果的なアルゴリズムにアクセスして、目的関数のグローバル最小値を検出できます。ルールベースの分類器や、貪欲ベースのアプローチを使用して仮説領域を検索する人工ニューラルネットワークなど、さまざまな分類方法があります。このような方法は、局所的に最適なソリューションの検索にのみ影響します。

SVMは、決定境界のマージンを拡大することによって容量制御を実装します。ユーザーは、使用するカーネル関数のタイプや、各スラック変数を提供するためのコスト関数Cなど、いくつかのパラメーターを指定する必要があります。

SVMは、データに示されている各カテゴリ属性値のダミー変数を学習することにより、カテゴリレコードに使用できます。たとえば、結婚歴に単一、既婚、離婚などの3つの値があり、各属性値のバイナリ変数を学習できる場合。