動径基底関数ネットワークとは何ですか？

フィードフォワードネットワークの一般的なタイプは、動径基底関数（RBF）ネットワークです。入力層を数えずに2つの層があり、隠れユニットが計算を実装する方法で多層パーセプトロンとは対照的です。

各非表示ユニットは、入力スペース内の特定のポイントと、そのポイントとインスタンスの間の距離（異なるポイントのみ）に基づいて、特定のインスタンスの出力またはアクティブ化を大幅に定義します。これらの2つのポイントが近いほど、アクティベーションが向上します。

これは、非線形変換関数を利用して距離を類似度に変更することで実装されます。この目的には、通常、隠しユニットごとに幅を変えることができるベル型のガウスアクティベーションサービスが使用されます。特定の非表示ユニットが同様のアクティブ化を行うインスタンス領域内のポイントが超球または超楕円形を形成するため、非表示ユニットはRBFと呼ばれます。

RBF構造の出力層は、多層パーセプトロンの出力層に似ています。これは、隠れユニットの出力の線形セットを取り、分類の問題では、シグモイド関数を通過します。

このようなネットワークが理解するパラメーターは、R​​BFの中心と幅、および隠れ層から取得された出力の線形セットを設計するために使用される重みです。多層パーセプトロンに対する本質的な利点は、パラメーターの最初のグループを2番目のグループとは独立して決定し、正確な分類子を作成できることです。

パラメータの最初のグループを決定する1つの方法は、クラスタリングを使用することです。単純なk-meansクラスタリングアルゴリズムを適用して、各クラスを個別にクラスタリングし、各クラスのk基底関数を取得できます。

パラメータの2番目のグループは、最初のパラメータを一定に保つことによって理解されます。これには、線形回帰やロジスティック回帰などのアプローチの1つを使用して単純な線形分類器を学習することが含まれます。トレーニングインスタンスよりも隠しユニットの数がはるかに少ない場合、これは迅速に実行できます。

RBFネットワークの制限は、属性の重みパラメーターが完全な最適化プロセスに含まれていない限り、距離の計算ですべてが等しく考慮されるため、各属性に同様の重みを提供することです。

したがって、多層パーセプトロンに対して不適切な属性を効率的に処理することはできません。サポートベクターマシンも同様の問題を共有しています。ガウスカーネル（つまり、「RBFカーネル」）を備えたサポートベクターマシンは、RBFネットワークの明確な方法であり、1つの関数が各トレーニングインスタンスに集中し、すべての基底関数が同様の幅を持ち、出力は計算によって線形にマージされます。最大マージンハイパープレーン。これにより、一部のRBFは、サポートベクターを定義する重みがゼロ以外になります。