バックプロパゲーションアルゴリズムとは何ですか？

バックプロパゲーションは、勾配の計算と確率的勾配降下法におけるその必要性の両方を含むプロセス全体を定義します。技術的には、バックプロパゲーションは、ネットワークの変更可能な重みに関するネットワークのエラーの勾配を計算するために使用されます。

バックプロパゲーションの特徴は、トレーニング対象のサービスを実装できなくなるまでネットワークを増やすために更新された重みを計算する、反復的で再帰的かつ効果的なアプローチです。バックプロパゲーションには、ネットワーク設計時に認識されるアクティベーションサービスの派生物が必要です。

バックプロパゲーションはニューラルネットワークのトレーニングで広く使用されており、ネットワークの重みの損失関数を計算します。多層ニューラルネットワークを使用したサービスで、入出力マッピングの内部記述を検出します。

これは、ネットワーク内のすべての重みに関する勾配損失関数の計算をサポートする、人工ネットワークトレーニングの標準形式です。バックプロパゲーションアルゴリズムは、連鎖律法によってニューラルネットワークをより効果的にトレーニングするために使用されます。

この勾配は、誤差を最小化する重みを見つけるために、単純な確率的勾配降下アルゴリズムで使用されます。エラーは出力ノードから内部ノードに逆方向に伝播します。

バックプロパゲーションのトレーニングアルゴリズムには、次の4つの段階があります-

• ウェイトの初期化 −いくつかの小さなランダムな値が割り当てられています。

• フィードフォワード −各ユニットXは入力信号を受信し、この信号を各隠れユニットZ ₁に送信します。 、Z ₂ 、... Z _n 。各隠れユニットは活性化関数を計算し、その信号Z ₁を送信します 各出力ユニットに。出力ユニットは、活性化関数を計算して、指定された入力パターンの応答を形成します。

• エラーのバックプロパゲーション −各出力ユニットはアクティベーションY _kを比較します 目標値T_k そのユニットに関連するエラーを判別します。これは、エラー、係数$ \ delta $ _kに基づいています。 （K =1、... .m）が計算され、出力ユニットY _kでエラーを分散するために使用されます 前のレイヤーのすべてのユニットに戻ります。同様に、係数$ \ delta $ _j （j =1、。。。p）は、非表示のユニットZ _jごとに比較されます。 。

• 重みとバイアスを更新できます。

バックプロパゲーションの種類

バックプロパゲーションには次の2種類があります-

静的バックプロパゲーション −このタイプのバックプロパゲーションでは、静的入力のマッピングのために静的出力が作成されます。光学式文字認識などの静的分類の問題を解決するために使用されます。

再発性バックプロパゲーション − Recurrent Propagationは、特定の決定された値またはしきい値が取得されるまで、前方に向けられるか、または向けられます。特定の値の後、エラーが評価され、逆方向に伝播されます。