訊號處理/最速下降演算法
< 訊號處理
最速下降演算法是一種古老的數學工具，用於根據函式的梯度數值地找到函式的最小值。最速下降使用梯度函式（或者如果函式是單值的，則使用標量導數）來確定函式增加或減少最快的方向。演算法的每次迭代都沿著此方向移動一個指定的步長，然後重新計算梯度以確定要移動的新方向。
最速下降方法是訊號處理中的一種有用工具，因為它可以迭代應用。
我們可以將最速下降演算法應用於維納濾波器，以便在每個新步驟中我們都可以計算出一組新的濾波器係數。使用最速下降法，我們可以以相對較少的迭代次數逼近最小誤差值，並且我們可以跟蹤隨時間變化的訊號，以便將新的最小系數應用於訊號的每個新版本。重要的是使用最速下降或其他快速最小化演算法，以便濾波器係數可以比下一個輸入樣本到達更快地更新。
最速下降演算法可以表述如下
[最速下降演算法]
![{\displaystyle \mathbf {a} (n+1)=\mathbf {a} (n)+\mu ;[\nabla J(\mathbf {a} )]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/0be7c47750ddbecd8c7fefcf12a1baf2dad84b47)
為了數學上的方便，通常在新增額外的 1/2 項是有用的
![{\displaystyle \mathbf {a} (n+1)=\mathbf {a} (n)+{\frac {1}{2}}\mu ;[\nabla J(\mathbf {a} )]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/e87b5a787648067cf4cfd9ce7d35f45b632e591e)
我們可以將最速下降演算法應用於維納濾波器，以便在每次迭代中，抽頭權重向量a將逼近最佳維納抽頭權重向量ao。如果p是濾波器輸入x(n)和期望響應d(n)之間的互相關向量，如果R是濾波器輸入u(n)的互相關矩陣，那麼應用最速下降演算法，我們得到
![{\displaystyle \mathbf {a} (n+1)=\mathbf {a} (n)+\mu [\mathbf {p} -\mathbf {R} \mathbf {a} (n)]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/813804f9cf9b3531cb06b26ec1774f859f2ce25a)
此更新演算法特別方便，因為它可以並行化互相關計算的大部分內容。
最速下降演算法有可能發散或變得不穩定，除非
和
其中 λk 是R的特徵值。如果滿足這兩個條件，演算法應該收斂到最佳值。
μ 的較高值將導致演算法更快地收斂。