信号处理/最速下降算法
< 信号处理
最速下降算法是一种古老的数学工具，用于根据函数的梯度数值地找到函数的最小值。最速下降使用梯度函数（或者如果函数是单值的，则使用标量导数）来确定函数增加或减少最快的方向。算法的每次迭代都沿着此方向移动一个指定的步长，然后重新计算梯度以确定要移动的新方向。
最速下降方法是信号处理中的一种有用工具，因为它可以迭代应用。
我们可以将最速下降算法应用于维纳滤波器，以便在每个新步骤中我们都可以计算出一组新的滤波器系数。使用最速下降法，我们可以以相对较少的迭代次数逼近最小误差值，并且我们可以跟踪随时间变化的信号，以便将新的最小系数应用于信号的每个新版本。重要的是使用最速下降或其他快速最小化算法，以便滤波器系数可以比下一个输入样本到达更快地更新。
最速下降算法可以表述如下
[最速下降算法]
![{\displaystyle \mathbf {a} (n+1)=\mathbf {a} (n)+\mu ;[\nabla J(\mathbf {a} )]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/0be7c47750ddbecd8c7fefcf12a1baf2dad84b47)
为了数学上的方便，通常在添加额外的 1/2 项是有用的
![{\displaystyle \mathbf {a} (n+1)=\mathbf {a} (n)+{\frac {1}{2}}\mu ;[\nabla J(\mathbf {a} )]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/e87b5a787648067cf4cfd9ce7d35f45b632e591e)
我们可以将最速下降算法应用于维纳滤波器，以便在每次迭代中，抽头权重向量a将逼近最佳维纳抽头权重向量ao。如果p是滤波器输入x(n)和期望响应d(n)之间的互相关向量，如果R是滤波器输入u(n)的互相关矩阵，那么应用最速下降算法，我们得到
![{\displaystyle \mathbf {a} (n+1)=\mathbf {a} (n)+\mu [\mathbf {p} -\mathbf {R} \mathbf {a} (n)]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/813804f9cf9b3531cb06b26ec1774f859f2ce25a)
此更新算法特别方便，因为它可以并行化互相关计算的大部分内容。
最速下降算法有可能发散或变得不稳定，除非
和
其中 λk 是R的特征值。如果满足这两个条件，算法应该收敛到最佳值。
μ 的较高值将导致算法更快地收敛。