微积分/牛顿法

牛顿法（也称为牛顿-拉弗森方法）是一种递归算法，用于逼近可微函数的根。我们知道用于寻找线性和二次方程的根的简单公式，并且还有一些用于三次方程和四次方程的更复杂公式。曾经有人希望能够找到用于五次方程和更高次方程的公式，但后来由尼尔斯·亨利克·阿贝尔证明，这样的方程不存在。牛顿-拉弗森方法是一种用于逼近任意阶数多项式方程的根的方法。事实上，该方法适用于任何方程，无论是否为多项式，只要函数在所需区间内可微。

牛顿法 令$f(x)$ 是一个可微函数。选择一个点$x_{0}$，它基于对根的第一次近似，任意接近函数的根。然后使用以下公式递归计算以逼近根： $x_{n+1}=x_{n}-{\frac {f(x_{n})}{f'(x_{n})}}$ 随着递归计算，$x_{n+1}$ 通常会成为函数根的越来越好的近似值。

为了解释牛顿法，假设$x_{0}$ 已经非常接近$f(x)$ 的一个零点。我们知道，如果我们只查看非常接近$x_{0}$ 的点，那么$f(x)$ 看起来像它的切线。如果$x_{0}$ 已经接近$f(x)$ 为 0 的位置，并且在$x_{0}$ 附近我们知道$f(x)$ 看起来像它的切线，那么我们希望$x_{0}$ 处切线的零点比$x_{0}$ 本身是一个更好的近似值。

过点 $x_{0}$ 的函数 $f(x)$ 的切线的方程为：

$y=f'(x_{0})\cdot (x-x_{0})+f(x_{0})$

现在我们令 $y=0$ 并解出 $x$ 。

$0=f'(x_{0})\cdot (x-x_{0})+f(x_{0})$

$-f(x_{0})=f'(x_{0})\cdot (x-x_{0})$

${\frac {-f(x_{0})}{f'(x_{0})}}=(x-x_{0})$

$x={\frac {-f(x_{0})}{f'(x_{0})}}+x_{0}$

我们认为这个 $x$ 值应该是 $f(x)=0$ 的一个更好的近似值。我们称这个 $x$ 值为 $x_{1}$ ，经过简单的代数运算，我们得到

$x_{1}=x_{0}-{\frac {f(x_{0})}{f'(x_{0})}}$

如果我们的直觉是正确的，并且 $x_{1}$ 实际上是 $f(x)$ 的根的更好近似值，那么我们的逻辑应该同样适用于 $x_{1}$。我们可以看看在 $x_{1}$ 处的切线为零的地方。我们称之为 $x_{2}$，根据上面的代数，我们得到了公式

$x_{2}=x_{1}-{\frac {f(x_{1})}{f'(x_{1})}}$

我们可以一直这样做，只要我们愿意。在每一步中，如果你的当前近似值是 $x_{n}$，我们的新近似值将是 $x_{n+1}=x_{n}-{\frac {f(x_{n})}{f'(x_{n})}}$。

示例

求函数 $f(x)=x^{2}$ 的根。

图 1：牛顿法应用于 $y=x^{2}$ 的几个迭代，从 $x_{0}=4$ 开始。蓝色曲线是 $f(x)$。其他实线是各个迭代点的切线。

${\begin{aligned}x_{0}&=&4\\x_{1}&=&x_{0}-{\frac {f(x_{0})}{f'(x_{0})}}=4-{\frac {16}{8}}=2\\x_{2}&=&x_{1}-{\frac {f(x_{1})}{f'(x_{1})}}=2-{\frac {4}{4}}=1\\x_{3}&=&x_{2}-{\frac {f(x_{2})}{f'(x_{2})}}=1-{\frac {1}{2}}={\frac {1}{2}}\\x_{4}&=&x_{3}-{\frac {f(x_{3})}{f'(x_{3})}}={\frac {1}{2}}-{\frac {\frac {1}{4}}{1}}={\frac {1}{4}}\\x_{5}&=&x_{4}-{\frac {f(x_{4})}{f'(x_{4})}}={\frac {1}{4}}-{\frac {\frac {1}{16}}{\frac {1}{2}}}={\frac {1}{8}}\\x_{6}&=&x_{5}-{\frac {f(x_{5})}{f'(x_{5})}}={\frac {1}{8}}-{\frac {\frac {1}{64}}{\frac {1}{4}}}={\frac {1}{16}}\\x_{7}&=&x_{6}-{\frac {f(x_{6})}{f'(x_{6})}}={\frac {\frac {1}{256}}{\frac {1}{8}}}={\frac {1}{32}}\end{aligned}}$

可以看到，$x_{n}$ 逐渐逼近 0（我们知道这是 $f(x)$ 的根）。可以以任意精度逼近函数的根。

答案：$f(x)=x^{2}$ 在 $x=0$ 处有一个根。

说明

图 2：牛顿法应用于函数
$f(x)={\begin{cases}{\sqrt {x-4}},&{\text{for }}x\geq 4\\-{\sqrt {4-x}},&{\text{for }}x<4\end{cases}}$
从 $x_{0}=2$ 开始。

当 $f'(x)=0$ 时，此方法会失效。在这种情况下，应该选择一个新的起点。有时会发生 $f(x)=0$ 和 $f'(x)=0$ 有一个共同的根。为了检测是否属实，我们应该首先找到 $f'(x)=0$ 的解，然后检查 $f(x)$ 在这些地方的值。

牛顿法也不一定能对每个函数都收敛，例如

$f(x)={\begin{cases}{\sqrt {x-r}},&{\text{for }}x\geq r\\-{\sqrt {r-x}},&{\text{for }},x<r\end{cases}}$

对于这个函数，选择任何 $x_{1}=r-h$ 则 $x_{2}=r+h$ 将会导致连续的近似值来回交替，因此无论迭代多少次，我们都无法比第一次猜测更接近根。

图 3：牛顿法应用于函数 $f(x)=x^{5}-x+1$，初始猜测为 $x_{0}=0$，最终会在上面显示的三个点之间迭代。

如果函数有一个局部最大值或最小值没有穿过 x 轴，牛顿法也可能无法收敛到一个根。例如，考虑 $f(x)=x^{5}-x+1$，初始猜测为 $x_{0}=0$。在这种情况下，牛顿法会被这个函数所迷惑，因为它会向 x 轴倾斜，但在初始猜测附近不会穿过 x 轴。

另请参阅

• 维基百科：牛顿法
• 维基教科书
• 维基百科：阿贝尔-鲁菲尼定理