统计热力学与速率理论/拉格朗日乘数

约束优化

当对系统施加约束时，拉格朗日乘数 可以被纳入来确定多元函数的最大值。确定此函数在约束条件下最大值的新过程变为

1. 将约束条件写成一个函数。即，$g(x,y)=c$
2. 定义一个新的方程。$f(x,y)+{\alpha }({g(x,y)}-{c})$ 其中 $\alpha$ 是一个未定义的常数
3. 使用之前三个步骤来确定无约束系统最大值，求解这组方程以找到最大值。

例如，假设我们有一个函数 $f(x,y)=-{2x}^{2}-{y}^{2}-{xy}-{10y}$，我们对该函数施加以下约束：$y=x+5$

该约束条件将写成$g(x,y)=x+y=5$

然后我们将根据约束条件定义新的方程为$(-{2x}^{2}-{y}^{2}-{xy}-{10y})+{\alpha }({x}+{y}-{5})$

接下来，我们对 x 和 y 分别求偏导数，并将其设为零，然后解出 x 和 y。

首先，对 x 求偏导数并将其设为零

${\frac {\partial }{\partial x}}[(-{2x}^{2}-{y}^{2}-{xy}-{10y})+{\alpha }({x}+{y}-{5})]=0$

计算将得到

${\alpha }-4x-y=0$

${\alpha }=4x+y$

现在，对 y 求偏导数并将其设为零

${\frac {\partial }{\partial y}}[(-{2x}^{2}-{y}^{2}-{xy}-{10y})+{\alpha }({x}+{y}-{5})]=0$

${\alpha }-x-2y-10=0$

${\alpha }=x+2y+10$

这将导致以下可以求解以确定最大值的方程组

${\alpha }=4x+y$

${\alpha }=x+2y+10$

$x+y=5$

求解这组方程组，在约束条件 $x+y=5$ 下，发现最大值为

$(x,y)=\left({\frac {-35}{8}},{\frac {5}{8}}\right)$

无约束优化

确定无约束系统的最大值遵循非常类似的步骤，只是它不会有拉格朗日乘数，因为系统不受

给定直线的约束，而是系统本身的最大值。求解无约束系统的步骤变为

1. 计算偏导数
2. 将它们设为零
3. 求解变量

例如，给定相同的函数 $f(x,y)=-{2x}^{2}-{y}^{2}-{xy}-{10y}$，首先将计算偏导数为

$({\frac {\partial f}{\partial x}})_{y}=-4x-y$

$({\frac {\partial f}{\partial y}})_{x}=-2y-x$

令两个偏导数都为零

$-4x-y=0$

$-2y-x=0$

最后将求解变量。得到与约束系统不同的最大值

$(x,y)=\left({\frac {10}{7}},{\frac {-40}{7}}\right)$