跳到内容

计量经济学理论/最小二乘法

来自维基教科书,开放的书籍,开放的世界

最小二乘法的定义

[编辑 | 编辑源代码]

称为最小二乘法的比较方法基于这样一个事实,即差异可以是正的或负的,但实数负数的平方总是正的。因此,如果有几个差异,所有这些差异的平方和就是这些项目之间距离的指标,并且最佳“拟合”是平方差之和最小的那个,这种比较方法称为最小二乘法

最小二乘估计

[编辑 | 编辑源代码]

例如,一个实验在时间 0、1、2 时分别产生了值 2、5、4。令 x 为时间,y 为获得的实际结果。首先,我们将 y 与直线在时间 x 处的值进行比较;将这些值称为 y1,由 y1=2+x 给出,为 2、3 和 4

  x   y | y1   y2   y3
  0   2 |  2   2.7   2
  1   5 |  3   3.7   5
  2   4 |  4   4.7   4

在时间 x=0 时,差值 d=y-y1=0,其平方 d2=0,到目前为止 d2 的总和为 0。在时间 x=1 时,差值 d=y-y1=2,其平方 d2=4,到目前为止 d2 的总和为 4。在时间 x=2 时,差值 d=y-y1=0,其平方为 0,所有 d2 的总和为 4。

尝试另一条直线,y2=2.7+x,得到的差值为 2-2.7=-0.7,平方为 0.49;下一个是 5-3.7=1.3,平方为 1.69,以及 4-4.7=-0.7,平方为 0.49。所有平方的总和为 0.49+1.69+0.49=2.67,小于 4,是到目前为止的最小二乘法

现在让我们尝试一个二次方程,y3=2+5x-2x(平方),其值如上所示。此处差值的平方和为 0,是所有平方中最小的,因此是最佳拟合。

普通最小二乘法

[编辑 | 编辑源代码]

广义最小二乘法

[编辑 | 编辑源代码]

非线性最小二乘法

[编辑 | 编辑源代码]
华夏公益教科书