计量经济学理论/渐近收敛

渐近收敛

收敛模式

概率收敛

概率收敛将在本书后面的内容中成为推导渐近分布的一个非常有用的工具。它与分布收敛一起，将是出现频率最高的收敛模式。

定义

如果随机变量序列 $\{X_{n};n=1,2,\cdots \}$ 概率收敛于 $X_{}$ ，则

\forall \epsilon ,\delta >0,

\exists N\;\operatorname {s.t.} \;\forall n\geq N,

\Pr\{|X_{n}-X|>\delta \}<\epsilon

一个等价的陈述是

\forall \delta >0,

\lim _{n\to \infty }\Pr\{|X_{n}-X|>\delta \}=0

这将写成 $X_{n}{\begin{matrix}{\begin{matrix}{}_{p}\\\longrightarrow \\{}\end{matrix}}\end{matrix}}X$ 或 $\operatorname {plim} X_{n}=X$ 。

示例

$X_{n}={\begin{cases}\eta &1-{\begin{matrix}{\frac {1}{n}}\end{matrix}}\\\theta &{\begin{matrix}{\frac {1}{n}}\end{matrix}}\end{cases}}$

我们将假设这个级数在概率上收敛到退化的随机变量 $\eta$ 。所以我们有：

$\forall \delta >0,\;\Pr\{|X_{n}-\eta |>\delta \}\leq \Pr\{|X_{n}-\eta |>0\}=\Pr\{X_{n}=\theta \}={\begin{matrix}{\frac {1}{n}}\end{matrix}}$

因此，在这种情况下，我们对概率收敛的定义是：

\forall \epsilon ,\delta >0,

\exists N\quad \operatorname {s.t.} \forall n\geq N,

\Pr\{|X_{n}-\eta |>\delta \}\leq \Pr\{|X_{n}-\eta |>0\}=\Pr\{X_{n}=\theta \}={\begin{matrix}{\frac {1}{n}}\end{matrix}}<\epsilon

因此，对于 $\epsilon \in \mathbb {R}$ 的任何正值，我们总能找到一个足够大的 $N\in \mathbb {N}$ ，使得我们的定义得到满足。因此，我们证明了 $X_{n}{\begin{matrix}{}_{p}\\\longrightarrow \\{}\end{matrix}}\eta$ 。

几乎必然收敛

几乎必然收敛与概率收敛有着显著的相似性，然而，这种收敛模式的条件更强；正如我们稍后将看到的，几乎必然收敛实际上意味着该序列也以概率收敛。

定义

如果随机变量序列 $\{X_{n};n=1,2,\cdots \}$ 几乎必然收敛到随机变量 $X$ ，则：

\forall \delta >0,

\lim _{n\to \infty }\Pr\{\bigcup _{m\geq n}|X_{m}-X|>\delta ,\}=0

等价地

\Pr\{\lim _{n\to \infty }X_{n}=X\}=1

在这些条件下，我们使用符号 $X_{n}{\begin{matrix}{\begin{matrix}{}_{a.s.}\\\longrightarrow \\{}\end{matrix}}\end{matrix}}X$ 或 $\lim _{n\to \infty }X_{n}=X\operatorname {a.s.}$ .

示例

让我们看看概率收敛部分中的例子是否也几乎处处收敛。定义

$X_{n}={\begin{cases}\eta &1-{\begin{matrix}{\frac {1}{n}}\end{matrix}}\\\theta &{\begin{matrix}{\frac {1}{n}}\end{matrix}}\end{cases}}$

我们再次猜测收敛于 $\eta$ . 检查得到的结果，我们发现

\Pr\{\lim _{n\to \infty }X_{n}=\eta \}=1-\Pr\{\lim _{n\to \infty }X_{n}\neq \eta \}=1-\Pr\{\lim _{n\to \infty }X_{n}=\theta \}\geq 1-\lim _{n\to \infty }{\begin{matrix}{\frac {1}{n}}\end{matrix}}=1

从而满足了我们几乎处处收敛的定义。

分布收敛

分布收敛将通过中心极限定理的使用在我们计量经济学模型中频繁出现。所以让我们定义这种收敛类型。

定义

一个随机变量序列 $\{X_{n};n=1,2,\cdots \}$ 在分布上渐近收敛到随机变量 $X$ ，如果对于所有连续点， $F_{X_{n}}(\zeta )\rightarrow F_{X}(\zeta )$ 。 $F_{X_{n}}(\zeta )$ 和 $F_{X_{}}(\zeta )$ 分别是 $X_{n}$ 和 $X$ 的累积分布函数。

我们这里关心的是随机变量的分布。考虑学生 t 分布：随着自由度 $n$ 的增加，我们的分布越来越接近高斯分布。因此，随机变量 $Y_{n}\sim t(n)$ 在分布上收敛到随机变量 $Y\sim N(0,1)$ （注意，我们说随机变量 $Y_{n}{\begin{matrix}{}_{d}\\\longrightarrow \\{}\end{matrix}}Y$ 作为一种记号上的辅助，我们真正应该使用的是 $f_{Y_{n}}(\zeta ){\begin{matrix}{}_{d}\\\longrightarrow \\{}\end{matrix}}f_{Y}(\zeta )$ /

示例

让我们考虑分布 X_n，它的样本空间由两个点组成，1/n 和 1，概率相等（1/2）。令 X 为二项分布，其中 p = 1/2。那么 X_n 在分布上收敛到 X。

证明很简单：我们忽略 0 和 1（X 的分布在这些点上不连续），并证明对于所有其他点 a， ${\displaystyle \lim F_{X_{n}}(a)=F_{X}(a)\,}.$ 由于对于 a < 0，所有 Fs 都为 0，而对于 a > 1，所有 Fs 都为 1，因此只需证明 0 < a < 1 时的收敛性。但是 $F_{X_{n}}(a)={\frac {1}{2}}([a\geq {\frac {1}{n}}]+[a\geq 1])$ （使用艾弗森括号），因此对于任意 a 选择 N > 1/a，对于 n > N，我们有

n>1/a\rightarrow a>1/n\rightarrow [a\geq {\frac {1}{n}}]=1\land [a\geq 1]=0\rightarrow F_{X_{n}}(a)={\frac {1}{2}}\,

因此，序列 $F_{X_{n}}(a)\,$ 在所有 _F__{_X_} 连续的点上收敛到 $F_{X}(a)\,$ 。

R 均方收敛

这本书不会使用 R 均方收敛，但为了完整起见，将在下面给出定义。

定义

如果对于任意实数 $r>0$ ，并且假设 $E(|X_{n}|^{r})<\infty$ 对于所有 n 和 $r\geq 1$ ，则随机变量序列 $\{X_{n};n=1,2,\cdots \}$ 在 r 次方平均意义下（或在 $L^{r}$ 范数下）收敛到随机变量 $X$ ，如果

$\lim _{n\to \infty }E\left(\left\vert X_{n}-X\right\vert ^{r}\right)=0.$

Cramer-Wold 器

Cramer-Wold 器将允许我们将随机变量的收敛技术从标量扩展到向量。

定义

随机向量 $\mathbf {X} _{n}{\begin{matrix}{}_{d}\\\longrightarrow \\{}\end{matrix}}\mathbf {X} \;\iff \;{\mathbf {\lambda } }^{\operatorname {T} }\mathbf {X} _{n}{\begin{matrix}{}_{d}\\\longrightarrow \\{}\end{matrix}}{\mathbf {\lambda } }^{\operatorname {T} }\mathbf {X} \quad \forall \lVert \mathbf {\lambda } \rVert \neq 0$ 。