UMD 概率资格考试/2011 年 1 月 概率

问题 1

一个人玩一个无限的游戏序列。他以概率$1/{\sqrt {n}}$赢得第$n$局游戏，与其他游戏无关。 (i) 证明对于任何$A$，玩家连续赢得两局游戏时每次获得一美元，他将积累$A$美元的概率为 1。 (ii) 如果玩家只有在连续赢得三局游戏时才获得一美元，那么 (i) 中的断言是否成立？证明或反驳它。

解决方案

(i): 将玩家的游戏定义为无限序列$\omega =\{\omega _{1},\omega _{2},...\}$，其中每个$\omega _{k}$等于 1（对应于获胜）或 0（对应于失败）。

定义随机变量$\tau _{k}:\Omega \to \mathbb {N}$ 为

$\tau _{k}(\omega )=\{\#{\text{ times }}\omega _{j}=\omega _{j-1}=1,\,\forall 2\leq j\leq k\}$，即$\tau _{k}$计算玩家在前$k$局游戏中获得了多少次连续两次胜利。因此，玩家在前$k$局游戏中将赢得$\tau _{k}$美元。显然，$\tau _{k}$是可测量的。此外，我们可以计算期望值

$E[\tau _{k}(\omega )]=\sum _{j=2}^{k}{\frac {1}{\sqrt {j}}}{\frac {1}{\sqrt {j-1}}}.$

现在观察当我们发送 $k\to \infty$ 时会发生什么。

$E[\lim _{k\to \infty }\tau _{k}(\omega )]=\lim _{k\to \infty }\sum _{j=2}^{k}{\frac {1}{\sqrt {j}}}{\frac {1}{\sqrt {j-1}}}=\infty$

因此无限游戏的预期收益也是无限的。这意味着玩家几乎可以肯定地超过 $A$ 的收益。

(ii): 定义所有内容与之前相同，只是这次 $\tau _{k}(\omega )=\{\#{\text{ times }}\omega _{j}=\omega _{j-1}=\omega _{j-2}=1,\,\forall 3\leq j\leq k\}.$

然后 $E[\tau _{k}(\omega )]=\sum _{j=2}^{k}{\frac {1}{\sqrt {j}}}{\frac {1}{\sqrt {j-1}}}{\frac {1}{\sqrt {j-2}}}.$ 这给出了 $E\left[\lim _{k\to \infty }\tau _{k}(\omega )\right]<\infty .$ 因此我们不能断言超过任何给定收益的概率将等于1。

问题 2

一个袋子里有10枚硬币。其中5枚是普通硬币，一枚硬币有两面都是正面，四枚硬币有两面都是反面。你从袋子里取出一枚硬币，看它的一面，发现是反面。请问这枚硬币是普通硬币的概率是多少？

解决方案

这只是一个直接应用贝叶斯定理的问题。令 $N$ 表示你取出一枚普通硬币的事件。令 $T$ 表示你得到反面的事件。

根据贝叶斯定理，

$P(N|T)={\frac {P(N\cap T)}{P(T)}}={\frac {5/20}{13/20}}=5/13.$

在普通硬币上看到反面的概率， $P(N\cap T)$ 是 5/20，因为普通硬币上有五枚反面，而所有正面共有 20 枚。看到反面的概率是 13/20（5枚普通硬币 + 2*4 枚双反面硬币）。

问题 3

令 $X_{n}$ 为状态空间为 $N$ 的马尔可夫链，其转移概率为 $P(z,z^{2})=P(z,z-1)=1/2$ 对于 $z\geq 2$，$P(z,z+1)=1$ 对于 $z=1$. (i) 找到一个严格单调递减的非负函数 $f:\mathbb {N} \to \mathbb {R} ^{+}$ 使得 $f(X_{n})$ 是一个上鞅。 (ii) 证明对于每个初始分布 $P\left(\lim _{n\to \infty }X_{n}=+\infty \right)$

解决方案

(i) 令 $P$ 为马尔可夫转移矩阵。我认为对于任何初始概率分布 $\mu$，那么 $E[\mu ]\leq E[\mu P]$.

证明：考虑初始分布为奇异的情况，即 $\mu =\chi _{n}$。显然我们可以看到 $n=E[\chi _{n}]$。然后 $E[\chi _{n}P]=2$ 如果 $n=1$，并且对于 $n\geq 2$ 我们有 $E[\chi _{n}P]=1/2(n-1)+1/2(n^{2})\geq n$.

现在令 $f(n)=1/n$. 我们想计算 $E[f(X_{t})-f(X_{s})|{\mathcal {F}}_{s}]$ 对于 $t>s$.

$E[f(X_{t})-f(X_{s})|{\mathcal {F}}_{s}]=E[f(X_{s}P^{t-s})]-E[f(X_{s})]=E[1/(X_{s}P^{t-s})]-E[1/(X_{s})]\geq 0$ 其中最后一个不等式来自我们上面的论点。这表明 $f(X_{s})$ 是一个上鞅。

问题 4

令 $\xi _{n}$ 是独立同分布的随机变量，满足 $P(\xi _{n}=-1)=P(\xi _{n}=1)=1/2$. (i) 证明级数 $\sum _{n=1}^{\infty }e^{-n}\xi _{n}$ 以概率 1 收敛。 (ii) 证明 $\xi =\sum _{n=1}^{\infty }e^{-n}\xi _{n}$ 的分布是奇异的，即集中在勒贝格测度为零的集合上。

解决方案

(i) 注意到

$\left|\sum _{n=1}^{\infty }e^{-n}\xi _{n}\right|\leq \sum _{n=1}^{\infty }e^{-n}={\frac {1}{1-e}}.$ 因此该级数是有界的。此外，它必须是柯西序列。实际上，对于任何$\epsilon >0$，我们可以选择足够大的$N$，使得对于每一个$n,m>N$，$\sum _{k=n}^{m}e^{-k}<\epsilon .$ 因此，级数$\sum _{n=1}^{\infty }e^{-n}\xi _{n}$ 几乎处处收敛。

(ii) 为了证明$\xi$ 的支撑集是零测度的勒贝格集，首先回顾一下关于康托集的一些事实。

康托集 $C$ 是所有 $x\in [0,1]$ 的集合，其三进制展开为 $x=.a_{1}a_{2}\cdots ,\,a_{j}=0{\text{ or }}2$（以 3 为底）。这对应于通常的康托集，可以被认为是具有 1/3 收缩率的完美对称集。

相反，考虑集合 $E$，它包含所有 $x\in [0,1]$，其在 $e$ 进制下的展开式为 $x=.a_{1}a_{2}\cdots ,\,a_{j}=0{\text{ or }}2$。在 $E$ 的元素和 $\xi$ 之间存在一个明显的双射。由于 $E$ 的勒贝格测度为 $\lim _{n\to \infty }\left({\frac {2}{e}}\right)^{n}=0$。因此，$\xi$ 在勒贝格测度为零的集合上具有支撑。

问题 5

令 $\xi _{n}$ 为一列独立的随机变量，其中 $\xi _{n}$ 在 $[0,n^{2}]$ 上服从均匀分布。求 $a_{n}$ 和 $b_{n}$ 使得 $\left(\sum _{i=1}^{n}\xi _{i}-a_{n}\right)/b_{n}$ 在分布上收敛于一个非退化的极限，并确定该极限。

解决方案

这是一个直接应用 中心极限定理，林德伯格条件 的例子。

我们知道每个随机变量 $\xi _{i}$ 的期望值为 $i^{2}/2$，方差为 $i^{4}/12$。

那么 $a_{n}=\sum _{i=1}^{n}i^{2}/2={\frac {n(n+1)(2n+1)}{12}}$ 和 $b_{n}^{2}=\sum _{i=1}^{n}i^{4}/12$。 那么 $\left(\sum _{i=1}^{n}\xi _{i}-a_{n}\right)/b_{n}$ 在分布上收敛于标准正态分布，前提是 Lindeberg 条件成立。

因此，我们需要检查 $\lim _{n\to \infty }{\frac {1}{b_{n}^{2}}}\sum _{i=1}^{n}\int _{\{x:|x-m_{i}|\geq \epsilon b_{n}\}}(x-m_{i})^{2}\,dF_{i}(x)=0$

由于 $b_{n}$ 的增长速度快于 $n^{2}$，那么对于足够大的 $n$，每个积分的域都是空的。因此，当 $n\to \infty$ 时，上述等式趋于 0。因此，Lindeberg 条件满足，CLT 成立。

问题 6

(i) 设 $X_{t},t>0$ 是定义在概率空间 $(\Omega ,{\mathcal {F}},P)$ 上的随机变量。假设对于所有 $t$，$E|X_{t}|^{2}=E|X|^{2}<\infty$，证明 $P\left(\lim _{t\to 0}X_{t}=X\right)=1$ 意味着 $\lim _{t\to 0}E|X_{t}-X|^{2}=0$，即在上述假设下，几乎必然收敛意味着均方收敛。 (ii) 设 $X_{t},t\in \mathbb {R}$ 是一个随机过程，具有性质 $EX_{t}$ 和 $C(h)=E(X_{t}X_{h+t})$ 是有限的并且不依赖于 $t$（这种过程被称为宽平稳过程）。证明如果 $X_{t}$ 的轨迹是连续的，那么自相关函数 $C(h)$ 是连续的。

解决方案

(i) 令 $A=\left\{\omega \in \Omega \mid \lim _{t\to 0}X_{t}(\omega )=X(\omega )\right\}$. 根据假设， $P(A)=1$. 现在我们计算 $L^{2}$ 范数

$\lim _{t\to 0}E|X_{t}-X|^{2}=\lim _{t\to 0}\int _{A}|X_{t}-X|^{2}\,d\omega +\lim _{t\to 0}\int _{\Omega \setminus A}|X_{t}-X|^{2}\,d\omega .$

让我们评估右侧的第一个积分。 我们可以写 $\lim _{t\to 0}\int _{A}|X_{t}-X|^{2}\,d\omega =\lim _{t\to 0}\int _{A}|X_{t}|^{2}\,d\omega +\int _{A}|X|^{2}\,d\omega -2\lim _{t\to 0}\int _{A}|XX_{t}|^{2}\,d\omega$

$\quad \leq \lim _{t\to 0}E|X_{t}|^{2}+E|X|^{2}-2\int _{A}\lim _{t\to 0}|XX_{t}|^{2}\,d\omega$ 通过 Fatou 引理

$=E|X|^{2}+E|X|^{2}-2E|X|^{2}=0$ （因为 $E|X_{t}|^{2}=E|X|^{2}\,\forall t$）。

现在第二项

$\lim _{t\to 0}\int _{\Omega \setminus A}|X_{t}-X|^{2}\,d\omega \leq \int _{\Omega \setminus A}|X|^{2}\,d\omega +\lim _{t\to 0}\int _{\Omega \setminus A}|X_{t}|^{2}\,d\omega$ 由三角不等式得出。

$\leq (E|X|^{2}+E|X|^{2})P(\Omega \setminus A)=0$ 由于 $X,X_{t}$ 都具有有限的二阶矩。

因此，我们已经证明，在上述假设下，几乎必然收敛意味着均方收敛。

(ii)