马里兰大学概率资格考试/2015年1月概率

问题 1

一个骰子被无限次地掷出。 (a) 找出前 1000 次掷出中出现组合 (6,6) 的预期次数。找出前 1000 次掷出中出现组合 (1,2) 的预期次数。 (b) 哪个更大，以及大多少：第一次出现 (6,6) 的预期掷出次数，还是第一次出现 (1,2) 的预期掷出次数？ (c) (6,6) 比 (1,2) 先出现的概率是多少？

解答

(a) 令 $X_{n}$ 是第 n 次掷出的结果。前 1000 次掷出中出现 (6,6) 的次数由 $\sum _{n=1}^{999}\mathbb {I} (X_{n}=6{\text{ and }}X_{n+1}=6)$ 给出。

根据期望的线性性，

$E[\sum _{n=1}^{999}\mathbb {I} (X_{n}=6{\text{ and }}X_{n+1}=6)]=\sum _{n=1}^{999}E[\mathbb {I} (X_{n}=6{\text{ and }}X_{n+1}=6)]$

$=\sum _{n=1}^{999}\mathbb {P} (X_{n}=6{\text{ and }}X_{n+1}=6)=999/36$

类似地，前 1000 次掷出中出现 (1,2) 的次数为 999/36。

(b) 对于解决此类问题的通用方法，请参见 [1]。第一次出现 (6,6) 的预期等待时间为 6+36=42，而第一次出现 (1,2) 的预期等待时间为 0+36=36。

论证如下。假设我们继续掷骰子，直到我们命中所需的模式。在每次掷出 n 时，一个新的赌徒开始游戏，拥有 1 枚硬币。在赌徒的第 i 次下注中，他下注模式的第 i 个字符将出现。如果赌徒输了赌注，他就会损失所有硬币。否则，他拥有的硬币数量将是开始时的 6 倍。这是一个鞅，因此在游戏结束时，根据可选停止定理，所有赌徒硬币的预期总和等于加入游戏的赌徒数量，即模式的预期等待时间。

对于模式 (6,6)，倒数第二个赌徒拥有 6 枚硬币，最后一个赌徒拥有 36 枚硬币。其他赌徒拥有 0 枚硬币。

对于模式 (1,2)，最后一个赌徒拥有 36 枚硬币。其他赌徒拥有 0 枚硬币。

• 请注意，可选停止定理适用于此，因为停止时间的期望值是有限的，并且鞅增量是有界的。
• 解决此问题的更直接的方法是使用吸收马尔可夫链。

(c) 由于模式不重叠，(6,6) 先出现的几率由预期等待时间给出，即 36：42。也就是说，(6,6) 先出现的概率是 36/(42+36)=6/13。

对于重叠的模式，分析会稍微复杂一些，请参见 Shuo-Yen Li 论文 [1] 中的推论 3.2。

[1] 重复实验中序列模式出现研究的鞅方法，Shuo-Yen Li，概率年鉴

问题 2

如果一个随机变量诱导的测度是离散的，我们就说它是离散的。如果一个随机变量诱导的测度是绝对连续的，我们就说它是绝对连续的。证明或反证。 (a) 两个离散随机变量的和始终是离散的随机变量。 (b) 一个离散随机变量和一个绝对连续随机变量的和始终是绝对连续的随机变量。 (c) 两个绝对连续随机变量的和始终是绝对连续的随机变量。 (d) 两个独立的离散随机变量的和始终是离散的随机变量。 (e) 一个离散随机变量和一个独立的绝对连续随机变量的和始终是绝对连续的随机变量。 (f) 两个独立的绝对连续随机变量的和始终是绝对连续的随机变量。

解答

(a) 正确。随机变量是离散的，当且仅当它的值域是可数的。两个随机变量 A、B 的和的值域是 range(A)+range(B) 的和集的子集。如果 range(A) 和 range(B) 是可数的，则和集是可数的。

(b). 正确。 随机变量 X 绝对连续当且仅当 $\mathbb {P} ({\text{X in E}})=0$ 对于任何 Lebesgue 零测集 E。令 Y 为一个离散随机变量。 $\mathbb {P} (X+Y{\text{ in E}})\leq \mathbb {P} (X{\text{ in E}}-{\text{range(Y)}})=0$，因为可数个 Lebesgue 零测集的并集仍然是 Lebesgue 零测集。

(c). 错误。 对于任何绝对连续的随机变量 X，-X 也是绝对连续的，而 X + (-X) = 0，这是一个离散随机变量。

(d). 正确，根据 (a)

(e). 正确，根据 (b)

(f). 正确，分布函数由卷积定理给出。

问题 3

假设 $\xi _{1},\xi _{2},\ldots$ 是在区间 $[-a_{1},a_{1}],[-a_{2},a_{2}],\ldots ,$ 上独立均匀分布的随机变量，其中 $a_{1},a_{2},\ldots$ 为正数。令 $\eta _{n}=\prod _{i=1}^{n}\xi _{i}$ (a). 证明如果 $\lim \sup _{n\rightarrow \infty }a_{n}\leq 2$，那么 $\eta _{n}$ 几乎必然收敛于零。 (b). 证明如果 $\lim _{n\rightarrow \infty }(a_{n}/n^{2})=c>0$，那么 $\eta _{n}$ 没有极限。

解答

(a). 令 $\xi _{i}=\pm a_{i}X_{i}$，其中 $X_{i}$ 在 $[0,1]$ 上均匀分布。

$\log |\eta _{n}|=\sum _{i=1}^{n}{(\log a_{i}+\log X_{i}})$

$E[\log X_{i}]=\int _{0}^{1}\log xdx=-1$

根据大数定律，

${\frac {1}{n}}\sum _{i=1}^{n}\log X_{i}$ 几乎处处收敛于 -1。

$\lim \sup _{n\rightarrow \infty }a_{n}\leq 2\implies \lim \sup _{n\rightarrow \infty }{\frac {1}{n}}\sum _{i=1}^{n}\log a_{i}\leq \log 2<1$.

所以， $\log |\eta _{n}|$ 几乎处处收敛于 $-\infty$。因此， $\eta _{n}$ 几乎处处收敛于 0。

(b). 在这种情况下

$\lim \sup _{n\rightarrow \infty }{\frac {1}{n}}\sum _{i=1}^{n}\log a_{i}=\infty$

所以， $\log |\eta _{n}|$ 几乎处处收敛于 $\infty$。因此，$|\eta _{n}|$ 几乎处处收敛于 $\infty$。然而， $\eta _{n}$ 的符号几乎处处无限次改变（根据第二波莱尔-坎特利引理），因此 $\eta _{n}$ 几乎处处没有极限。

问题 4

令 $(M_{t},{\mathcal {F}}_{t}),t\geq 0$，是一个正的连续鞅，当 $t\rightarrow \infty$ 时，几乎处处收敛于零。 (a) 证明对于每个 $\lambda >0$ $\mathbb {P} (\sup _{t\geq 0}M_{t}\geq \lambda |{\mathcal {F}}_{0})=\min(1,M_{0}/\lambda )$. (b) 令 $W_{t}$ 是一个标准的一维布朗运动。证明对于每个 $a>0$，随机变量 $\sup _{t\geq 0}(W_{t}-{\frac {1}{2}}at)$ 服从参数为 $a$ 的指数分布。

解答

(a) 令 $\tau$ 是由 $\min(s,u)$ 给出的停时，其中 u 是 $M_{t}=\lambda$ 的首次出现时间。根据可选停时定理，

$M_{0}=E[M_{\tau }]=\mathbb {P} (\sup _{0\leq t\leq s}M_{t}\geq \lambda |{\mathcal {F}}_{0})\max(\lambda ,M_{0})+\mathbb {P} (\sup _{0\leq t\leq s}M_{t}<\lambda |{\mathcal {F}}_{0})E[M_{s}|\sup _{0\leq t\leq s}M_{t}<\lambda ,{\mathcal {F}}_{0}]$

由于 $M_{t}$ 几乎处处收敛于零，取 $s$ 为无穷大时的极限，我们有 $\mathbb {P} (\sup _{t\geq 0}M_{t}\geq \lambda |{\mathcal {F}}_{0})=M_{0}/\lambda$，如果 $\lambda >M_{0}$。

显然，如果 $M_{0}\geq \lambda$，$\mathbb {P} (\sup _{t\geq 0}M_{t}\geq \lambda |{\mathcal {F}}_{0})=1$。

(b) Wald 鞅 $X_{t}=e^{aW_{t}-{\frac {1}{2}}a^{2}t}$ 是一个众所周知的鞅。

$\mathbb {P} (\sup _{t\geq 0}(W_{t}-{\frac {1}{2}}at)\geq s)=\mathbb {P} (\sup _{t\geq 0}(aW_{t}-{\frac {1}{2}}a^{2}t)\geq as)$

$=\mathbb {P} (\sup _{t\geq 0}e^{(aW_{t}-{\frac {1}{2}}a^{2}t)}\geq e^{as})=\mathbb {P} (\sup _{t\geq 0}X_{t}\geq e^{as})$

根据 (a)，

$\mathbb {P} (\sup _{t\geq 0}X_{t}\geq e^{as})=\min(1,e^{-as})=e^{-as}$

问题 5

假设 $\xi$ 是 $(X,{\mathcal {B}}(X),P)$ 上的有界随机变量，其中 X 是一个度量空间，${\mathcal {B}}(X)$ 是它的 Borel $\sigma$-代数，P 是一个概率测度。假设对于所有 $x\in X$，都有 $\xi (x)\neq 0$。证明存在 X 上的有界连续函数 $\eta$，使得 $E[\xi \eta ]>0$.

解答

假设对于所有 x，都有 $|\xi (x)|<B$。根据 Lusin 定理，对于所有 $\epsilon$，都存在一个 *连续* 的 $f_{\epsilon }$，使得 $\mathbb {P} (\xi \neq f_{\epsilon })<\epsilon$ 且对于所有 x，都有 $|f_{\epsilon }(x)|<B$.

$E[\xi ^{2}]=C>0$

$E[\xi ^{2}]=\mathbb {P} (\xi =f_{\epsilon })E[\xi f_{\epsilon }|\xi =f_{\epsilon }]+\mathbb {P} (\xi \neq f_{\epsilon })E[\xi ^{2}|\xi \neq f_{\epsilon }]$

$E[\xi f_{\epsilon }]=\mathbb {P} (\xi =f_{\epsilon })E[\xi f_{\epsilon }|\xi =f_{\epsilon }]+\mathbb {P} (\xi \neq f_{\epsilon })E[\xi f_{\epsilon }|\xi \neq f_{\epsilon }]$

$=C-\mathbb {P} (\xi \neq f_{\epsilon })E[\xi ^{2}|\xi \neq f_{\epsilon }]+\mathbb {P} (\xi \neq f_{\epsilon })E[\xi f_{\epsilon }|\xi \neq f_{\epsilon }]$

$>C-2\epsilon B^{2}$

取 $\epsilon <C/(2B^{2})$ 和 $\eta =f_{\epsilon }$，则结果成立。

问题 6

假设在单位圆上独立均匀地分布了 n 个点。令 $\xi _{n}$ 为这些点之间距离的最小值。证明当 $n\rightarrow \infty$ 时，$n\xi _{n}$ 在概率上趋于零。

解答

令 $C>0$。将圆分成 $\lfloor Cn^{2}\rfloor$ 个长度相等的非相交弧。假设 $\lfloor Cn^{2}\rfloor >>n$。随机选取 n 个点，至少有两个点落在同一个弧上的概率为

$1-\prod _{i=0}^{n-1}(\lfloor Cn^{2}\rfloor -i)/(\lfloor Cn^{2}\rfloor )$

$1-\prod _{i=0}^{n-1}(1-i/(\lfloor Cn^{2}\rfloor ))\approx 1-e^{-1/2C}$

通过将C设为足够小的值，我们可以确保

$e^{-1/2C}<\epsilon$

如果两点落入同一个弧段，它们之间的距离小于

$2\pi /\lfloor Cn^{2}\rfloor$ 并且 $n\xi _{n}<{\frac {2\pi n}{\lfloor Cn^{2}\rfloor }}$

这个值趋近于0。由于 $\epsilon$ 可以任意小，我们得到 $n\xi _{n}$ 在概率上趋近于零。