通信与控制中的随机过程/M-Sep14

上次

PMF $P[X=x]=P[s:X(s)=x]\!\,$

a) $P_{X}(x)\geq 0\forall x\in S_{x}\!\,$

b) $\sum _{x\in S_{X}}P_{X}(x)=1\!\,$

c) 事件 $B\subset S_{X}\!\,$

$P[B]=\sum _{x\in B}P_{X}(x)\!\,$

一些有用的随机变量

伯努利随机变量

$P_{X}(x)={\begin{cases}1-p&x=0\\p&x=1\\0&o.w.\end{cases}}\!\,$

$0\leq p\leq 1\!\,$ 成功概率

示例

1) 抛硬币 $X=\!\,$ H 的数量

2) 制造芯片 $X=\!\,$ 合格芯片的数量

3) 调制解调器成功传输的位数

几何随机变量

对于基础伯努利，直到（包括）成功为止的试验次数

$P_{X}(x)=p(1-p)^{x-1}\quad x=1,2,3,\ldots \!\,$

示例

1) 重复抛硬币 $X=\!\,$ 直到出现正面所抛的次数

2) 制造芯片 $X=\!\,$ 直到生产出合格芯片为止所生产的芯片数量

二项式随机变量

"n次试验中的成功次数"

$P_{x}(x)={n \choose x}p^{x}(1-p)^{n-x}\quad x=0,1,\ldots n\!\,$

示例

1) 抛一枚硬币n次。 $X=\!\,$ 正面出现的次数。

2) 制造n个芯片。 $X=\!\,$ 合格芯片的个数。

注意：二项式 $X=Y_{1}+Y_{2}+Y_{3}+\ldots +Y_{n}\!\,$ 其中 $Y_{1}+Y_{2}+Y_{3}\ldots +Y_{n}\!\,$ 是独立的伯努利试验

注意：n=1；二项式=伯努利； $X=Y_{1}\!\,$

帕斯卡随机变量

"在基础伯努利试验中，直到（包括）第k次成功所进行的试验次数"

$P_{X}(x)={x-1 \choose k-1}p^{k}(1-p)^{x-k}\quad x=k,k+1,k+2,\ldots \!\,$

其中 ${x-1 \choose k-1}\!\,$ 是 $k-1\!\,$ 次成功，在 $x-1\!\,$ 次试验中

注意：帕斯卡 $X=Y_{1}+Y_{2}+\ldots +Y_{k}\!\,$ 其中 $Y_{1},Y_{2},\ldots Y_{k}\!\,$ 是几何随机变量。

注意：K=1 帕斯卡=几何

示例

$X=\!\,$ 直到第 k 个 H 出现的翻转次数

离散均匀随机变量

$P_{X}(x)={\begin{cases}{\frac {1}{b-a+1}}&x=a,a+1,\ldots ,b\\0&{\mbox{otherwise}}\end{cases}}\!\,$

示例

1) 掷骰子。 $a=1,b=6\!\,$

$P_{X}(x)={\begin{cases}{\frac {1}{6}}&x=1,\ldots ,6\\0&{\mbox{otherwise}}\end{cases}}\!\,$

2) 翻转一枚公平的硬币。 $X\!\,$ =H 的数量

$P_{X}(x)={\begin{cases}{\frac {1}{2}}&x=0\\{\frac {1}{2}}&x=1\\0&{\mbox{ otherwise }}\end{cases}}\!\,$

泊松随机变量

$P_{X}(x)=e^{-\alpha }{\frac {\alpha ^{x}}{x!}}\quad x=0,1,2\ldots \!\,$

(练习) 二项分布的极限情况，当 $n\rightarrow \infty ,p\rightarrow 0,np=\alpha \!\,$

PMF 是随机变量的完整模型

累积分布函数

$F_{X}(x)=P[X\leq x]=\sum _{x'\leq x}P_{X}(X=x')\!\,$

与 PMF 一样，CDF 是随机变量的完整描述。

示例

掷硬币 $X=\!\,$ 正面朝上的次数

$P_{X}(x)={\begin{cases}{\frac {1}{4}}&x=0\\{\frac {1}{2}}&x=1\\{\frac {1}{2}}&x=2\\0&{\mbox{otherwise}}\end{cases}}\!\,$

${\begin{aligned}P[X\leq 0]&=P[X=0]\\P[X\leq 0.5]&=P[X=0]\\P[X\leq 1]&=\underbrace {P[X=0]} _{\frac {1}{4}}+\underbrace {P[X=1]} _{\frac {1}{2}}\\\end{aligned}}\!\,$

CDF 的性质

a) $F_{X}(-\infty )=0\Leftarrow F_{X}(-\infty )=P[X\leq -\infty ]=0\!\,$

$F_{X}(\infty )=1\Leftarrow F_{X}(\infty )=P[X\leq \infty ]=1\!\,$

"从 0 开始，到 1 结束"

b) 对于所有 $x'\geq x\!\,$ , $F_{X}(x')\geq F_{X}(x)\!\,$

"在 x 上单调不减"

${\begin{aligned}F_{X}(x')&\quad F_{X}(x)\\P[X\leq x']&\quad P[X\leq x]\\P[s:X(s)\leq x']&\quad P[s:X(s)\leq x]\\\{s:X(s)\leq x\}&\subset \{s:X(s)\leq x'\}\\P[X\leq x]&\leq P[X\leq x']\\F_{X}(x)&\leq F_{X}(x')\end{aligned}}\!\,$

c) 对于所有 $x,x'\!\,$

$P[x\leq X\leq x']=F_{X}(x')-F_{X}(x)\!\,$

"概率可以通过CDF的差值来求得"

$\{s:X(x)\leq x'\}=\{s:X(x)\leq x\}\cup \{s:x\leq X(s)\leq x'\}\!\,$

$P[X\leq x']=P[X\leq x]+P[x\leq X\leq x']\!\,$

d) 对于所有 $x\!\,$ ,

$\lim _{\epsilon \rightarrow 0}F_{X}(x+\epsilon )=F_{X}(x)\!\,$

"CDF是右连续的"

e) 对于 $x_{i}\in S_{X}\!\,$

$F_{X}(x_{i})-F_{X}(x_{i}-\epsilon )=P_{X}(x_{i})\!\,$

对于离散随机变量，在每个取值 $x_{i}\in S_{X}\!\,$ 处，CDF 存在一个跳跃（不连续点）。这个跳跃的大小等于 $P_{X}(x_{i})\!\,$ 。

$P[x_{i}\leq x]-P[x_{i}\leq x_{i}-\epsilon ]=P[x_{i}-\epsilon <x<x_{i}]=P[X=x_{i}]\!\,$

f) $F_{X}(x)=F_{X}(x_{i})\!\,$ 对所有 $x_{i}\leq x\leq x_{i+1}\!\,$ 都成立。

换句话说，在两个跳跃之间，CDF 是常数。

${\begin{aligned}P[X\leq x]&=P[X\leq x_{i}\cup x_{i}<X\leq x]\\&=P[X\leq x_{i}+\underbrace {P[x_{i}<X\leq x]} _{0}\\&=F_{X}(x_{i})\end{aligned}}$

g) $P[X>x]=1-\underbrace {F_{X}(x)} _{P[X\leq x]}\!\,$

连续随机变量是指取值范围为不可数无限多个的随机变量。

例如：

示例

T: 粒子的到达时间

$S_{T}=\{t:0\leq t<\infty \}\!\,$

V: 电压

$S_{V}=\{v:-\infty <v<\infty \}\!\,$

$\theta \!\,$ : 角度

$S_{\theta }=\{\theta :0\leq \theta \leq 2\pi \}\!\,$

$X\!\,$ : 距离

$S_{X}=\{X:0\leq x\leq 1\}\!\,$

$P[x\in A]={\frac {1}{n}}\rightarrow 0\!\,$

无 PMF， $P[X=x]=0\forall x\!\,$

定理

对于任何随机变量（连续或离散）

a) $F_{X}(-\infty )=0\quad F_{X}(\infty )=1\!\,$

b) $F_{X}(x)\!\,$ 在 $X\!\,$ 中是非递减的

c) $P[x<X\leq x']=F_{X}(x')-F_{X}(x)\!\,$

d) $F_{X}(x)\!\,$ 是右连续的

示例

$S_{X}=[0,1]\!\,$

$P_{[}x\in A]=P[x\ inB]\!\,$ 其中 A、B 是 [0,1] 中长度相同的区间

$P[X\leq 1]=1\Leftrightarrow F_{X}(1)=1\!\,$

$P[X\leq 0]=0\Leftrightarrow F_{X}(0)=0\!\,$

$P[x_{1}<x<x_{2}]=P[0<x<x_{2}-x_{1}]\!\,$

(练习) $F_{X}(x_{2})-F_{X}(x_{1})=F_{X}(x_{2}-x_{1})\rightarrow F_{x}(x)=x\!\,$

概率密度函数（PDF）

$f_{X}(x)={\frac {dF_{x}(x)}{dx}}\!\,$

离散：PMF <--> CDF（求和/求差）

连续 <--->（导数/积分）

定理：PDF 的性质

a) $f_{X}(x)\geq 0\!\,$ ( $F_{X}(x)\!\,$ 是非递减的)

b) $F_{X}(x)=\int _{\infty }^{x}f_{X}(x)dx\quad (F_{X}(\infty )=0)\!\,$

c) $\int _{-\infty }^{\infty }f_{X}(x)dx=1\quad (F_{x}(\infty )=1)\!\,$

定理

${\begin{aligned}P[x_{1}\leq X\leq x_{2}]&=F_{X}(x_{2})-F_{X}(x_{1})\\&=\int _{-\infty }^{x_{2}}f_{X}(x)dx-\int _{-\infty }^{x_{1}}f_{X}(x)dx\\&=\int _{x_{1}}^{x_{2}}f_{X}(x)\end{aligned}}\!\,$