概率论/概率空间

任何试图用不完整信息进行推理的人都必须面对以下事实：世界上有很多可能的情况，而我们并不知道哪一种情况是真实的。想象一下，爱丽丝的朋友鲍勃掷了一枚硬币。他用右手接住硬币，然后拍到桌子上。他没有抬起手，所以爱丽丝看不到硬币是如何落地的。那么从爱丽丝的角度来看，世界可能有两种情况：硬币正面朝上，或者反面朝上。这组可能性用 $\Omega =\{h,t\}$ 表示，其中 $h$ 表示正面朝上， $t$ 表示反面朝上。（实际上，还有更多可能的情况。例如，通过巧妙的手法，鲍勃可能已经把硬币偷偷放进了口袋，所以桌子上根本没有硬币。在本系列书籍中的大多数示例中，我们将忽略这些边缘情况，但重要的是要记住，它们是存在的。）

根据观察世界的精细程度，可能会有很多种世界配置对应于正面。所以 $h_{1},h_{2},h_{3},\dots$ 可能都对应于硬币正面朝上，但对于其中每一个情况，房间里的空气分子都会以略微不同的模式移动。在这种情况下，我们将有 $\Omega =\{h_{1},h_{2},h_{3},\dots t_{1},t_{2},t_{3},\dots \}$ 。我们将不得不构建我们的理论，以便那些关心硬币但不关心空气分子的人无论如何都会得到相同的答案。

假设硬币和掷硬币都是公平的。由于正面和反面之间没有明显的区别，它们从直觉上来说都是等可能的。在概率论中，我们用 0 到 1 之间的单个实数来表示某件事的可能性，这个实数称为概率。数字越大，表示可能性越大，数字越小，表示可能性越小。一个必然发生的事件的概率为 1，这是最大的概率，而一个必然不发生的事件的概率为 0，这是最小的概率。我们可以想象一个函数 $p$ ，它可以给出某个命题的概率。一个命题就像一个是非问题，或者一个可以判断真假的陈述句。“硬币落地为反面”就是一个命题的例子。以下是正式定义

定义（命题）:

给定一个配置集 $\Omega$ 和一个概率函数 $p$ ，一个命题 $S\subset \Omega$ 是这些配置的一个子集。

一个陈述 $S$ 就像一个句子，因为 $S\subset \Omega$ 是世界上所有使该句子为真的配置的子集。同样，一个陈述 $S$ 就像一个是非问题，因为它是在世界上所有对该问题的回答是“是”的配置的子集。因此，“硬币正面朝上”将对应于集合 $\{t\}$ （或者 $\{t_{1},t_{2},t_{3},\dots \}$ ，如果我们让空气分子来区分我们的配置）。

概率测度是一个函数 $p$ ，它接受一个陈述（这是 $\Omega$ 的子集），并返回一个 0 到 1 之间的实数。所以它的类型签名是 $p:{\mathcal {P}}(\Omega )\nrightarrow [0,1]$ 。请注意，我们使用了符号 $\nrightarrow$ 而不是一个普通的箭头。这是因为 $p$ 是一个偏函数，这意味着即使我们给它 $\Omega$ 的某个子集作为输入，它也可能不给我们答案。这部分定义在处理某些无限配置空间时变得必要，在这些空间中，某些语句最终会具有未定义的概率。

由于有时让 $p$ 是一个全函数而不是偏函数比较方便，我们可以让 ${\mathcal {F}}\subset {\mathcal {P}}(\Omega )$ 是具有已定义概率的 $\Omega$ 子集的集合。所以我们也可以说 $p$ 具有类型签名 $p:{\mathcal {F}}\to [0,1]$ 。

定义（事件）:

一个事件是具有已定义概率的陈述。也就是说，是 ${\mathcal {F}}$ 的一个元素。

柯尔莫哥洛夫提出了一组公理，定义了概率论的规则

非负性： $\forall X\in {\mathcal {F}};p(X)\geq 0$
标准化： $p(\Omega )=1$
对补集的封闭性： $\forall X\in {\mathcal {F}};(\Omega -X)\in {\mathcal {F}}$
σ-可加性： 对于任何可数个不相交事件的序列 $[X_{1},X_{2},X_{3},\dots ]\in {\mathcal {F}}^{\mathbb {N} }$ ，我们有 $p\left(\bigcup _{n=1}^{\infty }\right)X_{n}=\sum _{n=1}^{\infty }p(X_{n})$

注意公理 4 对 ${\mathcal {F}}$ 的约束：如果语句 $X_{1},X_{2},X_{3},\dots$ 是不相交的，并且它们都属于 ${\mathcal {F}}$ ，那么它们的并集也必须属于 ${\mathcal {F}}$ 。

定义（概率空间）:

概率空间 是一个测度空间 $(\Omega ,{\mathcal {F}},p)$ ， $\Omega$ 是集合， ${\mathcal {F}}$ 是 $\sigma$ -代数， $p$ 是测度，使得 $p(\Omega )$ ， $p$ 的质量等于 $1$ 。