第一章 概率空间和随机变量

1-1 概率空间

1-1-1 样本空间

N 维样本空间：N 个一维样本空间的笛卡尔乘积。例如空间坐标分布（x,y,z）就是一个 3 维样本空间

多维和无穷维样本空间也称为乘积样本空间

此外，对于所有满足 $1\le M<N$ 的正整数 $M$，称集合 $S_1,\dots ,S_N$ 中任意 M 个集合的笛卡尔乘积为M 维边界样本空间

1-1-2 Borel 事件集

Borel 事件集

空、全、补、并 设 $\mathcal{A}$ 由样本空间 $\mathcal{S}$ 的一些事件组成的集合，如果事件集 A 满足下面的三个性质：

1. $S\in \mathcal{A},\varnothing \in \mathcal{A}$
2. 若 $A\in \mathcal{A}$，则 $\bar{A}\in \mathcal{A}$
3. 若有 $A_i\in \mathcal{A},i=1,2,\dots$，则 ${\cup }_{i=1}^{\infty }{A}_i\in \mathcal{A}$

则称事件集 $\mathcal{A}$ 为定义于样本空间 $\mathcal{S}$ 上的 Borel 事件集。

也就是闭合：空集、全集、补集、并集都在事件集中

Borel 事件集所满足的上述三个性质规定了事件间应满足的基本逻辑事实： 第 1 条性质规定必然事件 S 和不可能事件 $\varnothing$ 必须作为考察的对象，第 2 条性 质规定了一个事件的反面也构成一个事件，第 3 条性质规定了任意多个事件的 并也构成一个事件。规定事件集满足如上所述的三个 Borel 条件，是为了保证 所有需要考虑的事件在逻辑上具有相容性。

1-1-3 事件的概率

概率是事件频率稳定性的模型

事件的频率定义为，在若干次试验中某个事件出现的次数占试验总次数的比例。设有事件 A，其频率 F(A) 定义为 $$F(A)=\frac{t(A)}{T}$$

在不同时间或地点，针对同一种非确知系统做多次试验，当试验的次数 T 超过一定规模时，则不论 T 是多少，也不论观察哪一个事件 A，事件 A 的频率 F(A) 总是与一个固定的常数相差不远，或者说在该常数左右作微小波动，这种现象称为事件的频率稳定性。

概率是频率所遵循的绝对规律，频率是在概率这个绝对规律之 上，叠加一些小扰动之后的具体表现。

1. 概率九事：非确知系统、试验、样本点、样本空间、事件、Borel 事件集、事件的频率、频率稳定性、概率。
2. 概率三要：样本空间、Borel 事件集、概率集函数。三要是概率概念的略说，九事是详说。
3. “随机”不是前一瞬间的条件固定，下一瞬间的结果可以有多种；而是前一瞬间的条件没有办法完全观察或测量到，于是就无法预测下一瞬间的试验结果。随机与非随机不是系统固有的属性，而是观察者根据自己的观察能力对系统所做的分类。
4. 事件的频率稳定性是系统内部微观机制稳定性的一种体现。
5. 事件的概率是事件频率的稳定值。
6. 概率的作用有两个：一是预测非确知系统事件未来的发生频率，二是根据可观察的边界事件，推断不可观察的边界事件。

1-1-4 边界

乘积样本空间的事件称为联合事件，一个联合事件在其边界样本空间上的投影称为边界事件。

似乎就是说投影到低维度上。。

单满映射就是双射，也就是一一映射。

概率集函数：设 $\mathcal{A}$ 为 定义于样本空间 $S$ 上的 Borel 事件集，则映射 $P:\mathcal{A}\to [0,1]$ 为概率集函数

概率空间：由“样本空间 S、Borel 事件集 A、概率集函数 P”这三者组成的一个集合，记为 $(\mathcal{S},\mathcal{A},\mathcal{P})$

S 生成 A，P 度量 A

1-2 事件间的关系

1-3 随机变量

1-3-1 标准概率空间

最常见的标准样本空间有以下几类：

1. 实数空间： $\mathbb{R},{\mathbb{R}}^n,{\mathbb{R}}^{k\times l},{\mathbb{R}}^{\infty }$，其中 $n>1k,l⩾1,\infty$ 为可数无穷；
2. 复数空间：$\mathbb{C},{\mathbb{C}}^n,{\mathbb{C}}^{k\times l},{\mathbb{C}}^{\infty }$，其中 $n,k,l,\infty$ 同上；
3. 实（复）函数空间：${\mathbb{R}}^{\infty },{\mathbb{C}}^{\infty }$，其中的 $\infty$ 是不可数无穷，${\mathbb{R}}^{\infty },{\mathbb{C}}^{\infty }$ 的定义如下 $${\mathbb{R}}^{\infty }=\prod _{t\in \mathbb{T}}\mathbb{R},{\mathbb{C}}^{\infty }=\prod _{t\in \mathbb{T}}\mathbb{C}$$ 其中 $\mathbb{T}$ 是某个不可数的一维指标集合，如一维闭区间。此时，${\mathbb{R}}^{\infty },{\mathbb{C}}^{\infty }$ 表示的是由定义于区间 $\mathbb{T}$ 上的实函数或复函数组成的集合。

非标准概率空间的标准化

假设 $\mathbb{V}$ 是上面所说的三类标准样本空间，$S$ 是某个概率空间 $(S,\mathcal{A},P)$ 的 样本空间。若存在 $S$ 到 $\mathbb{V}$ 上的单射 $T:S⟼\mathbb{V}$，则 $S$ 与 $T(\mathbb{V})$ 之间就建立了一个单满映射（也即双射），于是就可以用标准样本空间的子集 $T(\mathbb{V})$ 来代替 $S$。

若 $\mathbb{V}\setminus T(\mathbb{V})$ 非空，则可以将事件 $\mathbb{V}\setminus T(\mathbb{V})$ 的概率定义为零。譬如抛硬币 $⟼$ $\mathbb{R}$，且定义 $\mathbb{V}\setminus \{\pm 1\}$ 的概率为零。

若有一个函数 $a:n\in \mathbb{N}⟼a(n)\in \mathbb{R}$，则显然这个函数对应着如下的无穷维向量：$(a(1),a(2),\cdots ,a(n),\cdots )$， 有时候将此向量表示为 $\{a(n){\}}_{n=1}^{\infty }$ 或者 $\{a(n){\}}_{n\in \mathbb{N}}$ 。此时，函数的定义域就是该无穷维向量的维数指标集，而函数在定义域内每个元素上的取值就是该向量在该维数上的取值。

若有一个函数 $f:t\in \mathbb{T}⟼f(t)\in \mathbb{R}$，其中 $\mathbb{T}$ 是某个不可数的一维指标集，则这个函数对应着如下的不可数无穷维向量：$\{f(t){\}}_{t\in \mathbb{T}}$。此时，函数的定义域就是该不可数无穷维向量的维数指标集，而函数在定义域内每个元素上的取值就是该向量在该维数上的取值。

随机变量

随机变量本质上是变量。

随机变量实际上是传统变量的“升级版”，它在“兼容”传统变量所有属性的同时，还增加了取值概率属性。

随机变量按照其维数可以分为有限维和无限维两种。有限维随机变量又可以分为一维随机变量和多维随机变量两种，无限维随机变量又可以分为可数无限维随机变量与不可数无限维随机变量两种。

多维随机变量有时候也被称为随机向量，如果多维随机向量以矩阵的形式呈现，也称为随机矩阵。

因为一个无限维的向量可以看作一个函数，所以一个无限维的变量就称为一个变函，一个无限维的随机变量也称为随机变函。

如果一个随机变函变化范围内的所有函数具有相同的定义域，且此定义域是时间指标集，则称该随机变函为随机过程。或者说，一个无穷维随机变量的维数指标如果具有时间的物理意义，该无穷维随机变量也被为随机过程。

随机变量变化的样本空间如果是实数空间，则称为实随机变量；随机变量变化的样本空间如果是复数空间，则称为复随机变量。从维数的角度来观察，对任意 $n\ge 1$，n 维复随机变量在本质上就是一个 2n 维的实随机变量。