第四章离散时间随机过程

若概率空间 $(S, A, P)$ 的样本空间 $S$ 由定义在自然数集 $N$ 之上的函数组成，此时 $S$ 中的样本点是定义域离散的函数，称为 样本函数，可以记为 $x [n], {x [n]}_{n = 1}^{\infty}, {x [n]}_{n \in N}$ ；而在 $S$ 中变化的变函，即随机变函，记为 $X [n], {X [n]}_{n = 1}^{\infty}, {X [n]}_{n \in N}$

样本函数个数：似乎对应于事件的种类，譬如随机发送全0或全1的发送端，其接收端的信号就只有两个样本函数。每次试验就会生成一个样本函数，所以只有多次试验完全一致时，它们才共用一个样本函数。

样本点可以理解为一个命运，即横轴为时间，纵轴为取值的曲线；样本函数则为一系列命运的模板

4-2 概率函数族

联合概率质量函数 $P (X [n_{1}] = k_{1}, \dots, X [n_{m}] = k_{m})$ 称为离散时间随机过程 ${X [n]}_{m = 1}^{\infty}$ 的 $m$ 维概率质量函数， $k_{1}, \dots, k_{m}$ 是状态空间的样本点，称 ${P (X [n_{1}] = k_{1}, \dots, X [n_{m}] = k_{m})}_{m = 1}^{\infty}$ 为 ${X [n]}_{m = 1}^{\infty}$ 的概率质量函数族。

$F_{X} (x_{1}, \dots, x_{m}; n_{1}, \dots, n_{m}) = P (X [n_{1}] \leq x_{1}, \dots, X [n_{m}] \leq x_{m})$ 称为 $m$ 维概率生成函数， $f_{X} (x_{1}, \dots, x_{m}; n_{1}, \dots, n_{m}) = \frac{\partial F _{X} ( x _{1} , \dots , x _{m} ; n _{1} , \dots , n _{m} )}{\partial x _{1} \dots \partial x _{m}}$ 称为 $m$ 维概率密度函数，

4-3 矩函数

均值函数： $m_{x} [n] = E {X [n]} = \int_{- \infty}^{\infty} X [n] f_{A} (a) d a$ ，A 为 X 中的随机变量
方差函数： $σ_{X}^{2} [n] = E {∣ X [n] - m_{X} [n] ∣^{2}}$
自相关函数： $R_{X} [n_{1} n_{2}] = E {X [n_{1}] X^{*} [n_{2}]} = \int_{- \infty}^{\infty} X [n_{1}] X [n_{2}] f_{A} (a) d a$
自协方差函数： $C_{X} [n_{1}, n_{2}] = R_{X} [n_{1}, n_{2}] - m_{X} [n_{1}] m_{X}^{*} [n_{2}]$
自相关系数函数： $ρ_{X} [n_{1}, n_{2}] = \frac{C _{X} [ n _{1} , n _{2} ]}{C _{X} [ n _{1} , n _{1} ] C _{X} [ n _{2} , n _{2} ]}$

4-4 常见离散时间随机过程

独立过程

Poisson 过程是独立增量过程

和过程

$S [n] = X [1] + X [2] + \dots + X [n]$ 为 $X [n]$ 的和过程

生成函数： $G_{S} (z) = \prod_{i = 1}^{n} G_{X_{i}} (z)$

概率质量函数（独立增量）： $P {S [n_{1}] = s_{1}, S [n_{2}] = s_{2}} = P {S [n_{1}] = s_{1}} P {S [n_{2} - n_{1}] = s_{2} - s_{1}}$

二阶矩过程

如果离散时间随机过程 ${X [n]}_{n = 1}^{\infty}$ 对于每个 n，一维随机变量 $X [n]$ 的方差都存在，则为离散时间二阶矩过程。

严平稳与宽平稳过程

严平稳过程：若对于任意正整数 K 和任意采样时刻 $n_{1}, \dots, n_{K}$ ，随机过程 $X [n]$ 的 K 维概率分布函数对任意整数 n 满足： $F_{X} (x_{1}, \dots, x_{K}; n_{1}, \dots, n_{K}) = F_{X} (x_{1}, \dots, x_{K}; n_{1} + n, \dots, n_{K} + n)$ 则为严平稳过程。

宽平稳随机过程：若离散时间随机过程 $X [n]$ 的均值函数 $m_{X} [n]$ 为常数，且自相关函数 $R_{X} [n_{1}, n_{2}]$ 只和时移 $n = n_{1} - n_{2}$ 有关，即 $R_{X} [m_{1}, m_{2}]$ 可以表示为 n 的函数 $R_{X} [n_{1}, n_{2}] = R_{X} [n]$ ，则为宽平稳随机过程。

若随机过程 $X [n]$ 和 $Y [n]$ 都是宽平稳离散时间随机过程，且互相关函数 $R_{X Y} [n_{1}, n_{2}]$ 只和时移 n 有关，即 $R_{X Y} [n_{1}, n_{2}] = R_{X Y} [n]$ ，则称 $X [n]$ 和 $Y [n]$ 为联合宽平稳离散时间过程。

$E {f_{1} (A) f_{2} (B)} = E {f_{1} (A)} E {f_{2} (B)}$ ，A、B 为两个随机变量

高斯过程的二维概率密度函数： $f_{X} (x_{1}, x_{2}; t_{1}, t_{2}) = \frac{1}{2 π σ _{1} σ _{2} 1 - ρ ^{2}} exp {- \frac{1}{2 ( 1 - ρ ^{2} )} [(\frac{x _{1} - m _{1}}{σ _{1}})^{2} - 2 ρ (\frac{x _{1} - m _{1}}{σ _{1}}) (\frac{x _{2} - m _{2}}{σ _{2}}) + (\frac{x _{2} - m _{2}}{σ _{2}})^{2}]}$

第五章连续时间随机过程

随机过程不是集合

m 维概率分布函数： $F_{X} (x_{1}, \dots, x_{m}; t_{1}, \dots, t_{m}) = P (X (t_{1}) \leq x_{1}, \dots, X (t_{m}) \leq x_{m})$

联合概率质量函数中，两个过程中的随机变量取值是统一的