5-1 向量范数

5-1-1 定义

设 $V$ 是数域 $F$ 上线性空间，$\nu$ 是定义在 $V$ 上的实值函数。如果 $\nu$ 满足：

1. 对任意 $\theta \ne \alpha \in V,\nu (\alpha )>0$（正定性，恒正性）
2. 对任意 $\alpha \in V,k\in F,\nu (k\alpha )=|k|\nu (\alpha )$（齐次性）
3. 对任意 $\alpha ,\beta \in V,\nu (\alpha +\beta )\le \nu (\alpha )+\nu (\beta )$（三角不等式） 则称 $\nu$ 是 $V$ 上的范数。 定义了范数的线性空间称为赋范线性空间

5-1-2 长度与范数

设 $V$ 是内积空间，则 $V$ 上内积下的长度 $\Vert \bullet \Vert$ 是 $V$ 上的一个范数

因此，从现在起，在不致于引起混淆的情况下，任意线性空间上的范数就记为 $\Vert \bullet \Vert$

5-1-3 $C^n$ 中的范数

对任意 $X=(x_1,x_2,\dots ,x_n)\in C^n$

1. 向量 1-范数：$\Vert X{\Vert }_1={\sum }_{i=1}^n|x_i|$
2. 向量 2-范数：$\Vert X{\Vert }_2=\sqrt{{\sum }_{i=1}^n|x_i{|}^2}=\sqrt{X^{H}X}$
3. 向量 $\infty -$范数：$\Vert X{\Vert }_{\infty }={\max }_{1\le i\le n}|x_i|$

$C^n$ 中更多的范数对任意 $X=(x_1,x_2,\dots ,x_n)\in C^n$，

1. $p\ge 1$ 时，有向量 p-范数：$\Vert X{\Vert }_p=({\sum }_{i=1}^n|x_i{|}^p{)}^{1/p}$
2. 如果 $\Vert \bullet \Vert$ 是已知的范数，A 是一可逆矩阵向量，则 $\Vert X{\Vert }_A=\Vert AX\Vert$也是 $C^n$ 上的一种范数

5-1-4 V上的范数

设 $V$ 是数域 $F$ 上 $n$ 维线性空间，${\alpha }_1,{\alpha }_2,\dots ,{\alpha }_n$ 是V的一组 基，$\Vert \bullet \Vert$ 是 $C^n$ 上已知的范数，据此可以定义 $V$ 上的范数： 若 $\eta \in V$ 在基 ${\alpha }_1,{\alpha }_2,\dots ,{\alpha }_n$ 下的坐标是 $X$，规定 $$\Vert \eta \Vert =\Vert X\Vert$$

5-1-5 序列的收敛性

向量序列的收敛性

设 $\Vert \bullet \Vert$ 是 V 上的范数，$\{{\eta }_k{\}}_{k=1}^{\infty }$ 是 V 中的一个向量序列，${\eta }_0\in V$。如果 $$\underset{k\to \infty }{\lim }\Vert {\eta }_k-{\eta }_0\Vert =0$$ 则称向量序列 $\{{\eta }_k{\}}_{k=1}^{\infty }$ 在范数 $\Vert \bullet \Vert$ 下收敛到 ${\eta }_0$，记为 $$\underset{k\to \infty }{\lim }{\eta }_k={\eta }_0$$

范数的可比较性

假设 $\Vert \bullet \Vert$ 和 $\Vert \bullet {\Vert }^{\prime }$ 都是线性空间 $V$ 上的范数。若存在大于零的数 $k_i\le k_2$， 使得对任意 $\eta \in V$，不等式 $k_1\Vert \eta {\Vert }^{\prime }\le \Vert \eta \Vert \le k_2\Vert \eta {\Vert }^{\prime }$ 成立， 则称 $V$ 上的范数 $\Vert \bullet \Vert$ 和 $\Vert \bullet \Vert$ 是可比较的

定理： 有限维线性空间 V 上任意两个范数都是可比较的

5-2 矩阵范数

5-2-1 矩阵 p 范数

矩阵p-范数： 设矩阵 $A=(a_{ij}{)}_{m\times n}$，则有下列矩阵范数： $$\Vert A{\Vert }_{m_1}=\sum _{i,j}|a_{ij}|$$ $$\Vert A{\Vert }_{m_2}=\sqrt{\sum _{i,j}|a_{ij}{|}^2}=(\mathrm{tr}{A}^{H}A{)}^{1/2}=(\mathrm{tr}A{A}^H{)}^{1/2}$$ $$\Vert A{\Vert }_{m_{\infty }}=\underset{i,j}{\max }\{|a_{ij}|\}$$ $\Vert A{\Vert }_{m_2}$ 又记为 $\Vert A{\Vert }_F$，称为 Frobenius 范数，简称 F 范数

性质： F 范数是酉不变的：若 U,V 是酉矩阵，则 $\Vert A{\Vert }_F=\Vert UAV{\Vert }_F$

5-2-2 相容性

定义： 设 $C^{s\times m},C^{m\times n},C^{s\times n}$ 中定义了范数 $\Vert \bullet {\Vert }_a$，$\Vert \bullet {\Vert }_b$，$\Vert \bullet {\Vert }_c$， 若对 $\forall A\in C^{s\times m},B\in C^{m\times n}$ $$\Vert AB{\Vert }_c\le \Vert A{\Vert }_a\Vert B{\Vert }_b$$ 则称范数 $\Vert \bullet {\Vert }_a$，$\Vert \bullet {\Vert }_b$，$\Vert \bullet {\Vert }_c$ 是相容的

定理： $\Vert \bullet {\Vert }_{m_1}$，$\Vert \bullet {\Vert }_{m_2}$ 是相容的，$\Vert \bullet {\Vert }_{m_{\infty }}$ 是不相容的

相容矩阵范数的定义域可以覆盖所有尺寸的矩阵

5-2-3 算子范数

设 $\Vert \bullet {\Vert }_{{\nu }_n}$，$\Vert \bullet {\Vert }_{{\nu }_m}$ 分别是 $C^n,C^m$ 上的范数，定义 $C^{m\times n}$ 上的实值函数 $\Vert \bullet \Vert$： $$\Vert A\Vert =\underset{\theta \ne X\in C^n}{\max }\frac{\Vert AX{\Vert }_{{\nu }_m}}{\Vert X{\Vert }_{{\nu }_n}}$$ 称是由 $\Vert \bullet \Vert$ 是由 $\Vert \bullet {\Vert }_{{\nu }_n}$，$\Vert \bullet {\Vert }_{{\nu }_m}$ 诱导的算子范数

定理： 算子范数一定是相容的矩阵范数

5-2-4三个重要的算子范数

$\Vert \bullet {\Vert }_1$，$\Vert \bullet {\Vert }_2$，$\Vert \bullet {\Vert }_{\infty }$ 诱导的 A 的算子范数分别被称为 A 的算子 1-范数，算子 2-范数，算子 $\infty -$范数，分别记为$\Vert A{\Vert }_1$，$\Vert A{\Vert }_2$，$\Vert A{\Vert }_{\infty }$

定理： 设 $A=(a_{ij}{)}_{s\times n}$，则

• $\Vert A{\Vert }_1={\max }_{1\le j\le n}\left\{{\sum }_{i=1}^s|a_{ij}|\right\}$，列模和范数
• $\Vert A{\Vert }_2=\sqrt{\rho (A^{H}A)}$，谱范数，$\rho$ 代表取最大特征值
• $\Vert A{\Vert }_{\infty }={\max }_{1\le i\le s}\left\{{\sum }_{j=1}^n|a_{ij}|\right\}$，行模和范数

5-3 收敛定理

5-3-1 矩阵序列的收敛性

定义： 设矩阵序列 $\{A_k{\}}_{1\le k\le +\infty },A_k={\left(a_{ij}^{(k)}\right)}_{n\times n}$， 如果 $A=(a_{ij}{)}_{n\times n}$，且 $\forall i,j,{\lim }_{k\to \infty }{A}_{ij}^{(k)}=a_{ij}$， 则称 ${\lim }_{k\to \infty }{A}_k=A$

可以证明：若 $\Vert \bullet \Vert$ 是一矩阵范数，则 $$\underset{k\to \infty }{\lim }{A}_k=A\iff \underset{k\to \infty }{\lim }\Vert A_k-A\Vert =0$$

5-3-2 幂序列

对给定的方阵 A ，考虑方阵序列 $\{A^k\}$

定理： 若有相容矩阵范数 $\Vert \bullet \Vert$，使得 $\Vert A\Vert <1$，则 ${\lim }_{k\leftarrow \infty }{A}^k=O$

定理： ${\lim }_{k\to \infty }{A}^k=O\iff \rho (A)<1$

5-3-3 谱半径

定理： 若 $\Vert \bullet \Vert$ 是相容矩阵范数，则 $\rho (A)\le \Vert A\Vert$

定理： 对任意矩阵 $A\in C^{n\times n}$，若 $\epsilon >0$，则一定存在 $C^{n\times n}$ 上相容矩阵 范数 $\Vert \bullet \Vert$，使得 $\Vert A\Vert <\rho (A)+\epsilon$

5-3-4 矩阵幂级数

设 A 是方阵，对于幂级数 $$\sum _{i=0}^{+\infty }{a}_i{x}^i,f_n(x)=\sum _{i=0}^n{a}_i{x}^i$$ 若矩阵序列 $f_n(A)$ 收敛于矩阵 M，则称矩阵幂级数 ${\sum }_{i=0}^{+\infty }{a}_i{A}^i$ 收敛于 M

定理： 若幂级数 ${\sum }_{i=0}^{+\infty }{a}_i{x}^i$ 的收敛半径为 $r$，则

• 当 $\rho (A)<r$ 时，矩阵幂级数 ${\sum }_{i=0}^{+\infty }{a}_i{A}^i$ 收敛
• 当 $\rho (A)>r$ 时，矩阵幂级数 ${\sum }_{i=0}^{+\infty }{a}_i{A}^i$ 发散

5-4 矩阵函数

5-4-1 定义

设函数 $f(x)$ 可以展开成幂级数 $$f(x)=\sum _{i=0}^{+\infty }{a}_i{x}^i,|x|<R$$ 设 $A\in C^{n\times n}$，且 $p(A)<R$，定义 $$f(A)=\sum _{i=0}^{+\infty }{a}_i{A}^i=\underset{n\to +\infty }{\lim }\sum _{i=0}^n{a}_i{A}^i$$

几个重要的函数 $$e^x=\sum _{i=0}^{+\infty }\frac{x^i}{i!}$$ $$\sin x=\sum _{i=0}^{+\infty }(-1{)}^i\frac{x^{2i+1}}{(2i+1)!}$$ $$\cos x=\sum _{i=0}^{+\infty }(-1{)}^i\frac{x^{2i}}{(2i)!}$$

$e={\sum }_{i=0}^{+\infty }\frac{1}{i!}$

5-4-2 Jordan 形矩阵

Jordan 形矩阵的函数

假设 $$f(x)=\sum _{k=0}^{\infty }{a}_k{x}^k=\underset{n\to \infty }{\lim }{f}_n(x)$$ 其中 $f_n(x)={\sum }_{k=0}^n{a}_k{x}^k$

$$J=\left(\begin{array}{cccc}{J}_1& & & \\ & J_2& & \\ & & \ddots & \\ & & & J_s\end{array}\right)$$ $$f_n(J)=\left(\begin{array}{cccc}{f}_n(J_1)& & & \\ & f_n(J_2)& & \\ & & \ddots & \\ & & & f_n(J_s)\end{array}\right)$$ 令 $n\to \infty$，得 $$f(J)=\left(\begin{array}{cccc}f(J_1)& & & \\ & f(J_2)& & \\ & & \ddots & \\ & & & f(J_s)\end{array}\right)$$

Jordan 块的函数

设 $n\times n$ 若当块 $J_0=\left(\begin{array}{cccc}{\lambda }_0& 1& & \\ & {\lambda }_0& \ddots & \\ & & \ddots & 1\\ & & & {\lambda }_0\end{array}\right)$，则 $$f_k\left(J_0\right)=\left(\begin{array}{cccccc}{f}_k\left({\lambda }_0\right)& \frac{f_k^{\prime }\left({\lambda }_0\right)}{1!}& \frac{f_k^{\prime \prime }\left({\lambda }_0\right)}{2!}& \cdots & \frac{f_k(n-2)\left({\lambda }_0\right)}{(n-2)!}& \frac{f_k(n-1)}{(n-1)!}\\ 0& f_k\left({\lambda }_0\right)& \frac{f_k^{\prime }\left({\lambda }_0\right)}{1!}& \ddots & \cdots & \frac{f_k(n-2)\left({\lambda }_0\right)}{(n-2)!}\\ 0& 0& f_k\left({\lambda }_0\right)& \ddots & \ddots & ⋮\\ ⋮& ⋮& ⋮& \ddots & \ddots & \frac{f_k^{\prime \prime }\left({\lambda }_0\right)}{2!}\\ ⋮& ⋮& ⋮& \cdots & \cdots & \frac{f_k^{\prime }\left({\lambda }_0\right)}{1!}\\ 0& 0& 0& \cdots & \cdots & f_k\left({\lambda }_0\right)\end{array}\right)$$ $$f\left(J_0\right)=\left(\begin{array}{cccccc}f\left({\lambda }_0\right)& \frac{f^{\prime }\left({\lambda }_0\right)}{1!}& \frac{f^{\prime \prime }\left({\lambda }_0\right)}{2!}& \cdots & \frac{f(n-2)\left({\lambda }_0\right)}{(n-2)!}& \frac{f(n-1)}{(n-1)!}\\ 0& f\left({\lambda }_0\right)& \frac{f^{\prime }\left({\lambda }_0\right)}{1!}& \ddots & \cdots & \frac{f(n-2)\left({\lambda }_0\right)}{(n-2)!}\\ 0& 0& f\left({\lambda }_0\right)& \ddots & \ddots & ⋮\\ ⋮& ⋮& ⋮& \ddots & \ddots & \frac{f^{\prime \prime }\left({\lambda }_0\right)}{2!}\\ ⋮& ⋮& ⋮& \cdots & \cdots & \frac{f^{\prime }\left({\lambda }_0\right)}{1!}\\ 0& 0& 0& \cdots & \cdots & f\left({\lambda }_0\right)\end{array}\right)$$

利用Jordan 标准形计算

定理 设矩阵 A 的 Jordan 标准形是 $$P^{-1}AP=J=\left(\begin{array}{cccc}{J}_1& & & \\ & J_2& & \\ & & \ddots & \\ & & & J_s\end{array}\right)$$ 则 $$f(A)=Pf(J)P^{-1}$$

定理 己知 $n\times n$ 矩阵 A 的特征值为 ${\lambda }_1,{\lambda }_2\dots {\lambda }_n$，则 $f(A)$ 的特征 值为 $f({\lambda }_1),f({\lambda }_2)\dots f({\lambda }_n)$

5-4-3 待定系数法

设矩阵 A 的 Jordan 标准形是 $$P^{-1}AP=J=\left(\begin{array}{cccc}{J}_1& & & \\ & J_2& & \\ & & \ddots & \\ & & & J_s\end{array}\right)$$ 则 $f(A)=Pf(J)P^{-1}$ 其中，$f(J)=\left(\begin{array}{cccc}f(J_1)& & & \\ & f(J_2)& & \\ & & \ddots & \\ & & & f(J_s)\end{array}\right)$

定理： 若 A 的最小多项式为 $m(\lambda )={\prod }_{i=1}^s(\lambda -{\lambda }_i{)}^{t_i}$，则 $f(A)=g(A)\iff$ 对每个特征值 ${\lambda }_i$，

$$\begin{gathered} f\left({\lambda }_i\right)=g\left({\lambda }_i\right), \\ {f}^{\prime }\left({\lambda }_i\right)=g^{\prime }\left({\lambda }_i\right), \\ \cdots , \\ {f}^{\left(t_i-1\right)}\left({\lambda }_i\right)=g^{\left(t_i-1\right)}\left({\lambda }_i\right) \end{gathered}$$

若最小多项式最高次为 $m$，则任何 $A^n,n\ge m$ 都能化为次数不超过 $m-1$ 的多项式， 因此可以设 $e^A=c_{0}I+c_1{A}^1+\cdots +c_{m-1}{A}^{m-1}$，或 $e^{At}=c_0(t)I+c_1(t)A^1+\cdots +c_{m-1}(t)A^{m-1}$

性质

定理： 设 $A,B\in C^{n\times n},O$ 是 $n\times n$ 零矩阵，则

1. $e^O=I$
2. 若 $AB=BA$，则 $e^A{e}^B=e^B{e}^A=e^{A+B}$
3. $(e^A{)}^{-1}=e^{-A}$

$(A^B{)}^H=A^{(B^H)}$