向量和矩阵范数

向量和矩阵范数

向量范数

定义

设${\mathbf{x}}^{\text{T}}$，${\mathbf{y}}^{\text{T}}$ $\in {\mathbb{K}}^n$,数量积定义为：

$${\mathbf{y}}^{\text{T}}\mathbf{x}\left(或{\mathbf{y}}^{\text{H}}\mathbf{x}\right)$$

设 $\mathcal{V}$ 是数域 $\mathbb{K}$ 上的向量空间，对于任意的向量 $\mathbf{x},\mathbf{y}\in \mathcal{V}$ 以及任意的 $k\in \mathbb{F}$，向量范数$ ||\cdot||$ 满足：

1. 非负性：
$$||\mathbf{x}\Vert \ge 0$$

2. 齐次性：
$$\Vert k\mathbf{x}\Vert =|k|\Vert \mathbf{x}\Vert$$
3. 三角不等式：
$$\Vert \mathbf{x}+\mathbf{y}\Vert ⩽\Vert \mathbf{x}\Vert +\Vert \mathbf{y}\Vert$$

常见的$p-\text{范数}$定义为：

p-范数：

$$||\mathbf{x}|{|}_p={\left(\sum _{i=1}^n{x}_i^{\frac{1}{p}}\right)}^p$$

矩阵范数

矩阵的$F－\text{范数}$：

$$||{\mathbf{A}}_F||={\left(\sum _{i,j=0}^n{a}_{ij}^2\right)}^{\frac{1}{2}}$$

定义

设 $\mathbf{A}$ 是$m\times n$ 矩阵，$\Vert \cdot {\Vert }_{\alpha }$ 和 $\Vert \cdot {\Vert }_{\beta }$ 分别是 $n$ 维和 $m$ 维向量空间上的向量范数，则由这两个向量范数诱导出的矩阵 $\mathbf{A}$ 的算子范数定义为
$$\Vert \mathbf{A}\Vert =\underset{\mathbf{x}\ne 0}{\max }\frac{\Vert \mathbf{Ax}{\Vert }_{\beta }}{\Vert \mathbf{x}{\Vert }_{\alpha }}$$

常见的算子范数

• $1-$范数（列和范数）：

$$\Vert A{\Vert }_1=\underset{1⩽j⩽n}{\max }\sum _{i=1}^m|a_{ij}|$$

计算方法是先求矩阵每列元素绝对值之和，再取这些和中的最大值。

• $\infty -$范数（行和范数）：
  $$\Vert A{\Vert }_{\infty }=\underset{1⩽i⩽m}{\max }\sum _{j=1}^n|a_{ij}|$$

即先求矩阵每行元素绝对值之和，再取最大值。

• 2-范数（谱范数）：

$$\Vert A{\Vert }_2=\sqrt{{\lambda }_{\max }(A^{T}A)}$$

其中 ${\lambda }_{\max }(A^{T}A)$ 表示 ${\mathbf{A}}^T\mathbf{A}$ 的最大特征值。