向量和矩阵的范数

一般，实数的绝对值来表示“实数”的大小；复数的模来表示复数的大小。这在实际应用中，带来了非常大的便利。

对于一个平面向量 $a$ ,当其在直角坐标系中的分量分别为$x_0$和$y_0$时，我们常用$\sqrt{x_0^2+y_0^2}$来表示其大小。同样，对于三维空间向量$b$，当其在坐标系中的分量分别为$x_1、y_1$和$z_1$时，我们常用$\sqrt{x_1^2+y_1^2+z_1^2}$来表示向量$b$的大小。

类似地，空间向量也有相仿的结果。

“范数”这个概念这些表示“大小”的数值的普遍化。

下面考虑$n$维向量空间$R^n$的情形。

$$x=(x_1,x_2,..,x_n{)}^T$$

• 1-范数(绝对值范数)
  $$||x|{|}_1=\sum _{k=1}^n|x_k|$$

• 2-范数(欧几里得范数)
  $$||x|{|}_2=\sqrt{\sum _{k=1}^n{x}_k^2}$$

• $\infty$-范数
  $$||x|{|}_{\infty }=ma{x}_{\le i\le n}|x_i|=ma{x}_i｛|x_1|,...,|x_i|,...,|x_n|｝$$

下面我们来看一个例子。
$$x=(1,2,-3{)}^T$$
则有，
$$||x|{|}_1=|1|+|2|+|-3|=6$$
$$||x|{|}_2=\sqrt{1^2+2^2+(-3{)}^2}=\sqrt{14}$$
$$||x|{|}_{\infty }=max｛|1|,|2|,|-3|｝=3$$

下面我们考虑$R^{n\times n}$中的矩阵范数。

• 列范数：$$||A|{|}_1=\underset{1\le j\le n}{\max }\sum _{i=1}^n|a_{ij}|$$

• 行范数：
  $$||A|{|}_{\infty }=\underset{1\le i\le n}{\max }\sum _{j=1}^n|a_{ij}|$$

• F范数：
  $$||A|{|}_F=\sqrt{\sum _{i,j=1}^n{a}_{ij}^2}$$

• 2范数:
  $$||A|{|}_2=\sqrt{{\lambda }_{\max }}$$
  （${\lambda }_{\max }$是$A^{T}A$的最大的特征值）

下面来看一个例子：