线性代数/谱定理

给定一个厄米特矩阵 $A$，$A$ 总是可对角化的。$A$ 的所有特征值都是实数，所有特征向量相互正交。这就是“谱定理”

谱定理

给定任何 $n\times n$ 厄米特矩阵 $A$，存在一个 $n\times n$ 酉矩阵 $U$，和一个 $n\times n$ 对角矩阵，其对角线元素为实数 $\Lambda$，使得 $A=U\Lambda U^{H}$

$U={\begin{pmatrix}{\vec {u}}_{1}&{\vec {u}}_{2}&\dots &{\vec {u}}_{n}\end{pmatrix}}$ 的列向量是 $U$ 的特征向量，$\Lambda ={\begin{pmatrix}\lambda _{1}&0&\cdots &0\\0&\lambda _{2}&\cdots &0\\\vdots &\vdots &\ddots &\vdots \\0&0&\cdots &\lambda _{n}\end{pmatrix}}$ 的对角线元素是相应的特征值。

本质上，$A$ 可以分解为秩为 1 的投影的“谱”：$A=\sum _{i=1}^{n}\lambda _{i}({\vec {u}}_{i}{\vec {u}}_{i}^{H})$

实际上，谱定理的证明无需使用 $A$ 的特征多项式或任何导数定理。

谱定理的证明

证明将通过对 $n$ 使用数学归纳法。

基本情况 $n=1$

当 $A={\begin{pmatrix}a_{1,1}\end{pmatrix}}$时，必须满足 $a_{1,1}$是实数，否则 $A$不是厄米矩阵。那么谱分解就简单地是 $A={\begin{pmatrix}1\end{pmatrix}}{\begin{pmatrix}a_{1,1}\end{pmatrix}}{\begin{pmatrix}1\end{pmatrix}}^{H}$

归纳情况 $n\geq 2$

令 ${\vec {e}}_{i}$表示 $\mathbb {C} ^{n}$的第 $i^{\text{th}}$个标准基向量。令 $\mathbf {0} _{k\times m}$表示一个 $k\times m$的零矩阵。

令 ${\vec {u}}_{1}$ 是一个单位长度的向量，它使 ${\vec {u}}_{1}^{H}A{\vec {u}}_{1}$ 最大化（回想一下 ${\vec {u}}_{1}^{H}A{\vec {u}}_{1}$ 始终是实数），令 $\lambda _{1}={\vec {u}}_{1}^{H}A{\vec {u}}_{1}$。 令 $U_{1}$ 是一个酉矩阵，其中第一列是 ${\vec {u}}_{1}$：$U_{1}{\vec {e}}_{1}={\vec {u}}_{1}$.

$A=U_{1}A_{1}U_{1}^{H}$ 其中 $A_{1}=U_{1}^{H}AU_{1}$。 现在我们将证明 $A_{1}$ 具有如下形式 $A_{1}={\begin{pmatrix}\lambda _{1}&\mathbf {0} _{1\times (n-1)}\\\mathbf {0} _{(n-1)\times 1}&A_{\text{reduced}}\end{pmatrix}}$

${\vec {e}}_{1}^{H}A_{1}{\vec {e}}_{1}={\vec {u}}_{1}^{H}A{\vec {u}}_{1}=\lambda _{1}$ 使得 $A_{1}$ 的 (1,1) 项为 $\lambda _{1}$。现在将证明 $A_{1}$ 的第一行和第一列除了第一个元素之外都为 0。对于任意的 $i=2,3,\dots ,n$，考虑参数化的单位向量 ${\vec {u}}_{t}(t)=(\cos t){\vec {e}}_{1}+(\sin t){\vec {e}}_{i}$.

${\vec {u}}_{t}(t)^{H}A_{1}{\vec {u}}_{t}(t)=((\cos t){\vec {e}}_{1}+(\sin t){\vec {e}}_{i})^{H}A_{1}((\cos t){\vec {e}}_{1}+(\sin t){\vec {e}}_{i})$ $=\lambda _{1}\cos ^{2}t+(a_{(i,1)}+a_{(1,i)})\cos t\sin t+a_{(i,i)}\sin ^{2}t$ $=\lambda _{1}\cos ^{2}t+2\Re (a_{(i,1)})\cos t\sin t+a_{(i,i)}\sin ^{2}t$ 其中 $a_{(i,j)}$ 表示 $A_{1}$ 的 $(i,j)$ 项 ($\Re$ 和 $\Im$ 分别表示实部和虚部)。

${\frac {d}{dt}}({\vec {u}}_{t}(t)^{H}A_{1}{\vec {u}}_{t}(t)){\bigg |}_{t=0}=2\Re (a_{(i,1)})$。单位向量 ${\vec {u}}={\vec {u}}_{1}$ 最大化 ${\vec {u}}^{H}A{\vec {u}}$，这意味着 ${\vec {u}}={\vec {u}}_{t}(0)={\vec {e}}_{1}$ 是最大化 ${\vec {u}}^{H}A_{1}{\vec {u}}$ 的单位向量。因此 ${\frac {d}{dt}}({\vec {u}}_{t}(t)^{H}A_{1}{\vec {u}}_{t}(t)){\bigg |}_{t=0}=0$，得到 $\Re (a_{(i,1)})=0$。

现在考虑参数化的单位向量 ${\vec {u}}_{t}(t)=(\cos t){\vec {e}}_{1}+i(\sin t){\vec {e}}_{i}$。

${\vec {u}}_{t}(t)^{H}A_{1}{\vec {u}}_{t}(t)=((\cos t){\vec {e}}_{1}+i(\sin t){\vec {e}}_{i})^{H}A_{1}((\cos t){\vec {e}}_{1}+i(\sin t){\vec {e}}_{i})$ $=\lambda _{1}\cos ^{2}t+(-ia_{(i,1)}+ia_{(1,i)})\cos t\sin t+a_{(i,i)}\sin ^{2}t$ $=\lambda _{1}\cos ^{2}t+2\Im (a_{(i,1)})\cos t\sin t+a_{(i,i)}\sin ^{2}t$

${\frac {d}{dt}}({\vec {u}}_{t}(t)^{H}A_{1}{\vec {u}}_{t}(t)){\bigg |}_{t=0}=2\Im (a_{(i,1)})$ 因此 ${\frac {d}{dt}}({\vec {u}}_{t}(t)^{H}A_{1}{\vec {u}}_{t}(t)){\bigg |}_{t=0}=0\implies \Im (a_{(i,1)})=0$。因此 $a_{(i,1)}=a_{(1,i)}=0$。已经证明 $A_{1}$ 的第一行和第一列除了第一个元素之外都为 0。

$A_{1}$ 的形式为 $A_{1}={\begin{pmatrix}\lambda _{1}&\mathbf {0} _{1\times (n-1)}\\\mathbf {0} _{(n-1)\times 1}&A_{\text{reduced}}\end{pmatrix}}$，并且通过归纳推理，$A_{\text{reduced}}$ 具有谱分解 $U_{r}\Lambda _{r}U_{r}^{H}$。

因此 $A=U\Lambda U^{H}$，其中 $U=U_{1}{\begin{pmatrix}1&\mathbf {0} _{1\times (n-1)}\\\mathbf {0} _{(n-1)\times 1}&U_{r}\end{pmatrix}}$ 并且 $\Lambda ={\begin{pmatrix}\lambda _{1}&\mathbf {0} _{1\times (n-1)}\\\mathbf {0} _{(n-1)\times 1}&\Lambda _{r}\end{pmatrix}}$