线性代数/逆矩阵

我们现在考虑如何表示线性映射的逆。

我们首先回顾一下关于函数逆的一些事实。^[1] 某些函数没有逆，或者仅在左侧或右侧有逆。

例 4.1

其中 $\pi :\mathbb {R} ^{3}\to \mathbb {R} ^{2}$ 是投影映射

${\begin{pmatrix}x\\y\\z\end{pmatrix}}\mapsto {\begin{pmatrix}x\\y\end{pmatrix}}$

和 $\eta :\mathbb {R} ^{2}\to \mathbb {R} ^{3}$ 是嵌入

${\begin{pmatrix}x\\y\end{pmatrix}}\mapsto {\begin{pmatrix}x\\y\\0\end{pmatrix}}$

组合 $\pi \circ \eta$ 是 $\mathbb {R} ^{2}$ 上的恒等映射。

${\begin{pmatrix}x\\y\end{pmatrix}}{\stackrel {\eta }{\longmapsto }}{\begin{pmatrix}x\\y\\0\end{pmatrix}}{\stackrel {\pi }{\longmapsto }}{\begin{pmatrix}x\\y\end{pmatrix}}$

我们说 $\pi$ 是 $\eta$ 的左逆映射，或者，等效地，$\eta$ 是 $\pi$ 的右逆映射。然而，另一种顺序的组合 $\eta \circ \pi$ 不会得到恒等映射——这里有一个向量在 $\eta \circ \pi$ 下没有被映射到自身。

${\begin{pmatrix}0\\0\\1\end{pmatrix}}{\stackrel {\pi }{\longmapsto }}{\begin{pmatrix}0\\0\end{pmatrix}}{\stackrel {\eta }{\longmapsto }}{\begin{pmatrix}0\\0\\0\end{pmatrix}}$

事实上，投影 $\pi$ 完全没有左逆。因为，如果 $f$ 是 $\pi$ 的左逆，那么我们将有

${\begin{pmatrix}x\\y\\z\end{pmatrix}}{\stackrel {\pi }{\longmapsto }}{\begin{pmatrix}x\\y\end{pmatrix}}{\stackrel {f}{\longmapsto }}{\begin{pmatrix}x\\y\\z\end{pmatrix}}$

对于所有无穷多个 $z$。但没有函数 $f$ 可以将单个参数发送到多个值。

（一个在任何一边都没有逆的函数的例子是 $\mathbb {R} ^{2}$ 上的零变换。）一些函数具有 **双边逆映射**，另一个函数，它是第一个函数的逆，从左边和右边都是。例如，由 ${\vec {v}}\mapsto 2\cdot {\vec {v}}$ 给出的映射具有双边逆 ${\vec {v}}\mapsto (1/2)\cdot {\vec {v}}$。在本节中，我们将重点关注双边逆。附录表明，一个函数具有双边逆当且仅当它是单射且满射的。附录还表明，如果一个函数 $f$ 具有双边逆，则它是唯一的，因此它被称为“逆”，并表示为 $f^{-1}$。因此，在本节中的目标是，当一个线性映射 $h$ 具有逆时，找到 ${\rm {Rep}}_{B,D}(h)$ 和 ${\rm {Rep}}_{D,B}(h^{-1})$ 之间的关系（回顾一下，我们在本章第二节的 定理 II.2.21 中已经证明，如果一个线性映射具有逆，那么逆也是一个线性映射）。

定义 4.2

矩阵 $G$ 是矩阵 $H$ 的左逆矩阵，如果 $GH$ 是单位矩阵。如果 $HG$ 是单位矩阵，则它是右逆矩阵。具有双边逆矩阵的矩阵 $H$ 是可逆矩阵。该双边逆矩阵称为逆矩阵，记为 $H^{-1}$.

由于线性映射和矩阵之间的对应关系，关于映射逆的陈述转化为关于矩阵逆的陈述。

引理 4.3

如果矩阵既有左逆矩阵，也有右逆矩阵，那么两者相等。

定理 4.4

矩阵可逆当且仅当它是非奇异的。

证明

(对于这两个结果。） 给定一个矩阵 $H$，固定域和陪域的适当维度的空间。固定这些空间的基。关于这些基，$H$ 代表映射 $h$。这些陈述对于映射是正确的，因此对于矩阵也是正确的。

引理 4.5

可逆矩阵的乘积是可逆的 - 如果 $G$ 和 $H$ 是可逆的，并且如果 $GH$ 是定义的，那么 $GH$ 是可逆的，并且 $(GH)^{-1}=H^{-1}G^{-1}$.

证明

（这与之前的证明类似，只是需要两个映射。） 固定合适的空间和基，并考虑表示的映射 $h$ 和 $g$。请注意， $h^{-1}g^{-1}$ 是 $gh$ 的双侧映射逆，因为 $(h^{-1}g^{-1})(gh)=h^{-1}({\mbox{id}})h=h^{-1}h={\mbox{id}}$ 和 $(gh)(h^{-1}g^{-1})=g({\mbox{id}})g^{-1}=gg^{-1}={\mbox{id}}$。如需，此等式在表示映射的矩阵中得到反映。

以下是给出映射逆与矩阵逆之间关系的箭头图。 它是函数复合和矩阵乘法的图的特殊情况。

除了在我们关于如何表示映射运算的通用程序中的作用之外，我们对逆感兴趣的另一个原因来自求解线性系统。 线性系统等价于矩阵方程，如下所示。

${\begin{array}{*{2}{rc}r}x_{1}&+&x_{2}&=&3\\2x_{1}&-&x_{2}&=&2\end{array}}\quad \Longleftrightarrow \quad {\begin{pmatrix}1&1\\2&-1\end{pmatrix}}{\begin{pmatrix}x_{1}\\x_{2}\end{pmatrix}}={\begin{pmatrix}3\\2\end{pmatrix}}\qquad \qquad (*)$

通过固定空间和基底（例如，$\mathbb {R} ^{2},\mathbb {R} ^{2}$ 和 ${\mathcal {E}}_{2},{\mathcal {E}}_{2}$），我们用矩阵 $H$ 来表示某个映射 $h$。那么求解该系统就等同于问：哪个定义域向量 ${\vec {x}}$ 被 $h$ 映射到结果 ${\vec {d}}\,$？如果我们可以求逆 $h$，那么我们可以通过乘以 ${\rm {Rep}}_{D,B}(h^{-1})\cdot {\rm {Rep}}_{D}({\vec {d}})$ 来得到 ${\rm {Rep}}_{B}({\vec {x}})$。

示例 4.6

我们可以找到刚刚给出的矩阵的左逆

${\begin{pmatrix}m&n\\p&q\end{pmatrix}}{\begin{pmatrix}1&1\\2&-1\end{pmatrix}}={\begin{pmatrix}1&0\\0&1\end{pmatrix}}$

通过使用高斯消元法来求解所产生的线性系统。

${\begin{array}{*{4}{rc}r}m&+&2n&&&&&=&1\\m&-&n&&&&&=&0\\&&&&p&+&2q&=&0\\&&&&p&-&q&=&1\end{array}}$

答案：$m=1/3$，$n=1/3$，$p=2/3$ 和 $q=-1/3$。这个矩阵实际上是 $H$ 的双边逆矩阵，这很容易验证。有了它，我们可以通过应用逆矩阵来求解上述系统（$*$）。

${\begin{pmatrix}x\\y\end{pmatrix}}={\begin{pmatrix}1/3&1/3\\2/3&-1/3\end{pmatrix}}{\begin{pmatrix}3\\2\end{pmatrix}}={\begin{pmatrix}5/3\\4/3\end{pmatrix}}$

注 4.7

为什么用这种方式解方程组，而高斯消元法需要的算术运算更少（这个断言可以通过计算算术运算次数来精确化，正如计算机算法设计人员所做的那样）？除了其将逆矩阵发现的程序融入我们发现如何表示各种映射运算的理念之外，用矩阵逆矩阵解线性方程组至少有两个优点。

首先，一旦找到逆矩阵，求解具有相同系数但常数项不同的方程组就变得简单快捷：如果我们改变系统（$*$）右侧的条目，我们会得到一个相关的解法问题

${\begin{pmatrix}1&1\\2&-1\end{pmatrix}}{\begin{pmatrix}x\\y\end{pmatrix}}={\begin{pmatrix}5\\1\end{pmatrix}}$

，并有相应的解法。

${\begin{pmatrix}x\\y\end{pmatrix}}={\begin{pmatrix}1/3&1/3\\2/3&-1/3\end{pmatrix}}{\begin{pmatrix}5\\1\end{pmatrix}}={\begin{pmatrix}2\\3\end{pmatrix}}$

在应用中，求解具有相同系数矩阵的多个方程组是很常见的。

逆矩阵的另一个优点是，我们可以探索系统对常数项变化的敏感性。例如，将系统（$*$）右侧的 $3$ 微调为

${\begin{pmatrix}1&1\\2&-1\end{pmatrix}}{\begin{pmatrix}x_{1}\\x_{2}\end{pmatrix}}={\begin{pmatrix}3.01\\2\end{pmatrix}}$

可以使用逆矩阵来求解。

${\begin{pmatrix}1/3&1/3\\2/3&-1/3\end{pmatrix}}{\begin{pmatrix}3.01\\2\end{pmatrix}}={\begin{pmatrix}(1/3)(3.01)+(1/3)(2)\\(2/3)(3.01)-(1/3)(2)\end{pmatrix}}$

表明$x_{1}$ 改变了微调的$1/3$，而 $x_{2}$ 则移动了微调的$2/3$。例如，这种分析用于确定必须在线性模型中指定数据的精度，以确保解具有所需的精度。

最后，我们将描述通常用于求解逆矩阵的计算过程。

引理 4.8

矩阵可逆当且仅当它可以写成初等变换矩阵的乘积。逆矩阵可以通过对单位矩阵进行相同的行变换（顺序相同）来计算，这些行变换用于将可逆矩阵化为行阶梯形。

证明

矩阵 $H$ 可逆当且仅当它是非奇异的，因此可以通过行变换化为单位矩阵。根据 推论 3.22，这种变换可以通过初等矩阵进行，即 $R_{r}\cdot R_{r-1}\dots R_{1}\cdot H=I$。该公式给出结果的两部分。

首先，初等矩阵是可逆的，它们的逆矩阵也是初等矩阵。在该公式的左右两边分别乘以 $R_{r}^{-1}$，然后乘以 $R_{r-1}^{-1}$ 等，可以得到 $H$ 为初等矩阵的乘积 $H=R_{1}^{-1}\cdots R_{r}^{-1}\cdot I$（这里的 $I$ 用于覆盖平凡的 $r=0$ 情况）。

其次，矩阵的逆矩阵是唯一的，因此将上述等式与$H^{-1}H=I$进行比较可以看出，$H^{-1}=R_{r}\cdot R_{r-1}\dots R_{1}\cdot I$。因此，对单位矩阵依次应用$R_{1}$，再应用$R_{2}$，等等，就会得到$H$的逆矩阵。

示例 4.9

要找到矩阵

${\begin{pmatrix}1&1\\2&-1\end{pmatrix}}$

的逆矩阵，我们可以进行高斯-若尔当消元，同时对单位矩阵执行相同的操作。为了便于记录，我们将矩阵和单位矩阵并排写，并一起进行消元步骤。

${\begin{array}{rcl}\left({\begin{array}{cc|cc}1&1&1&0\\2&-1&0&1\end{array}}\right)&{\xrightarrow[{}]{-2\rho _{1}+\rho _{2}}}&\left({\begin{array}{cc|cc}1&1&1&0\\0&-3&-2&1\end{array}}\right)\\&{\xrightarrow[{}]{-1/3\rho _{2}}}&\left({\begin{array}{cc|cc}1&1&1&0\\0&1&2/3&-1/3\end{array}}\right)\\&{\xrightarrow[{}]{-\rho _{2}+\rho _{1}}}&\left({\begin{array}{cc|cc}1&0&1/3&1/3\\0&1&2/3&-1/3\end{array}}\right)\end{array}}$

这个计算过程找到了逆矩阵。

${\begin{pmatrix}1&1\\2&-1\end{pmatrix}}^{-1}={\begin{pmatrix}1/3&1/3\\2/3&-1/3\end{pmatrix}}$

示例 4.10

这个例子碰巧从行交换开始。

${\begin{array}{rcl}\left({\begin{array}{ccc|ccc}0&3&-1&1&0&0\\1&0&1&0&1&0\\1&-1&0&0&0&1\end{array}}\right)&{\xrightarrow[{}]{\rho _{1}\leftrightarrow \rho _{2}}}&\left({\begin{array}{ccc|ccc}1&0&1&0&1&0\\0&3&-1&1&0&0\\1&-1&0&0&0&1\end{array}}\right)\\&{\xrightarrow[{}]{-\rho _{1}+\rho _{3}}}&\left({\begin{array}{ccc|ccc}1&0&1&0&1&0\\0&3&-1&1&0&0\\0&-1&-1&0&-1&1\end{array}}\right)\\&\vdots \\&{\xrightarrow[{}]{}}&\left({\begin{array}{ccc|ccc}1&0&0&1/4&1/4&3/4\\0&1&0&1/4&1/4&-1/4\\0&0&1&-1/4&3/4&-3/4\end{array}}\right)\end{array}}$

示例 4.11

不可逆矩阵可以通过左侧部分无法化简为单位矩阵来识别。

$\left({\begin{array}{cc|cc}1&1&1&0\\2&2&0&1\end{array}}\right){\xrightarrow[{}]{-2\rho _{1}+\rho _{2}}}\left({\begin{array}{cc|cc}1&1&1&0\\0&0&-2&1\end{array}}\right)$

该过程可以找到一般 $n\!\times \!n$ 矩阵的逆矩阵。 $2\!\times \!2$ 的情况非常实用。

推论 4.12

一个 $2\!\times \!2$ 矩阵的逆矩阵存在且等于

${\begin{pmatrix}a&b\\c&d\end{pmatrix}}^{-1}={\frac {1}{ad-bc}}{\begin{pmatrix}d&-b\\-c&a\end{pmatrix}}$

当且仅当 $ad-bc\neq 0$.

证明

此计算是 问题 10.

我们已经看到，就像矩阵乘法的机制小节中那样，我们可以利用线性映射和矩阵之间的对应关系。因此我们可以有效地研究映射和矩阵，在两者之间来回转换，以帮助我们尽可能地解决问题。

在本节的全部四个小节中，我们已经为矩阵开发了一个代数系统。我们可以将其与实数的熟悉代数系统进行比较。在这里，我们处理的不是数字，而是矩阵。我们有矩阵加法和减法运算，它们的工作方式与实数运算非常相似，只是它们只能组合相同大小的矩阵。我们还拥有矩阵乘法运算和与乘法逆运算。这些在某种程度上类似于熟悉的实数运算（例如，结合律和对加法的分配律），但也存在差异（例如，交换律的失效）。并且，我们有标量乘法，它在某些方面是实数乘法的另一种扩展。这个矩阵系统提供了一个示例，说明除了基本代数系统之外的其他代数系统也可以很有趣且有用。

练习

问题 1

提供 示例 4.10 中的中间步骤。

建议所有读者做这道练习。

问题 2

使用 推论 4.12 判断每个矩阵是否可逆。

1. ${\begin{pmatrix}2&1\\-1&1\end{pmatrix}}$
2. ${\begin{pmatrix}0&4\\1&-3\end{pmatrix}}$
3. ${\begin{pmatrix}2&-3\\-4&6\end{pmatrix}}$

建议所有读者做这道练习。

问题 3

对于上一个问题中的每个可逆矩阵，使用推论 4.12 求出其逆矩阵。

建议所有读者做这道练习。

问题 4

使用高斯-若尔当方法求出逆矩阵（如果存在）。对于 $2\!\times \!2$ 矩阵，使用 推论 4.12 检查答案。

1. ${\begin{pmatrix}3&1\\0&2\end{pmatrix}}$
2. ${\begin{pmatrix}2&1/2\\3&1\end{pmatrix}}$
3. ${\begin{pmatrix}2&-4\\-1&2\end{pmatrix}}$
4. ${\begin{pmatrix}1&1&3\\0&2&4\\-1&1&0\end{pmatrix}}$
5. ${\begin{pmatrix}0&1&5\\0&-2&4\\2&3&-2\end{pmatrix}}$
6. ${\begin{pmatrix}2&2&3\\1&-2&-3\\4&-2&-3\end{pmatrix}}$

建议所有读者做这道练习。

问题 5

哪个矩阵的逆矩阵是这个矩阵？

${\begin{pmatrix}1&3\\2&5\end{pmatrix}}$

问题 6

逆运算如何与矩阵的标量乘法和加法相互作用？

1. $rH$ 的逆矩阵是什么？
2. 是否 $(H+G)^{-1}=H^{-1}+G^{-1}$?

建议所有读者做这道练习。

问题 7

是否 $(T^{k})^{-1}=(T^{-1})^{k}$?

问题 8

是否 $H^{-1}$ 可逆的？

问题 9

对于每个实数 $\theta$，设 $t_{\theta }:\mathbb {R} ^{2}\to \mathbb {R} ^{2}$ 由该矩阵在标准基下表示。

${\begin{pmatrix}\cos \theta &-\sin \theta \\\sin \theta &\cos \theta \end{pmatrix}}$

证明 $t_{\theta _{1}+\theta _{2}}=t_{\theta _{1}}\cdot t_{\theta _{2}}$。也证明 ${t_{\theta }}^{-1}=t_{-\theta }$.

问题 10

完成 推论 4.12 证明中的计算。

问题 11

证明该矩阵

$H={\begin{pmatrix}1&0&1\\0&1&0\end{pmatrix}}$

有无穷多个右逆。也证明它没有左逆。

问题 12

在 例 4.1 中，$\eta$ 有多少个左逆？

问题 13

如果一个矩阵有无穷多个右逆，它可以有无穷多个左逆吗？必须有吗？

建议所有读者做这道练习。

问题 14

假设 $H$ 是可逆的，并且 $HG$ 是零矩阵。证明 $G$ 是零矩阵。

问题 15

证明如果 $H$ 可逆，则其逆矩阵与矩阵 $GH^{-1}=H^{-1}G$ 可交换，当且仅当 $H$ 本身与该矩阵 $GH=HG$ 可交换。

建议所有读者做这道练习。

问题 16

证明如果 $T$ 是方阵，并且如果 $T^{4}$ 是零矩阵，那么 $(I-T)^{-1}=I+T+T^{2}+T^{3}$。推广。

建议所有读者做这道练习。

问题 17

设 $D$ 为对角矩阵。描述 $D^{2}$，$D^{3}$，...，等等。描述 $D^{-1}$，$D^{-2}$，...，等等。适当定义 $D^{0}$。

问题 18

证明任何与可逆矩阵行等价的矩阵也是可逆的。

问题 19

下面的第一个问题在矩阵乘法小节中以 问题 15 的形式出现。

1. 证明两个矩阵的乘积的秩小于等于每个矩阵的秩的最小值。
2. 证明如果 $T$ 和 $S$ 是方阵，则 $TS=I$ 当且仅当 $ST=I$。

问题 20

证明置换矩阵的逆矩阵是其转置矩阵。

问题 21

这个问题的前两部分以 问题 12 的形式出现在矩阵乘法小节中。

1. 证明 ${{(GH)}^{\rm {trans}}}={{H}^{\rm {trans}}}{{G}^{\rm {trans}}}$。
2. 如果一个方阵的每个 $i,j$ 元素等于其 $j,i$ 元素（即，如果矩阵等于其转置），则称该方阵为对称的。证明矩阵 $H{{H}^{\rm {trans}}}$ 和 ${{H}^{\rm {trans}}}H$ 是对称的。
3. 证明转置的逆矩阵等于逆矩阵的转置。
4. 证明对称矩阵的逆矩阵是对称的。

建议所有读者做这道练习。

问题 22

本问题开头的条目出现在 矩阵乘法 小节的 问题 17 中。

1. 证明投影 $\pi _{x},\pi _{y}:\mathbb {R} ^{3}\to \mathbb {R} ^{3}$ 的复合是零映射，尽管它们本身都不是零映射。
2. 证明导数 $d^{2}/dx^{2},\,d^{3}/dx^{3}:{\mathcal {P}}_{4}\to {\mathcal {P}}_{4}$ 的复合是零映射，尽管它们本身都不是零映射。
3. 用矩阵方程表示上面两个条目。

当两个东西相乘得到零，而它们本身都不为零时，则称它们为零因子。证明没有零因子是可逆的。

问题 23

在实数代数中，只有两个数，$1$ 和 $-1$，它们是它们自身的乘法逆元。那么对于 $2\!\times \!2$ 矩阵而言，$H^{2}=I$ 是否只有两个解？

问题 24

关系 "是某物的双边逆元" 是否具有传递性？自反性？对称性？

问题 25

证明：如果一个方阵中每行元素的和都是 $k$，那么该方阵的逆矩阵中每行元素的和都是 $1/k$。(Wilansky 1951)

解答

参考文献

• Wilansky, Albert, "The Row-Sum of the Inverse Matrix", American Mathematical Monthly, Mathematical Association of America, 58 (9): 614 {{citation}}: Unknown parameter |month= ignored (help).