線性代數/逆矩陣

我們現在考慮如何表示線性對映的逆。

我們首先回顧一下關於函式逆的一些事實。^[1] 某些函式沒有逆，或者僅在左側或右側有逆。

例 4.1

其中 $\pi :\mathbb {R} ^{3}\to \mathbb {R} ^{2}$ 是投影對映

${\begin{pmatrix}x\\y\\z\end{pmatrix}}\mapsto {\begin{pmatrix}x\\y\end{pmatrix}}$

和 $\eta :\mathbb {R} ^{2}\to \mathbb {R} ^{3}$ 是嵌入

${\begin{pmatrix}x\\y\end{pmatrix}}\mapsto {\begin{pmatrix}x\\y\\0\end{pmatrix}}$

組合 $\pi \circ \eta$ 是 $\mathbb {R} ^{2}$ 上的恆等對映。

${\begin{pmatrix}x\\y\end{pmatrix}}{\stackrel {\eta }{\longmapsto }}{\begin{pmatrix}x\\y\\0\end{pmatrix}}{\stackrel {\pi }{\longmapsto }}{\begin{pmatrix}x\\y\end{pmatrix}}$

我們說 $\pi$ 是 $\eta$ 的左逆對映，或者，等效地，$\eta$ 是 $\pi$ 的右逆對映。然而，另一種順序的組合 $\eta \circ \pi$ 不會得到恆等對映——這裡有一個向量在 $\eta \circ \pi$ 下沒有被對映到自身。

${\begin{pmatrix}0\\0\\1\end{pmatrix}}{\stackrel {\pi }{\longmapsto }}{\begin{pmatrix}0\\0\end{pmatrix}}{\stackrel {\eta }{\longmapsto }}{\begin{pmatrix}0\\0\\0\end{pmatrix}}$

事實上，投影 $\pi$ 完全沒有左逆。因為，如果 $f$ 是 $\pi$ 的左逆，那麼我們將有

${\begin{pmatrix}x\\y\\z\end{pmatrix}}{\stackrel {\pi }{\longmapsto }}{\begin{pmatrix}x\\y\end{pmatrix}}{\stackrel {f}{\longmapsto }}{\begin{pmatrix}x\\y\\z\end{pmatrix}}$

對於所有無窮多個 $z$。但沒有函式 $f$ 可以將單個引數傳送到多個值。

（一個在任何一邊都沒有逆的函式的例子是 $\mathbb {R} ^{2}$ 上的零變換。）一些函式具有 **雙邊逆對映**，另一個函式，它是第一個函式的逆，從左邊和右邊都是。例如，由 ${\vec {v}}\mapsto 2\cdot {\vec {v}}$ 給出的對映具有雙邊逆 ${\vec {v}}\mapsto (1/2)\cdot {\vec {v}}$。在本節中，我們將重點關注雙邊逆。附錄表明，一個函式具有雙邊逆當且僅當它是單射且滿射的。附錄還表明，如果一個函式 $f$ 具有雙邊逆，則它是唯一的，因此它被稱為“逆”，並表示為 $f^{-1}$。因此，在本節中的目標是，當一個線性對映 $h$ 具有逆時，找到 ${\rm {Rep}}_{B,D}(h)$ 和 ${\rm {Rep}}_{D,B}(h^{-1})$ 之間的關係（回顧一下，我們在本章第二節的 定理 II.2.21 中已經證明，如果一個線性對映具有逆，那麼逆也是一個線性對映）。

定義 4.2

矩陣 $G$ 是矩陣 $H$ 的左逆矩陣，如果 $GH$ 是單位矩陣。如果 $HG$ 是單位矩陣，則它是右逆矩陣。具有雙邊逆矩陣的矩陣 $H$ 是可逆矩陣。該雙邊逆矩陣稱為逆矩陣，記為 $H^{-1}$.

由於線性對映和矩陣之間的對應關係，關於對映逆的陳述轉化為關於矩陣逆的陳述。

引理 4.3

如果矩陣既有左逆矩陣，也有右逆矩陣，那麼兩者相等。

定理 4.4

矩陣可逆當且僅當它是非奇異的。

證明

(對於這兩個結果。） 給定一個矩陣 $H$，固定域和陪域的適當維度的空間。固定這些空間的基。關於這些基，$H$ 代表對映 $h$。這些陳述對於對映是正確的，因此對於矩陣也是正確的。

引理 4.5

可逆矩陣的乘積是可逆的 - 如果 $G$ 和 $H$ 是可逆的，並且如果 $GH$ 是定義的，那麼 $GH$ 是可逆的，並且 $(GH)^{-1}=H^{-1}G^{-1}$.

證明

（這與之前的證明類似，只是需要兩個對映。） 固定合適的空間和基，並考慮表示的對映 $h$ 和 $g$。請注意， $h^{-1}g^{-1}$ 是 $gh$ 的雙側對映逆，因為 $(h^{-1}g^{-1})(gh)=h^{-1}({\mbox{id}})h=h^{-1}h={\mbox{id}}$ 和 $(gh)(h^{-1}g^{-1})=g({\mbox{id}})g^{-1}=gg^{-1}={\mbox{id}}$。如需，此等式在表示對映的矩陣中得到反映。

以下是給出對映逆與矩陣逆之間關係的箭頭圖。 它是函式複合和矩陣乘法的圖的特殊情況。

除了在我們關於如何表示對映運算的通用程式中的作用之外，我們對逆感興趣的另一個原因來自求解線性系統。 線性系統等價於矩陣方程，如下所示。

${\begin{array}{*{2}{rc}r}x_{1}&+&x_{2}&=&3\\2x_{1}&-&x_{2}&=&2\end{array}}\quad \Longleftrightarrow \quad {\begin{pmatrix}1&1\\2&-1\end{pmatrix}}{\begin{pmatrix}x_{1}\\x_{2}\end{pmatrix}}={\begin{pmatrix}3\\2\end{pmatrix}}\qquad \qquad (*)$

透過固定空間和基底（例如，$\mathbb {R} ^{2},\mathbb {R} ^{2}$ 和 ${\mathcal {E}}_{2},{\mathcal {E}}_{2}$），我們用矩陣 $H$ 來表示某個對映 $h$。那麼求解該系統就等同於問：哪個定義域向量 ${\vec {x}}$ 被 $h$ 對映到結果 ${\vec {d}}\,$？如果我們可以求逆 $h$，那麼我們可以透過乘以 ${\rm {Rep}}_{D,B}(h^{-1})\cdot {\rm {Rep}}_{D}({\vec {d}})$ 來得到 ${\rm {Rep}}_{B}({\vec {x}})$。

示例 4.6

我們可以找到剛剛給出的矩陣的左逆

${\begin{pmatrix}m&n\\p&q\end{pmatrix}}{\begin{pmatrix}1&1\\2&-1\end{pmatrix}}={\begin{pmatrix}1&0\\0&1\end{pmatrix}}$

透過使用高斯消元法來求解所產生的線性系統。

${\begin{array}{*{4}{rc}r}m&+&2n&&&&&=&1\\m&-&n&&&&&=&0\\&&&&p&+&2q&=&0\\&&&&p&-&q&=&1\end{array}}$

答案：$m=1/3$，$n=1/3$，$p=2/3$ 和 $q=-1/3$。這個矩陣實際上是 $H$ 的雙邊逆矩陣，這很容易驗證。有了它，我們可以透過應用逆矩陣來求解上述系統（$*$）。

${\begin{pmatrix}x\\y\end{pmatrix}}={\begin{pmatrix}1/3&1/3\\2/3&-1/3\end{pmatrix}}{\begin{pmatrix}3\\2\end{pmatrix}}={\begin{pmatrix}5/3\\4/3\end{pmatrix}}$

注 4.7

為什麼用這種方式解方程組，而高斯消元法需要的算術運算更少（這個斷言可以透過計算算術運算次數來精確化，正如計算機演算法設計人員所做的那樣）？除了其將逆矩陣發現的程式融入我們發現如何表示各種對映運算的理念之外，用矩陣逆矩陣解線性方程組至少有兩個優點。

首先，一旦找到逆矩陣，求解具有相同係數但常數項不同的方程組就變得簡單快捷：如果我們改變系統（$*$）右側的條目，我們會得到一個相關的解法問題

${\begin{pmatrix}1&1\\2&-1\end{pmatrix}}{\begin{pmatrix}x\\y\end{pmatrix}}={\begin{pmatrix}5\\1\end{pmatrix}}$

，並有相應的解法。

${\begin{pmatrix}x\\y\end{pmatrix}}={\begin{pmatrix}1/3&1/3\\2/3&-1/3\end{pmatrix}}{\begin{pmatrix}5\\1\end{pmatrix}}={\begin{pmatrix}2\\3\end{pmatrix}}$

在應用中，求解具有相同係數矩陣的多個方程組是很常見的。

逆矩陣的另一個優點是，我們可以探索系統對常數項變化的敏感性。例如，將系統（$*$）右側的 $3$ 微調為

${\begin{pmatrix}1&1\\2&-1\end{pmatrix}}{\begin{pmatrix}x_{1}\\x_{2}\end{pmatrix}}={\begin{pmatrix}3.01\\2\end{pmatrix}}$

可以使用逆矩陣來求解。

${\begin{pmatrix}1/3&1/3\\2/3&-1/3\end{pmatrix}}{\begin{pmatrix}3.01\\2\end{pmatrix}}={\begin{pmatrix}(1/3)(3.01)+(1/3)(2)\\(2/3)(3.01)-(1/3)(2)\end{pmatrix}}$

表明$x_{1}$ 改變了微調的$1/3$，而 $x_{2}$ 則移動了微調的$2/3$。例如，這種分析用於確定必須線上性模型中指定資料的精度，以確保解具有所需的精度。

最後，我們將描述通常用於求解逆矩陣的計算過程。

引理 4.8

矩陣可逆當且僅當它可以寫成初等變換矩陣的乘積。逆矩陣可以透過對單位矩陣進行相同的行變換（順序相同）來計算，這些行變換用於將可逆矩陣化為行階梯形。

證明

矩陣 $H$ 可逆當且僅當它是非奇異的，因此可以透過行變換化為單位矩陣。根據 推論 3.22，這種變換可以透過初等矩陣進行，即 $R_{r}\cdot R_{r-1}\dots R_{1}\cdot H=I$。該公式給出結果的兩部分。

首先，初等矩陣是可逆的，它們的逆矩陣也是初等矩陣。在該公式的左右兩邊分別乘以 $R_{r}^{-1}$，然後乘以 $R_{r-1}^{-1}$ 等，可以得到 $H$ 為初等矩陣的乘積 $H=R_{1}^{-1}\cdots R_{r}^{-1}\cdot I$（這裡的 $I$ 用於覆蓋平凡的 $r=0$ 情況）。

其次，矩陣的逆矩陣是唯一的，因此將上述等式與$H^{-1}H=I$進行比較可以看出，$H^{-1}=R_{r}\cdot R_{r-1}\dots R_{1}\cdot I$。因此，對單位矩陣依次應用$R_{1}$，再應用$R_{2}$，等等，就會得到$H$的逆矩陣。

示例 4.9

要找到矩陣

${\begin{pmatrix}1&1\\2&-1\end{pmatrix}}$

的逆矩陣，我們可以進行高斯-若爾當消元，同時對單位矩陣執行相同的操作。為了便於記錄，我們將矩陣和單位矩陣並排寫，並一起進行消元步驟。

${\begin{array}{rcl}\left({\begin{array}{cc|cc}1&1&1&0\\2&-1&0&1\end{array}}\right)&{\xrightarrow[{}]{-2\rho _{1}+\rho _{2}}}&\left({\begin{array}{cc|cc}1&1&1&0\\0&-3&-2&1\end{array}}\right)\\&{\xrightarrow[{}]{-1/3\rho _{2}}}&\left({\begin{array}{cc|cc}1&1&1&0\\0&1&2/3&-1/3\end{array}}\right)\\&{\xrightarrow[{}]{-\rho _{2}+\rho _{1}}}&\left({\begin{array}{cc|cc}1&0&1/3&1/3\\0&1&2/3&-1/3\end{array}}\right)\end{array}}$

這個計算過程找到了逆矩陣。

${\begin{pmatrix}1&1\\2&-1\end{pmatrix}}^{-1}={\begin{pmatrix}1/3&1/3\\2/3&-1/3\end{pmatrix}}$

示例 4.10

這個例子碰巧從行交換開始。

${\begin{array}{rcl}\left({\begin{array}{ccc|ccc}0&3&-1&1&0&0\\1&0&1&0&1&0\\1&-1&0&0&0&1\end{array}}\right)&{\xrightarrow[{}]{\rho _{1}\leftrightarrow \rho _{2}}}&\left({\begin{array}{ccc|ccc}1&0&1&0&1&0\\0&3&-1&1&0&0\\1&-1&0&0&0&1\end{array}}\right)\\&{\xrightarrow[{}]{-\rho _{1}+\rho _{3}}}&\left({\begin{array}{ccc|ccc}1&0&1&0&1&0\\0&3&-1&1&0&0\\0&-1&-1&0&-1&1\end{array}}\right)\\&\vdots \\&{\xrightarrow[{}]{}}&\left({\begin{array}{ccc|ccc}1&0&0&1/4&1/4&3/4\\0&1&0&1/4&1/4&-1/4\\0&0&1&-1/4&3/4&-3/4\end{array}}\right)\end{array}}$

示例 4.11

不可逆矩陣可以透過左側部分無法化簡為單位矩陣來識別。

$\left({\begin{array}{cc|cc}1&1&1&0\\2&2&0&1\end{array}}\right){\xrightarrow[{}]{-2\rho _{1}+\rho _{2}}}\left({\begin{array}{cc|cc}1&1&1&0\\0&0&-2&1\end{array}}\right)$

該過程可以找到一般 $n\!\times \!n$ 矩陣的逆矩陣。 $2\!\times \!2$ 的情況非常實用。

推論 4.12

一個 $2\!\times \!2$ 矩陣的逆矩陣存在且等於

${\begin{pmatrix}a&b\\c&d\end{pmatrix}}^{-1}={\frac {1}{ad-bc}}{\begin{pmatrix}d&-b\\-c&a\end{pmatrix}}$

當且僅當 $ad-bc\neq 0$.

證明

此計算是 問題 10.

我們已經看到，就像矩陣乘法的機制小節中那樣，我們可以利用線性對映和矩陣之間的對應關係。因此我們可以有效地研究對映和矩陣，在兩者之間來回轉換，以幫助我們儘可能地解決問題。

在本節的全部四個小節中，我們已經為矩陣開發了一個代數系統。我們可以將其與實數的熟悉代數系統進行比較。在這裡，我們處理的不是數字，而是矩陣。我們有矩陣加法和減法運算，它們的工作方式與實數運算非常相似，只是它們只能組合相同大小的矩陣。我們還擁有矩陣乘法運算和與乘法逆運算。這些在某種程度上類似於熟悉的實數運算（例如，結合律和對加法的分配律），但也存在差異（例如，交換律的失效）。並且，我們有標量乘法，它在某些方面是實數乘法的另一種擴充套件。這個矩陣系統提供了一個示例，說明除了基本代數系統之外的其他代數系統也可以很有趣且有用。

練習

問題 1

提供 示例 4.10 中的中間步驟。

建議所有讀者做這道練習。

問題 2

使用 推論 4.12 判斷每個矩陣是否可逆。

1. ${\begin{pmatrix}2&1\\-1&1\end{pmatrix}}$
2. ${\begin{pmatrix}0&4\\1&-3\end{pmatrix}}$
3. ${\begin{pmatrix}2&-3\\-4&6\end{pmatrix}}$

建議所有讀者做這道練習。

問題 3

對於上一個問題中的每個可逆矩陣，使用推論 4.12 求出其逆矩陣。

建議所有讀者做這道練習。

問題 4

使用高斯-若爾當方法求出逆矩陣（如果存在）。對於 $2\!\times \!2$ 矩陣，使用 推論 4.12 檢查答案。

1. ${\begin{pmatrix}3&1\\0&2\end{pmatrix}}$
2. ${\begin{pmatrix}2&1/2\\3&1\end{pmatrix}}$
3. ${\begin{pmatrix}2&-4\\-1&2\end{pmatrix}}$
4. ${\begin{pmatrix}1&1&3\\0&2&4\\-1&1&0\end{pmatrix}}$
5. ${\begin{pmatrix}0&1&5\\0&-2&4\\2&3&-2\end{pmatrix}}$
6. ${\begin{pmatrix}2&2&3\\1&-2&-3\\4&-2&-3\end{pmatrix}}$

建議所有讀者做這道練習。

問題 5

哪個矩陣的逆矩陣是這個矩陣？

${\begin{pmatrix}1&3\\2&5\end{pmatrix}}$

問題 6

逆運算如何與矩陣的標量乘法和加法相互作用？

1. $rH$ 的逆矩陣是什麼？
2. 是否 $(H+G)^{-1}=H^{-1}+G^{-1}$?

建議所有讀者做這道練習。

問題 7

是否 $(T^{k})^{-1}=(T^{-1})^{k}$?

問題 8

是否 $H^{-1}$ 可逆的？

問題 9

對於每個實數 $\theta$，設 $t_{\theta }:\mathbb {R} ^{2}\to \mathbb {R} ^{2}$ 由該矩陣在標準基下表示。

${\begin{pmatrix}\cos \theta &-\sin \theta \\\sin \theta &\cos \theta \end{pmatrix}}$

證明 $t_{\theta _{1}+\theta _{2}}=t_{\theta _{1}}\cdot t_{\theta _{2}}$。也證明 ${t_{\theta }}^{-1}=t_{-\theta }$.

問題 10

完成 推論 4.12 證明中的計算。

問題 11

證明該矩陣

$H={\begin{pmatrix}1&0&1\\0&1&0\end{pmatrix}}$

有無窮多個右逆。也證明它沒有左逆。

問題 12

在 例 4.1 中，$\eta$ 有多少個左逆？

問題 13

如果一個矩陣有無窮多個右逆，它可以有無窮多個左逆嗎？必須有嗎？

建議所有讀者做這道練習。

問題 14

假設 $H$ 是可逆的，並且 $HG$ 是零矩陣。證明 $G$ 是零矩陣。

問題 15

證明如果 $H$ 可逆，則其逆矩陣與矩陣 $GH^{-1}=H^{-1}G$ 可交換，當且僅當 $H$ 本身與該矩陣 $GH=HG$ 可交換。

建議所有讀者做這道練習。

問題 16

證明如果 $T$ 是方陣，並且如果 $T^{4}$ 是零矩陣，那麼 $(I-T)^{-1}=I+T+T^{2}+T^{3}$。推廣。

建議所有讀者做這道練習。

問題 17

設 $D$ 為對角矩陣。描述 $D^{2}$，$D^{3}$，...，等等。描述 $D^{-1}$，$D^{-2}$，...，等等。適當定義 $D^{0}$。

問題 18

證明任何與可逆矩陣行等價的矩陣也是可逆的。

問題 19

下面的第一個問題在矩陣乘法小節中以 問題 15 的形式出現。

1. 證明兩個矩陣的乘積的秩小於等於每個矩陣的秩的最小值。
2. 證明如果 $T$ 和 $S$ 是方陣，則 $TS=I$ 當且僅當 $ST=I$。

問題 20

證明置換矩陣的逆矩陣是其轉置矩陣。

問題 21

這個問題的前兩部分以 問題 12 的形式出現在矩陣乘法小節中。

1. 證明 ${{(GH)}^{\rm {trans}}}={{H}^{\rm {trans}}}{{G}^{\rm {trans}}}$。
2. 如果一個方陣的每個 $i,j$ 元素等於其 $j,i$ 元素（即，如果矩陣等於其轉置），則稱該方陣為對稱的。證明矩陣 $H{{H}^{\rm {trans}}}$ 和 ${{H}^{\rm {trans}}}H$ 是對稱的。
3. 證明轉置的逆矩陣等於逆矩陣的轉置。
4. 證明對稱矩陣的逆矩陣是對稱的。

建議所有讀者做這道練習。

問題 22

本問題開頭的條目出現在 矩陣乘法 小節的 問題 17 中。

1. 證明投影 $\pi _{x},\pi _{y}:\mathbb {R} ^{3}\to \mathbb {R} ^{3}$ 的複合是零對映，儘管它們本身都不是零對映。
2. 證明導數 $d^{2}/dx^{2},\,d^{3}/dx^{3}:{\mathcal {P}}_{4}\to {\mathcal {P}}_{4}$ 的複合是零對映，儘管它們本身都不是零對映。
3. 用矩陣方程表示上面兩個條目。

當兩個東西相乘得到零，而它們本身都不為零時，則稱它們為零因子。證明沒有零因子是可逆的。

問題 23

在實數代數中，只有兩個數，$1$ 和 $-1$，它們是它們自身的乘法逆元。那麼對於 $2\!\times \!2$ 矩陣而言，$H^{2}=I$ 是否只有兩個解？

問題 24

關係 "是某物的雙邊逆元" 是否具有傳遞性？自反性？對稱性？

問題 25

證明：如果一個方陣中每行元素的和都是 $k$，那麼該方陣的逆矩陣中每行元素的和都是 $1/k$。(Wilansky 1951)

解答

參考文獻

• Wilansky, Albert, "The Row-Sum of the Inverse Matrix", American Mathematical Monthly, Mathematical Association of America, 58 (9): 614 {{citation}}: Unknown parameter |month= ignored (help).