可逆矩陣定理

本文的閱讀等級：初級

可逆矩陣定理貫穿線性代數的許多重要主題，如線性方程、線性獨立、向量空間、行列式、特徵值和奇異值；不論準備考試或自我充實，可逆矩陣定理好比「線代雞湯」是極佳的觀念複習濃縮菁華。本文並未給出可逆矩陣定理的完整證明，僅解釋部分陳述並說明常用的推論路徑。

 

可逆矩陣定理

設 $$A$$ 為 $$n\times n$$ 階實矩陣，可逆矩陣定理包含以下等價的陳述。

(1) $$A$$ 是可逆的，或者說存在 $$A^{-1}$$ 滿足 $$A^{-1}A=I_n$$；

(2) $$A\mathbf{x}=\mathbf{0}$$ 僅存在平凡解 $$\mathbf{x}=\mathbf{0}$$；

(3) $$A\mathbf{x}=\mathbf{b}$$ 有唯一解 $$\mathbf{x}=A^{-1}\mathbf{b}$$；

(4) $$A$$ 有 $$n$$ 個 (非零) 軸 (pivot)；

(5) $$A$$ 的最簡列梯形陣式 (reduced row echelon form) 為單位矩陣 $$I_n$$；

(6)  $$A$$ 有線性獨立的行向量；

(7)  $$A$$ 有線性獨立的列向量；

(8)  $$\mathrm{rank}A=n$$；

(9)  $$A$$ 的行空間為 $$\mathbb{R}^n$$；

(10) $$A$$ 的列空間為 $$\mathbb{R}^n$$；

(11) $$A$$ 的零空間為 $$\{\mathbf{0}\}$$；

(12) $$A^T$$ 的零空間為 $$\{\mathbf{0}\}$$；

(13) $$\mathrm{det}A\neq 0$$；

(14) $$A$$ 的特徵值不為零；

(15) $$A^TA$$ 是 (對稱) 正定矩陣；

(16) $$A$$ 的奇異值大於零。

 

線性方程解

(1)

設 $$\mathbf{y}=A\mathbf{x}$$，此式可視之為 $$\mathbf{x}$$ 經過線性變換 $$A$$ 得到 $$\mathbf{y}$$。若 $$A$$ 是可逆的，則可由 $$\mathbf{y}$$ 得回 $$\mathbf{x}$$，圖示如 $$\mathbf{x}\overset{A}{\rightarrow}\mathbf{y}\overset{A^{-1}}{\rightarrow}\mathbf{x}$$，顯然 $$A^{-1}A=I$$，這對 $$\mathbf{x}$$ 不起任何作用，同樣 $$AA^{-1}=I$$ 對 $$\mathbf{y}$$ 也不產生作用。

(1)→(2)

若 $$A$$ 是可逆的，考慮 $$A\mathbf{x}=\mathbf{0}$$，等號兩端左乘 $$A^{-1}$$，左邊為 $$A^{-1}A\mathbf{x}=I\mathbf{x}=\mathbf{x}$$，右邊為 $$A^{-1}\mathbf{0}=\mathbf{0}$$，故 $$\mathbf{x}=\mathbf{0}$$。

(2)→(3)

我們改用反證法來證明。假設方程式 $$A\mathbf{x}=\mathbf{b}$$ 有兩相異解 $$\mathbf{u}$$ 和 $$\mathbf{v}$$，則 $$ A(\mathbf{u}-\mathbf{v})=A\mathbf{u}-A\mathbf{v}=\mathbf{b}-\mathbf{b}=\mathbf{0}$$，這與 (2) 矛盾，故 $$A\mathbf{x}=\mathbf{b}$$ 必有唯一解。

 

消去法

(4)

在線性聯立方程組中，軸的作用是鎖定未知數。若方程組有唯一解，所有的未知數必須都被鎖定，因此一個軸都不可少。

(3)→(5)

當方程組有唯一解 $$\mathbf{x}=A^{-1}\mathbf{b}$$，高斯—約當法將增廣矩陣 $$\begin{bmatrix}

A&\mathbf{b}

\end{bmatrix}$$ 化簡為 $$\begin{bmatrix}

I&A^{-1}\mathbf{b}

\end{bmatrix}$$，消去法求解的實質效果等於下面的矩陣乘法：

$$A^{-1}\begin{bmatrix}

A&\mathbf{b}

\end{bmatrix}=\begin{bmatrix}

A^{-1}A&A^{-1}\mathbf{b}

\end{bmatrix}=\begin{bmatrix}

I&A^{-1}\mathbf{b}

\end{bmatrix}$$

 

線性獨立

(2)→(6)

將 $$A\mathbf{x}=\mathbf{0}$$ 解讀為 $$A$$ 的行向量 $$\mathbf{a}_1,\ldots,\mathbf{a}_n$$ 之線性組合：

$$\begin{bmatrix}

\mathbf{a}_1&\cdots&\mathbf{a}_n

\end{bmatrix}\begin{bmatrix}

x_1\\

\vdots\\

x_n

\end{bmatrix}=x_1\mathbf{a}_1+\cdots+x_n\mathbf{a}_n=\mathbf{0}$$

如果 $$A\mathbf{x}=\mathbf{0}$$ 僅存在平凡解 $$\mathbf{x}=\mathbf{0}$$，這等於宣告 $$\mathbf{a}_1,\ldots,\mathbf{a}_n$$ 是線性獨立的。

(4)→(7)

以反證法證明。假如 $$A$$ 的列向量是線性相關，其中必定存在至少一列可表示其他列的線性組合，也就是說對 $$A$$ 執行高斯消去法將會產生至少一零列，這將使總軸數小於 $$n$$，與 (4) 矛盾。

 

秩與向量空間

(8)

我們定義矩陣 $$\mathrm{rank}A$$ 為線性獨立的行 (列) 向量總數，$$\mathrm{rank}A=n$$，此結果從陳述 (6)，(7)。

(6)→(9)

因為 $$n$$ 個線性獨立的 $$n$$-維行向量可作為向量空間 $$\mathbb{R}^n$$ 的一組基底，故 $$A$$ 的行空間即為 $$\mathbb{R}^n$$。

(7)→(10)

同樣道理，$$n$$ 個線性獨立的 $$n$$-維列向量可以當作 $$\mathbb{R}^n$$ 的基底，所以 $$A$$ 的列空間也為 $$\mathbb{R}^n$$。

(2)→(11)

方程式 $$A\mathbf{x}=\mathbf{0}$$ 僅存在平凡解 $$\mathbf{x}=\mathbf{0}$$ 說明 $$A$$ 的零空間僅含 $$\mathbf{0}$$。

(11)→(12)

令 $$B=A^T$$，若 $$A$$ 可逆，則 $$B$$ 也是可逆的。因為 $$A^T$$ 的零空間等於 $$B$$ 的零空間，由 (11) 可知 $$B$$ 的零空間為 $$\{\mathbf{0}\}$$。

 

行列式

(13)

最直接的想法：如果 $$\mathrm{det}A=0$$，那麼克拉瑪公式便給不出唯一解了。

 

特徵值與奇異值

(13)→(14)

矩陣 $$A$$ 的行列式等於其特徵值的乘積，由 (13) $$\mathrm{det}A\neq 0$$，因此 $$A$$ 的特徵值不為零。

(2)→(15)

假如有 $$\mathbf{x}\neq\mathbf{0}$$ 使得 $$\mathbf{x}^TA^TA\mathbf{x}=0$$，也就是 $$\Vert A\mathbf{x}\Vert^2=0$$，推知 $$A\mathbf{x}=\mathbf{0}$$，這與 (2) 矛盾，故 $$A^TA$$ 是正定矩陣。

(14)→(16)

$$A$$ 的奇異值是 $$A^TA$$ 的特徵值的正平方根，利用正定矩陣的特徵值大於零此性質，所以 $$A$$ 的奇異值大於零 。