令 $A \in \mathbb{R}^{m \times n}$ 為 實數矩陣 (有 $m$ rows 與 $n$ columns 故 $A$ 可不為方陣 )。我們通常有興趣求解下列形式的線性方程組 \[ A {\bf x} = {\bf b} \] 其中 ${\bf b} \in \mathbb{R}^m$ 且 ${\bf x} \in \mathbb{R}^n$ 為未知數待求。 往下閱讀之前,強烈建議讀者先回憶 以下幾個 線性代數 中的 基本名詞定義: 向量空間 (Vector Space) 子空間 (Subspace) 線性獨立 與 線性相關 (Linear Independence & Dependence) 矩陣的秩 (Rank) 線性生成 (Span) 基底 (Basis) 維度 (Dimension) 正交空間 (Orthogonal Space) 待上述基本概念補齊之後再往下閱讀: 線性代數基本定理 (Fundamental Theorem of Linear Algebra) 對於 $A {\bf x} = {\bf b}$ 何時有解 以及 何時有唯一解 給出了完整的條件 (參閱 G. Strang, " Linear Algebra and its Applications ") 。亦即 任意矩陣 $A_{m \times n}$ 且 $rank(A)=r$ ,則我們可將 $\mathbb{R}^n$ 空間 與 $\mathbb{R}^m$ 空間分解到四個基本子空間: 列空間(Column space) or (Range space ) $:= \mathcal{R}(A) \subset \mathbb{R}^m$; rank $r$ 零空間 (Null Space) or kernel $:=\mathcal{N}(A) \subset \mathbb{R}^n$; rank $n-r$ 行空間 (Row space) $:= \mathcal{R}(A') \subset \mathbb{R}^n $; rank $r$ 左零空間 (Left null space) $:= \mathcal{N}(A') \subset \mathbb{
If you can’t solve a problem, then there is an easier problem you can solve: find it. -George Polya