矩陣分析-線性系統-1 定義、方程組解的表現形式和性質

http://www.cnblogs.com/pegasus/archive/2011/07/31/2121792.html  

1. 定義

線性系統（線性方程組）的一般形式如下，其中 是未知數,  是系數,   是常量。

 

線性方程組的列向量形式如下。從這個角落來看，常量b是系數列向量{a1,a2…,an}基於未知數的加權線性組合（linear combination）。這讓我們能夠利用向量空間（vector spaces）理論來分析問題。例如，系數列向量{a1,a2…,an}所有線性組合的集合稱為它們張成的空間。如果在這個空間上僅有唯一的線性組合，那麼這個方程有唯一解。

 

線性方程組的矩陣形式。The number of vectors in a basis for the span is now expressed as the rank of the matrix.

 

2. 方程組的解

2.1 幾何解釋

對於兩個變量（x 和 y) 的系統，每個線性等式對應xy-平面上的一條線，線上的點滿足此線性公式。對於這個線性系統（線性方程組），它的解必須滿足所有線性公式，因此它的解是所有線的交集，從而有三種情況：1）交集是一個點，有唯一解；2）是一條直線，有無窮個解；3）是空集，不存在解。

當有3各變量時，每個線性方程對於一個三維空間上的面。當有n各變量時，每個線性方程對於一個n維空間上的超平面。

                                                                               

                                               圖.2變量-2線性公式-唯一解                                                 圖。3變量-2線性公式-無窮解

 

2.2 解的表現形式

線性方程組的表現取決於方程組個數和未知數個數：

1）通常，方程個數m<未知數個數n時，有無窮多解，在某些情況下有唯一洗漱解（感知壓縮，Compressed Sensing)。這樣的系統稱為欠定系統（underdetermined system）

2）通常，方程個數m=未知數個數n時，有唯一解。這樣的系統稱為恰定系統。

3）通常，方程個數m>未知數個數n時，沒有解。這樣的系統稱為超定系統（overdetermined system）。

3. 方程組的性質

3.1 獨立性（Independence）

當線性方程組任一個方程都不能從其他方程推導出來時，稱線性系統的方程是獨立的。此時，每個方程含有變量的新信息。線性方程的獨立性等價於線性獨立（linear independence）。

例如，下面方程組不獨立，因為第3各方程是前兩個方程的和，圖形如下

                                                                                       

3.2 一致性（Consistency）

當線性方程組中方程的解相同時，稱線性系統的方程是一致的。當它們不一致時，導致矛盾，如1=3。

例如，下面方程組不一致，因為它導致6=12。由圖可見，這兩個不一致的方程對應兩個平行線。