如果門徒向蘇格拉底提問:「轉置矩陣是甚麼?」蘇格拉底一如既往地回答:「不知道。」門徒於是轉而查閱課本的說法:
給定一
階矩陣
,轉置矩陣是
階矩陣,記作
,其中
。
轉置矩陣 不過就是將
的行列對調位置而已,還有必要繼續討論下去嗎?「轉置矩陣
與原矩陣
有何關係?」誠懇向學的門徒不肯罷休又窮追猛問:「轉置矩陣
有什麼代數和幾何意義?」越是基本的問題往往越難給出令多數人滿意的答案。所以先聲明:以下言論僅為個人觀點,不代表本人服務的工作單位的立場。
從矩陣的行列交換來理解轉置矩陣只是霧裡看花。相對地,逆矩陣的意義就十分明顯,因為逆矩陣的定義直接點出它的性質:,不論解線性方程或線性變換都有直觀意義。令
為一
階方陣,
和
為
維向量。線性方程
可以解釋為
經過線性變換
映射後得到的像 (image)。當
是可逆時,
使用圖示可以清楚表達這個關係:
來自逆矩陣的啟發,我們不妨嘗試用線性變換觀點來認識轉置矩陣。以下設 為
階實矩陣。既然任意矩陣
代表一線性變換,其轉置
當然也是線性變換,表面的差異是兩者的映射空間相反,即
為便利說明,我們將 和
的關係想像為兩方在打桌球。見下圖桌球平台,圖中顯示兩個向量空間,我方
空間居左,對方
空間居右;
代表我方的球路,由左向右映射,而
代表對方的球路,由右向左映射。
桌球平台還展示了四個主要子空間。設 ,
。若我方將球從
擊發,球至對方空間的落點為
;若對方將球從
擊出,球則落於
。將
的行空間 (column space,即值域)
想成我方球桌,
的行空間
為對方球桌。(在台灣,橫向稱為列,縱向稱為行。在中國大陸,橫向稱為行,縱向稱為列。) 當我方發球點
位於
的零空間
內時,
表示球彈落桌角後出界。同樣地,當對方發球點
,則
也表示球出界。設矩陣秩為
,則
,這說明了我方球桌與對方球桌「大小」相同,都等於矩陣秩。秩—零度定理 (見“線性代數基本定理(一)”) 進一步指出
和
的行空間維度與其零度 (nullity,即零空間的維度) 的關係:
到目前為止,桌球平台仍不足以完全解釋 和
的關係,我們要設法聯繫上圖顯示的四個擊球點和落點:
,
,
,
。注意,
和
同屬於
空間,
和
屬於
空間。我們猜想向量內積或許能夠提供一些有用的訊息,因為內積運算可以衍生向量長度的度量並建立子空間的正交關係。 考慮
向量
和
的內積
,結果等於
向量
和
的內積。數學家稱這種性質為伴隨 (adjoint),並用它來定義轉置矩陣:給定一
階實矩陣
,
階轉置矩陣
滿足
根據這個定義, 確實唯一存在嗎?存在性是無庸置疑的,我們只要證明唯一性即可。設
和
為
階矩陣且任意
,
均滿足
將二式相減,可得
令 ,就有
,因為
是任意向量,故
,證得
是唯一的。
利用轉置矩陣的內積定義很容易發現子空間的正交關係 (參閱“線性代數基本定理(二)”)。考慮任一 ,即
,則
,所以
,因為
是任意的,也就有
。同樣道理也可以證得
。再搭配秩—零度定理便推論出子空間的正交補集:
以伴隨性質來定義轉置矩陣還有另外兩個目的:
(1) 內積運算比單純地把行列對調更富幾何意義。當我們從實幾何向量空間延伸至其他的向量空間,內積的定義將有所不同,所謂的伴隨形式也將隨之調整改變。例如,“內積的定義”曾經介紹複向量 的標準內積為
,也就有
對複矩陣 而言,轉置必須變更為共軛轉置 (conjugate transpose)
方符合前述定義。
(2) 由伴隨性質出發可以輕易推論出轉置矩陣的代數性質。例如,欲證明 ,可對
連續使用兩次定義,先對
,再對
,得到
將上式與 相比較,即證得所求。如欲證明
,先對
使用定義並對調位置,再對
使用定義並對調位置:
所以, 也是
的轉置矩陣。
下面我們討論轉置矩陣的一個重要應用──最小平方法。見下圖,對方將球從 發出,球在我方桌面的落點為
。再輪到我方發球,球從
擊出至對方桌面位置
,對方反擊後彈回我方桌面並擊中
。如果球於我方桌面的兩次落點都在同一位置,即
這代表什麼意義?上式稱為正規方程式 (normal equations)。當此式成立時,,可知
,
正是
在對方桌面
的正交投影,根據正交原則,此時
距離最短。換句話說,我方雖未能將球直接擊中對方發球點
(因為我方總是將球打向對方桌面,而
未必在對方桌面上),但仍可令球朝著與
最接近的桌面位置擊發。當
時,
,我方桌面
充滿了整個
,
階方陣
是可逆的,可得出最小平方解
縱使當 時,
不可逆,仍然可於我方桌面找到一個滿足上式的解
,比較麻煩的是這時候需要使用偽逆矩陣計算 (見“通過推導偽逆矩陣認識線性代數的深層結構”)。
最後總結本文的討論:矩陣 與其轉置
的關係就像打乒乓球,
球路是「乒」,
球路是「乓」。我方乒過去,對方乓回來。對方是我方的「伴隨」球友,我方當然也是對方的「伴隨」球友,雙方共同遵守這條「乒乓協議」:
將轉置矩陣乒乓球化是我所能想到──既非十分抽象,也不過於粗淺──的解釋方法。如果讀者仍不能認同,我再提供另一個方法:想像一下,如果線性代數的世界少了轉置矩陣,哪些概念、理論和應用將因此消失?從遺失的部分反推,相信讀者也能夠建立他個人的一套轉置矩陣學說。