工程分析/線性變換

線性變換

線性變換是作用於空間V中的向量的矩陣M，並生成不同空間W中的向量。我們可以這樣定義變換

$T:V\to W$

在上式中，我們說V是變換的域空間，W是變換的值域空間。另外，我們可以使用“函式符號”來表示變換，並將其寫成

$M(x)=Mx=y$

其中x是V中的向量，y是W中的向量。為了成為線性變換，疊加原理必須適用於變換

$M(av_{1}+bv_{2})=aM(v_{1})+bM(v_{2})$

其中a和b是任意標量。

零空間

方程的零空間是所有滿足以下關係的向量x的集合

$Mx=0$

其中M是線性變換矩陣。根據M的大小和秩，零空間中可能存在零個或多個向量。以下是一些需要記住的規則

1. 如果矩陣M可逆，則不存在零空間。
2. 零空間中的向量數量(N)是矩陣的秩(R)與矩陣的列數(C)之差

$N=R-C$

如果矩陣處於行階梯形式，則零空間中的向量數量由對角線上沒有前導1的行數給出。對於對角線上沒有前導1的每一列，零空間向量可以透過在該列向量的前導位置放置一個負一獲得。

我們用以下符號表示矩陣A的零空間

${\mathcal {N}}\{A\}$

線性方程

如果我們有一組關於變數x、標量係數a和標量結果b的線性方程，我們可以用矩陣符號這樣寫

$Ax=b$

其中x是m × 1向量，b是n × 1向量，A是n × m矩陣。因此，這是一個包含m個未知變數的n個方程組。有3種可能性

1. 如果秩(A)不等於秩([A b])，則不存在解
2. 如果秩(A) = 秩([A b]) = n，則存在唯一解
3. 如果秩(A) = 秩([A b]) < n，則存在無窮多個解。

完全解

線性方程的完全解由齊次解和特解之和給出。齊次解是變換的零空間，特解是滿足方程的x的值

$A(x)=b$

$A(x_{h}+x_{p})=b$

其中

$x_{h}$是齊次解，是滿足方程$A(x_{h})=0$的A的零空間

$x_{p}$ 是滿足方程 $A(x_{p})=b$ 的特解。

最小范數解

如果 Rank(A) = Rank([A b]) < n，則線性方程有無窮多個解。在這種情況下，必須找到稱為最小范數解的解。該解代表問題的“最佳”解。要找到最小范數解，我們必須在以下約束條件下最小化 x 的範數：

$Ax-b=0$

根據給定約束最小化值的方法有很多，我們將在以後討論它們。

最小二乘曲線擬合

如果 Rank(A) 不等於 Rank([A b])，則線性方程無解。但是，我們可以找到最接近的解。這個“最佳擬合”解被稱為最小二乘曲線擬合。

我們定義一個誤差量 E，使得

$E=Ax-b\neq 0$

然後我們的任務是找到 E 的範數的最小值

$\|E\|^{2}=\|Ax-b\|^{2}=<Ax-b,Ax-b>$

我們透過對 x 進行微分並將結果設為零來做到這一點

${\frac {\partial \|E\|^{2}}{\partial x}}=2A'(Ax-b)=0$

求解後，我們得到結果

$x=(A^{T}A)^{-1}A^{T}b$