工程師與科學家高階數學/向量空間：數學遊樂場

向量空間：數學遊樂場

偏微分方程的研究需要對所處理的數字型別及其處理方式有一個明確的定義。 PDE 通常在某些型別的向量空間中研究，這些向量空間具有一些屬性和規則，這些屬性和規則使分析成為可能，並統一了許多概念。

實數域

域是一個集合，該集合與集合上的兩個運算相關聯，稱為加法和乘法，這些運算遵循某些規則，稱為公理。字母 $F$ 將用於表示域，根據定義，域需要以下內容 ( $a,b,$ 和 $c$ 屬於 $F$ )

加法和乘法的封閉性：域成員的加法和乘法產生相同域的成員。
加法和乘法是結合律的： $a+(b+c)=(a+b)+c$ 和 $a(bc)=(ab)c$ .
加法和乘法是交換律的： $a+b=b+a$ 和 $ab=ba$ .
加法和乘法是分配律的： $a(b+c)=ab+ac$ 和 $ab=ba$ .
加法單位元素的存在：在 $F$ 中存在一個元素，記為 0，有時稱為零個數字的和，使得 $a+0=a$ .
乘法單位元素的存在：在 $F$ 中存在一個與 0 不同的元素，記為 1，有時稱為零個數字的積，使得 $a\ 1=a$ .
加法逆元的存在：在 $F$ 中，與 $a$ 相關的元素表示為 $-a$ ，使得 $a-a=0$ 。
乘法逆元的存在：在 $F$ 中，與 $a$ 相關的元素（如果 $a$ 不等於零），表示為 $1/a$ ，使得 $a\ 1/a=1$ 。

這些被稱為域公理。我們所處理的域，也是最常見的域，是實數域。與實數域相關的集合是實數集合，加法和乘法是每個人都知道的熟悉運算。

另一個可以形成域的集合的例子是理數集合，理數可以表示為兩個整數的比率。一個常見的不能形成域的集合的例子是整數集合：一般來說，不存在乘法逆元，因為整數的倒數一般不是整數。

請注意，當我們說一個物件是在 $F$ 中時，是指該物件是域相關集合的成員，並且它符合域公理。

向量

大多數非數學專業的學生被教導說向量是數量的有序組（“元組”）。這並不完整，向量比這更一般。非正式地說，向量被定義為可以縮放並與其他向量相加的物件。這將在稍後變得更加具體。

向量的例子

實數。
實數對、三元組等。
多項式。
大多數函式。

非向量的例子

擴充套件實數的成員。具體來說，無窮大和負無窮大元素既不能縮放也不能相加。
整數，至少在被實數縮放時（因為結果不一定是一個整數）。

需要注意的一個有趣（讀：令人困惑）的事實是，根據上面的定義，矩陣甚至張量都符合向量的條件，因為它們可以被縮放或相加，即使這些物件被認為是更“傳統”向量的推廣，而將張量稱為向量會導致混淆。

向量空間

向量空間可以看作是域的推廣。

設 $F$ 表示某個域，那麼在 $F$ 上的向量空間 $V$ 是一個向量集合，與兩個稱為向量加法和標量乘法的運算相關聯，表示為

向量加法： $u+v=w$ ，其中 $u,v,w\in V$ 。
標量乘法: $au=v$ ，其中 $u,v\in V$ 且 $a\in F$ .

集合 $V$ 中的成員稱為向量，而與 $V$ 相關的域 $F$ 中的成員稱為標量。請注意，這些運算意味著封閉（見第一個域公理），因此不需要明確說明。還要注意，這本質上定義了向量：可以相加和縮放的物件。向量空間必須符合以下公理（ $u,v,$ 和 $w$ 在 $V$ 中； $a$ 和 $b$ 在 $F$ 中）。

加法是結合的: $u+(v+w)=(u+v)+w$ .
加法是交換的: $u+v=v+u$ .
標量乘法對向量加法滿足分配律: $a(u+v)=au+av$ .
標量乘法對域加法滿足分配律: $(a+b)u=au+bu$ .
標量和域乘法是相容的: $a(bu)=(ab)u$ .
存在加法單位元: 集合 $V$ 中存在一個元素，記為 0，使得 $u+0=u$ .
加法逆元的存在性：在 $V$ 中存在一個與 $u$ 相關的元素，記為 $-u$ ，使得 $u-u=0$ 。
乘法單位元的存在性：在 $F$ 中存在一個不同於 0 的元素，記為 1，使得 $1v=u$ 。

向量空間的一個例子是多項式作為實數域上的向量。一個不是向量空間的例子是向量是實數域上的有理數，因為標量乘法會導致不是有理數的向量（暗示標量乘法下的封閉性被違反）。

類比於線性函式，向量本質上是線性的，因此向量空間也被稱為線性空間。術語“線性向量空間”也被使用，但這有點多餘，因為不存在非線性向量空間。現在值得一提的是一個重要的數量，叫做線性組合（不是向量空間定義的一部分，但很重要）

a_{1}u_{1}+a_{2}u_{2}+\cdots =\sum a_{i}u_{i}\,

其中 $a_{i}$ 是一個域元素的序列，而 $u_{i}$ 是一個向量的序列。向量可以透過其他向量的線性組合來形成這一事實是向量域的本質所在。

請注意，域本身上的域可以作為一個向量空間。實數域和其他常見物件有時被稱為空間，因為距離和其他有用的概念適用。

向量空間的定義非常普遍。請注意，例如，沒有提到向量之間的任何型別的乘積，也沒有關於向量“長度”的概念。上面定義的向量空間非常原始，但它是一個起點：透過各種擴充套件，特定的向量空間可以擁有許多很好的性質和其他特徵，使我們的遊樂場既有趣又舒適。我們將討論基（basis的複數形式），然後介紹一些特定的向量空間。

基

$V$ 的一個非空子集 $W$ 如果 $W$ 本身是一個向量空間，則被稱為 $V$ 的線性子空間。要求 $W$ 是一個向量空間可以安全地具體化為： $W$ 在向量加法和標量乘法下封閉，因為向量空間的其他性質都是繼承的。

一組 $n$ 個向量 $u_{1},u_{2},\dots ,u_{n}$ 在 $V$ 中的 線性生成空間 可以定義為

\mathrm {span} (u_{1},u_{2},\dots ,u_{n})=\bigcap _{\mathrm {All} \ a_{i}}a_{1}u_{1}+a_{2}u_{2}+\cdots +a_{n}u_{n}

其中 $a_{1},a_{2},\dots a_{n}\in F$ 。線性生成空間是所有 $a_{i}$ 的選擇組合的交集。這個概念可以擴充套件到 $n$ 不一定是有限的情況。 $V$ 的生成空間是 $V$ 的所有線性子空間的交集。

現在，考慮從集合 $u_{1},u_{2},\dots ,u_{n}$ 中移除一個向量會發生什麼。生成空間會改變嗎？不一定會，可能剩餘的向量在生成空間中已經足夠“填補”缺少的向量，透過剩餘向量的 線性組合 來實現。

令 $B$ 是 $V$ 的一個子集。如果 $B$ 的生成空間與 $V$ 的生成空間相同，並且從 $B$ 中移除一個向量必然會改變其生成空間，那麼向量集 $B$ 被稱為 $V$ 的基底，而 $B$ 中的向量被稱為 線性無關 的。可以證明，對於每個向量空間都可以構造一個基底。

需要注意的是，基底不是唯一的。這種對基底的模糊定義非常方便，因為它非常廣泛，值得完全理解。向量空間的一個重要性質是它必然有一個基底，並且空間中的任何向量都可以寫成基底元素的線性組合。

這裡提供了一個更易懂（但不太基礎）的解釋：對於在域 $F$ 上的向量空間 $V$ ，向量 $u_{1},u_{2},\dots u_{n}\,$ 構成了 $V$ 的基底（其中 $u_{i}$ 在 $V$ 中，並且下面的 $a_{i}$ 在 $F$ 中），滿足以下性質

基向量線性無關：如果

v=a_{1}u_{1}+a_{2}u_{2}+\cdots +a_{n}u_{n}=0

那麼

a_{1}=a_{2}=\cdots =a_{n}=0

沒有例外。

基向量張成 $V$ ：對於給定的 $v$ 在 $V$ 中，可以選擇 $a_{i}$ 使得

a_{1}u_{1}+a_{2}u_{2}+\cdots +a_{n}u_{n}=v\,

向量空間的基向量通常表示為 $e_{i}$ 。

歐幾里得n維空間

由於大多數學生都熟悉歐幾里得n維空間，因此本節更多地是作為示例而非其他內容。

設 $\mathbb {R}$ 為實數域，則向量空間 $\mathbb {R} ^{n}$ 在 $\mathbb {R}$ 上定義為 $\mathbb {R}$ 中元素的n元組的空間。換句話說，更清楚地說

如果

x_{1},x_{2},\dots ,x_{n}{\mbox{ are }}\in \mathbb {R}

，則

\mathbf {x} =(x_{1},x_{2},\dots x_{n}){\mbox{ is }}\in \mathbb {R} ^{n}

，其中

\mathbf {x}

是向量空間

\mathbb {R} ^{n}

的向量。

這些向量被稱為n維座標，而向量空間 $\mathbb {R} ^{n}$ 被稱為實數座標空間；注意座標（與更一般的向量不同）通常以粗體表示，或者在字母上加箭頭。它們也被稱為空間向量、幾何向量，如果上下文允許，就簡稱為“向量”，有時也稱為“點”，儘管有些作者拒絕將點視為向量，認為點具有“固定”意義，因此點不能被加、乘或以其他方式操作。這樣做的部分原因是為了能夠說某個向量空間繫結到一個點，這個點被稱為原點。

歐幾里得n維空間 $E^{n}$ 是具有某些附加結構定義的特殊實數座標n維空間 $\mathbb {R} ^{n}$ ，它最終產生了（專門是這些）向量的幾何概念。

首先，定義一個內積，用尖括號或點表示

\langle \mathbf {x} ,\mathbf {y} \rangle =\mathbf {x} \cdot \mathbf {y} =\sum _{i=1}^{n}x_{i}y_{i}=x_{1}y_{1}+x_{2}y_{2}+\cdots +x_{n}y_{n}\,

這個數量，它將兩個向量轉換為一個標量（ $\mathbb {R}$ 的成員），在定義更多結構之前並沒有太大的幾何意義。在座標空間中，點積符號更受歡迎，這種乘積通常被稱為“點積”，尤其是在 $n=2$ 或 $n=3$ 時。這個內積的定義使 $E^{n}$ 成為一個內積空間。

接下來是範數，它根據內積定義

\|\mathbf {x} \|=|\mathbf {x} |={\sqrt {\mathbf {x} \cdot \mathbf {x} }}\,

當 $n=2$ 或 $n=3$ 時，用字母 x 兩邊加單豎線表示的符號很常見，這與實數尤其是複數的絕對值類似。對於座標空間，範數通常被稱為 $\mathbf {x}$ 的長度。這很快就會引出兩個向量之間距離的概念

d(\mathbf {x} ,\mathbf {y} )=\|\mathbf {x-y} \|\,

這只是“從” $\mathbf {y}$ 到 $\mathbf {x}$ 的向量的長度。

最後， $\mathbf {x}$ 和 $\mathbf {y}$ 之間的角度 $\theta$ 透過以下公式定義，對於 $0\leq \theta \leq \pi$ ,

\mathbf {x} \cdot \mathbf {y} =\|\mathbf {x} \|\|\mathbf {y} \|\cos(\theta )\quad \Rightarrow \quad \theta =\cos ^{-1}\left({\frac {\mathbf {x} \cdot \mathbf {y} }{\|\mathbf {x} \|\|\mathbf {y} \|}}\right)\,

這種角度定義的動機，適用於任何 $n$ ，源於這樣一個事實：我們可以證明， $\mathbb {R} ^{2}$ 中兩個向量的實際可測量角度滿足上述關係（範數的動機類似）。當然，討論這些二維角度和距離需要精確定義向量作為“箭頭”的概念（即，將向量與可以在紙上繪製的東西相關聯），但這會變得很複雜，而且大多數人已經潛意識地熟悉了這一點，這不是本介紹的重點。

這完成了 $E^{n}$ 的定義。在偏微分方程的文字中，對歐幾里得空間的全面介紹並不十分合適，它被包括在內是為了讓人們瞭解一個熟悉的向量空間是如何透過稱為“結構”的擴充套件從頭開始構建的。

巴拿赫空間

巴拿赫空間比歐幾里得空間更通用，它們標誌著我們從向量作為幾何物件到向量作為函式分析奇妙世界中的玩具的轉變。

簡而言之，巴拿赫空間被定義為任何完備賦範向量空間。具體細節如下。

內積

內積是一種向量運算，其結果為一個標量。這些向量是向量空間 $V$ 的成員，而標量是與 $V$ 相關的域 $F$ 的成員。定義了內積的向量空間被稱為“裝備”了內積，該空間是一個內積空間。 $u$ 和 $v$ 的內積通常記作 $\langle u,v\rangle$ 。

內積的真正通用定義會很長。通常，如果向量本質上是實數或複數（例如，複數座標或實值函式），則內積必須滿足以下公理

第一個變數的分配律： $\langle u+v,w\rangle =\langle u,w\rangle +\langle v,w\rangle$ 。
第一個變數的結合律： $\langle au,v\rangle =a\langle u,v\rangle$ 。
非退化和非負性： $\langle u,u\rangle \geq 0$ ，當且僅當 $u=0$ 時等式成立。
共軛對稱性: $\langle u,v\rangle ={\overline {\langle v,u\rangle }}$ .

注意，如果空間是實數空間，最後一個要求（上面的橫線表示複共軛）將簡化為 $\langle u,v\rangle =\langle v,u\rangle$ ，然後前兩個公理擴充套件到第二個變數。

內積的一個理想性質是某種正交性。只有當兩個非零向量的內積為零時，它們才被稱為正交。請記住，我們談論的是一般的向量，而不是特定的歐幾里得向量。

內積並非唯一，好的定義才是賦予特定空間質量的關鍵。例如，歐幾里得內積定義了歐幾里得距離和角度，這些量構成了歐幾里得幾何的基礎。

範數

範數通常，但並非總是，根據內積來定義，這就是為什麼內積首先被討論（為了技術上的準確性，巴拿赫空間並不一定需要內積）。範數是一種運算（用雙豎線表示），它接受一個向量並生成一個標量，必須滿足以下公理

可伸縮性: $\|au\|=a\|u\|$ .
三角不等式: $\|u+v\|\leq \|u\|+\|v\|$ .
非負性: $\|u\|\geq 0$ ，當且僅當 $u=0$ 時，等式成立。

事實是 $\|0\|=0$ 可以從上面兩個陳述中證明出來。

定義要求 $\|u\|=0$ *僅當* $u=0$ 時（將此與內積進行比較，內積即使輸入非零向量，也可以為零）；如果放寬此條件，使得 $\|u\|=0$ 對於非零向量也是可能的，則得到的運算稱為半範數。

兩個向量 $u$ 和 $v$ 之間的距離是一個有用的量，它根據範數定義

d(u,v)=\|u-v\|\,

距離通常被稱為度量，具有距離的向量空間被稱為度量空間。

完備性

如前所述，巴拿赫空間被定義為完備的賦範向量空間。範數已在上面描述，因此剩下要建立巴拿赫空間定義的只是完備性。

考慮向量空間 $V$ 中的一系列向量 $u_{i}$ 。如果這些向量“趨向於”某個“目標”向量，如圖所示，則這一系列向量被稱為柯西序列。更準確地說，如果總是可以透過選擇較大的 $m$ 和 $n$ 使距離 $d(u_{m},u_{n})$ 任意地小，則該序列為柯西序列。

柯西序列的極限 $u$ 為

u=\lim _{i\to \infty }u_{i}

如果每個柯西序列都存在一個也在 $V$ 中的極限，則稱向量空間 $V$ 是完備的。最終，巴拿赫空間是一個配備了完備範數的向量空間。注意，完備性意味著存在距離，這意味著每個巴拿赫空間都是一個度量空間。

歐幾里得 n 維空間就是一個完備的向量空間的例子。一個不完備的向量空間的例子是在有理數域上的有理數空間：有可能形成一個收斂於無理數的有理數序列。

希爾伯特空間

請注意，內積是在上面定義的，但在巴拿赫空間的定義中並沒有被使用。實際上，巴拿赫空間必須具有範數，但不一定需要具有內積。但是，如果巴拿赫空間中的範數是透過內積定義的，即

\|u\|={\sqrt {\langle u,u}}\rangle

則由此產生的特殊巴拿赫空間被稱為希爾伯特空間。希爾伯特空間在偏微分方程的研究中很重要（最終與某些相關性！），因為許多定理和重要結果僅在希爾伯特空間中有效。