微積分最佳化方法/約束最佳化

介紹

表示 $\mathbf {R} ^{n}$ 的一個子集主要有兩種方式 – **顯式** 和 **隱式**。

顯式表示將集合表示為一個函式的像，$X\to \mathbf {R} ^{n},$ 通常是從另一個歐幾里得空間或立方體到 $\mathbf {R} ^{n}$ 的函式的像，$\mathbf {R} ^{k}\to \mathbf {R} ^{n}$ 或 $[0,1]^{k}\to \mathbf {R} ^{n}.$ 這個函式可以解釋為一個具有 k 個輸入和 n 個輸出的向量值函式。

隱式表示將集合表示為一個函式或多個函式的原像，$\mathbf {R} ^{n}\to Y,$ 通常是到另一個歐幾里得空間的函式的原像$\mathbf {R} ^{n}\to \mathbf {R} ^{k},$，這可以解釋為 k 個單獨的實值函式（每個都有 n 個輸入），或作為 n 個輸入中的單個向量值函式。隱式表示通常將子集表示為水平集 或次水平集：透過子集元素必須滿足的等式或不等式。

簡而言之，顯式表示列出點，而隱式表示測試點：在顯式表示中，當人們遍歷輸入時，會得到所有輸出，而在隱式表示中，人們可以測試可能的點以檢視它們是否落入集合中：它們是否滿足約束。

有時可以在這兩種表示之間進行轉換，但通常這可能非常困難。

示例：圓和圓盤

圓

• $x^{2}+y^{2}=1$ 是一個隱式表示。
• $(\cos \theta ,\sin \theta )$ 其中 $\theta \in [0,1]\times [0,2\pi ]$ 是一個顯式表示。
• $\left({\frac {1-t^{2}}{1+t^{2}}},{\frac {t}{1+t^{2}}}\right)$ 其中 $t\in \mathbf {R}$ 是一個顯式表示。

圓盤

• $x^{2}+y^{2}\leq 1$ 是一個隱式表示
• $(r\cos \theta ,r\sin \theta )$ 對於 $(r,\theta )\in [0,1]\times [0,2\pi ]$ 是一個顯式表示。
• $\left(u{\frac {1-t^{2}}{1+t^{2}}},u{\frac {t}{1+t^{2}}}\right)$ 對於 $t\in \mathbf {R} ,u\in [0,1]$ 是一個顯式表示。

不同的表示可能或多或少有用。

注意事項：不完美的引數化

需要注意的是，顯式表示有時會多次命中同一個點（在圓的第一個表示中，$\theta =0$ 和 $\theta =2\pi$ 對映到同一個點，在圓盤的表示中，所有 $r=0$ 的點都對映到同一個點，即原點，$(0,0)$），或者錯過某個點（在第二個表示中，點 $(-1,0)$ 不會被任何有限的 t 命中 - 如果將域擴充套件到包括 $\infty ,$，那麼它可以被某些輸入命中）。這通常只是一個需要處理的小技術問題，例如透過排除 $\theta =2\pi$ 或包括 $t=\infty ,$，或者透過仔細檢查未命中或多次命中的點來解決。根本的數學問題是，被引數化的空間可能不是與用於引數化的空間同胚或微分同胚的：有人說，在不出現這些缺陷的情況下進行引數化存在“拓撲障礙”。

通常不必關注拓撲的細節，拓撲學是數學的一個主要領域，但是，與有界性原理和最大值原理一樣，拓撲理論是微積分最佳化方法有效性的基礎。

然而，值得一提的一個拓撲學（更準確地說是幾何學）觀察結果是，在許多應用中，所考慮的子集是一個凸集 - 它向外凸出，而不是向內，並且，此外，它是連通的（整體）並且中間沒有孔。在這些設定中，形狀在拓撲上是一個圓盤，或者在更高維度上是一個球體，因此可以討論形狀的內部（開n-球體）和一個邊界，在拓撲上將是一個簡單的球體（( $n-1$)-球體）而不是更復雜的東西。因此，在考慮這些問題時，將圓盤作為子集的典型示例，其普遍性幾乎沒有損失。

顯式：引數化

集合可以透過引數化顯式給出，例如，對於曲線，可以使用一個引數的引數方程，或者對於曲面，可以使用引數曲面（兩個引數的引數方程）。

隱式：約束

• 等式約束
• 不等式約束

討論

在尋找$f(x_{1},x_{2},\cdots ,x_{n})$在約束$g(x_{1},x_{2},\cdots ,x_{n})=k$下的極值時，上面找到的駐點將不再適用。這個問題可以被認為是在點$(x_{1},x_{2},\dots ,x_{n})$被限制在曲面$g(x_{1},x_{2},\dots ,x_{n})=k$上時，尋找$f(x_{1},x_{2},\dots ,x_{n})$的極值。當曲面相互接觸時，$f(x_{1},x_{2},\dots ,x_{n})$的值達到最大（最小），即，它們具有共同的切線。這意味著這兩個曲面在該點的梯度向量平行，因此，

$\nabla f(x_{1},x_{2},\cdots ,x_{n})=\lambda \nabla g(x_{1},x_{2},\cdots ,x_{n}).$

方程式中的數$\lambda$稱為拉格朗日乘子。