數學物理學導論/統計物理學/熵最大化

一般而言，一個系統由兩種型別的變數描述。外部變數 $y^{i}$，其值在 $y_{j}$ 處固定，由外部和內部變數 $X^{i}$ 決定，這些變數可以自由波動，只有它們的平均值被固定在 ${\bar {X^{i}}}$。因此，要解決的問題如下：

問題

找到狀態 $(l)$ 上的分佈機率 $P_{l}$，該機率最大化了熵

$S=-k_{B}\sum P_{l}\ln(P_{l})$

並驗證以下約束

${\begin{matrix}\sum X_{l}^{i}P_{l}&=&{\bar {X^{i}}}\\\sum P_{l}&=&1\end{matrix}}$

使用拉格朗日乘子技術對熵泛函進行最大化。結果是

$P_{l}={\frac {1}{Z}}e^{-\lambda _{1}X_{l}^{1}-\lambda _{2}X_{l}^{2}-...}$

其中函式 $Z$，稱為配分函式，\index{配分函式} 定義為

$Z=\sum _{(l)}e^{-\lambda _{1}X_{l}^{1}-\lambda _{2}X_{l}^{2}-...}$

數字 $\lambda _{i}$ 是所考慮的最大化問題的拉格朗日乘子。

例子

在能量可以圍繞固定平均值波動的情況下，拉格朗日乘子是

$\beta ={\frac {1}{k_{B}T}}$

其中 $T$ 是溫度。\index{溫度} 因此，我們得到了溫度的數學定義。

例子

如果粒子數量可以在固定平均值附近自由波動，則相關的拉格朗日乘子記為$\beta \mu$，其中$\mu$被稱為化學勢。

關於平均值的關係 是

$S/k=\sum \lambda _{i}{\bar {X^{i}}}+\ln(Z)$

將$L$與$S$聯絡在一起的這個關係被稱為**勒讓德變換**。\index{Legendre transformation} $L$是$y^{i}$和$\lambda _{j}$的函式，$S$是$y^{i}$和${\bar {X^{j}}}$的函式。