統計學/機率論/貝葉斯

貝葉斯分析是統計學的一個分支，其基礎思想是我們事先對感興趣的機率有一些瞭解，這些機率被稱為先驗機率。這可能是您對特定事件的信念程度、先前研究的結果，或機率的一般商定起始值。“貝葉斯”一詞來源於貝葉斯規則或定律，這是關於條件機率的一個定律。“貝葉斯”的對立面有時被稱為“頻率統計”。

示例

考慮一個裝有3枚硬幣的盒子，它們正面朝上的機率分別為1/4、1/2和3/4。我們任意選擇其中一枚硬幣。因此，我們將1/3作為先驗機率$P(C_{1})$，表示選擇了第1枚硬幣。經過5次拋擲，其中X=4次正面朝上，似乎不太可能是第1枚硬幣。我們計算第1枚硬幣的後驗機率，如下所示：

${\begin{aligned}P(C_{1}|X=4)&={\frac {P(X=4|C_{1})P(C_{1})}{P(X=4)}}\\&={\frac {P(X=4|C_{1})P(C_{1})}{P(X=4|C_{1})P(C_{1})+P(X=4|C_{2})P(C_{2})+P(X=4|C_{3})P(C_{3})}}\\&={\frac {{5 \choose 4}({\frac {1}{4}})^{4}{\frac {3}{4}}{\frac {1}{3}}}{{5 \choose 4}({\frac {1}{4}})^{4}{\frac {3}{4}}{\frac {1}{3}}+{5 \choose 4}({\frac {1}{2}})^{4}{\frac {1}{2}}{\frac {1}{3}}+{5 \choose 4}({\frac {3}{4}})^{4}{\frac {1}{4}}{\frac {1}{3}}}}\end{aligned}}$

用文字描述

已知拋擲五次硬幣的結果為四次正面，則硬幣為第一枚硬幣的機率……等於已知硬幣為第一枚硬幣的情況下，拋擲五次硬幣出現四次正面的機率，乘以硬幣為第一枚硬幣的機率。所有這些都除以拋擲五次硬幣出現四次正面的機率（不考慮選擇哪枚硬幣）。二項式係數以及所有分母在將1/2擴充套件到2/4時都會抵消。這將得到

${\frac {3}{3+32+81}}={\frac {3}{116}}$

同樣地，我們發現

$P(C_{2}|X=4)={\frac {32}{3+32+81}}={\frac {32}{116}}$

以及

$P(C_{3}|X=4)={\frac {81}{3+32+81}}={\frac {81}{116}}$.

這表明，在檢查了五次拋擲的結果後，我們最有可能選擇了第三枚硬幣。

實際上，對於給定的結果，分母並不重要，只有相對機率$p(C_{i})=P(C_{i}|X=4)/P(X=4)$ 當結果為三次正面時，機率會傾向於第二枚硬幣，並且如下表所示，機率會進一步發生變化。

正面次數	$p(C_{1})$	$p(C_{2})$	$p(C_{3})$
5	1	32	243
4	3	32	81
3	9	32	27
2	27	32	9
1	81	32	3
0	243	32	1