馬里蘭大學機率資格考試/2015年1月機率

問題 1

一個骰子被無限次地擲出。 (a) 找出前 1000 次擲出中出現組合 (6,6) 的預期次數。找出前 1000 次擲出中出現組合 (1,2) 的預期次數。 (b) 哪個更大，以及大多少：第一次出現 (6,6) 的預期擲出次數，還是第一次出現 (1,2) 的預期擲出次數？ (c) (6,6) 比 (1,2) 先出現的機率是多少？

解答

(a) 令 $X_{n}$ 是第 n 次擲出的結果。前 1000 次擲出中出現 (6,6) 的次數由 $\sum _{n=1}^{999}\mathbb {I} (X_{n}=6{\text{ and }}X_{n+1}=6)$ 給出。

根據期望的線性性，

$E[\sum _{n=1}^{999}\mathbb {I} (X_{n}=6{\text{ and }}X_{n+1}=6)]=\sum _{n=1}^{999}E[\mathbb {I} (X_{n}=6{\text{ and }}X_{n+1}=6)]$

$=\sum _{n=1}^{999}\mathbb {P} (X_{n}=6{\text{ and }}X_{n+1}=6)=999/36$

類似地，前 1000 次擲出中出現 (1,2) 的次數為 999/36。

(b) 對於解決此類問題的通用方法，請參見 [1]。第一次出現 (6,6) 的預期等待時間為 6+36=42，而第一次出現 (1,2) 的預期等待時間為 0+36=36。

論證如下。假設我們繼續擲骰子，直到我們命中所需的模式。在每次擲出 n 時，一個新的賭徒開始遊戲，擁有 1 枚硬幣。在賭徒的第 i 次下注中，他下注模式的第 i 個字元將出現。如果賭徒輸了賭注，他就會損失所有硬幣。否則，他擁有的硬幣數量將是開始時的 6 倍。這是一個鞅，因此在遊戲結束時，根據可選停止定理，所有賭徒硬幣的預期總和等於加入遊戲的賭徒數量，即模式的預期等待時間。

對於模式 (6,6)，倒數第二個賭徒擁有 6 枚硬幣，最後一個賭徒擁有 36 枚硬幣。其他賭徒擁有 0 枚硬幣。

對於模式 (1,2)，最後一個賭徒擁有 36 枚硬幣。其他賭徒擁有 0 枚硬幣。

• 請注意，可選停止定理適用於此，因為停止時間的期望值是有限的，並且鞅增量是有界的。
• 解決此問題的更直接的方法是使用吸收馬爾可夫鏈。

(c) 由於模式不重疊，(6,6) 先出現的機率由預期等待時間給出，即 36：42。也就是說，(6,6) 先出現的機率是 36/(42+36)=6/13。

對於重疊的模式，分析會稍微複雜一些，請參見 Shuo-Yen Li 論文 [1] 中的推論 3.2。

[1] 重複實驗中序列模式出現研究的鞅方法，Shuo-Yen Li，機率年鑑

問題 2

如果一個隨機變數誘導的測度是離散的，我們就說它是離散的。如果一個隨機變數誘導的測度是絕對連續的，我們就說它是絕對連續的。證明或反證。 (a) 兩個離散隨機變數的和始終是離散的隨機變數。 (b) 一個離散隨機變數和一個絕對連續隨機變數的和始終是絕對連續的隨機變數。 (c) 兩個絕對連續隨機變數的和始終是絕對連續的隨機變數。 (d) 兩個獨立的離散隨機變數的和始終是離散的隨機變數。 (e) 一個離散隨機變數和一個獨立的絕對連續隨機變數的和始終是絕對連續的隨機變數。 (f) 兩個獨立的絕對連續隨機變數的和始終是絕對連續的隨機變數。

解答

(a) 正確。隨機變數是離散的，當且僅當它的值域是可數的。兩個隨機變數 A、B 的和的值域是 range(A)+range(B) 的和集的子集。如果 range(A) 和 range(B) 是可數的，則和集是可數的。

(b). 正確。 隨機變數 X 絕對連續當且僅當 $\mathbb {P} ({\text{X in E}})=0$ 對於任何 Lebesgue 零測集 E。令 Y 為一個離散隨機變數。 $\mathbb {P} (X+Y{\text{ in E}})\leq \mathbb {P} (X{\text{ in E}}-{\text{range(Y)}})=0$，因為可數個 Lebesgue 零測集的並集仍然是 Lebesgue 零測集。

(c). 錯誤。 對於任何絕對連續的隨機變數 X，-X 也是絕對連續的，而 X + (-X) = 0，這是一個離散隨機變數。

(d). 正確，根據 (a)

(e). 正確，根據 (b)

(f). 正確，分佈函式由卷積定理給出。

問題 3

假設 $\xi _{1},\xi _{2},\ldots$ 是在區間 $[-a_{1},a_{1}],[-a_{2},a_{2}],\ldots ,$ 上獨立均勻分佈的隨機變數，其中 $a_{1},a_{2},\ldots$ 為正數。令 $\eta _{n}=\prod _{i=1}^{n}\xi _{i}$ (a). 證明如果 $\lim \sup _{n\rightarrow \infty }a_{n}\leq 2$，那麼 $\eta _{n}$ 幾乎必然收斂於零。 (b). 證明如果 $\lim _{n\rightarrow \infty }(a_{n}/n^{2})=c>0$，那麼 $\eta _{n}$ 沒有極限。

解答

(a). 令 $\xi _{i}=\pm a_{i}X_{i}$，其中 $X_{i}$ 在 $[0,1]$ 上均勻分佈。

$\log |\eta _{n}|=\sum _{i=1}^{n}{(\log a_{i}+\log X_{i}})$

$E[\log X_{i}]=\int _{0}^{1}\log xdx=-1$

根據大數定律，

${\frac {1}{n}}\sum _{i=1}^{n}\log X_{i}$ 幾乎處處收斂於 -1。

$\lim \sup _{n\rightarrow \infty }a_{n}\leq 2\implies \lim \sup _{n\rightarrow \infty }{\frac {1}{n}}\sum _{i=1}^{n}\log a_{i}\leq \log 2<1$.

所以， $\log |\eta _{n}|$ 幾乎處處收斂於 $-\infty$。因此， $\eta _{n}$ 幾乎處處收斂於 0。

(b). 在這種情況下

$\lim \sup _{n\rightarrow \infty }{\frac {1}{n}}\sum _{i=1}^{n}\log a_{i}=\infty$

所以， $\log |\eta _{n}|$ 幾乎處處收斂於 $\infty$。因此，$|\eta _{n}|$ 幾乎處處收斂於 $\infty$。然而， $\eta _{n}$ 的符號幾乎處處無限次改變（根據第二波萊爾-坎特利引理），因此 $\eta _{n}$ 幾乎處處沒有極限。

問題 4

令 $(M_{t},{\mathcal {F}}_{t}),t\geq 0$，是一個正的連續鞅，當 $t\rightarrow \infty$ 時，幾乎處處收斂於零。 (a) 證明對於每個 $\lambda >0$ $\mathbb {P} (\sup _{t\geq 0}M_{t}\geq \lambda |{\mathcal {F}}_{0})=\min(1,M_{0}/\lambda )$. (b) 令 $W_{t}$ 是一個標準的一維布朗運動。證明對於每個 $a>0$，隨機變數 $\sup _{t\geq 0}(W_{t}-{\frac {1}{2}}at)$ 服從引數為 $a$ 的指數分佈。

解答

(a) 令 $\tau$ 是由 $\min(s,u)$ 給出的停時，其中 u 是 $M_{t}=\lambda$ 的首次出現時間。根據可選停時定理，

$M_{0}=E[M_{\tau }]=\mathbb {P} (\sup _{0\leq t\leq s}M_{t}\geq \lambda |{\mathcal {F}}_{0})\max(\lambda ,M_{0})+\mathbb {P} (\sup _{0\leq t\leq s}M_{t}<\lambda |{\mathcal {F}}_{0})E[M_{s}|\sup _{0\leq t\leq s}M_{t}<\lambda ,{\mathcal {F}}_{0}]$

由於 $M_{t}$ 幾乎處處收斂於零，取 $s$ 為無窮大時的極限，我們有 $\mathbb {P} (\sup _{t\geq 0}M_{t}\geq \lambda |{\mathcal {F}}_{0})=M_{0}/\lambda$，如果 $\lambda >M_{0}$。

顯然，如果 $M_{0}\geq \lambda$，$\mathbb {P} (\sup _{t\geq 0}M_{t}\geq \lambda |{\mathcal {F}}_{0})=1$。

(b) Wald 鞅 $X_{t}=e^{aW_{t}-{\frac {1}{2}}a^{2}t}$ 是一個眾所周知的鞅。

$\mathbb {P} (\sup _{t\geq 0}(W_{t}-{\frac {1}{2}}at)\geq s)=\mathbb {P} (\sup _{t\geq 0}(aW_{t}-{\frac {1}{2}}a^{2}t)\geq as)$

$=\mathbb {P} (\sup _{t\geq 0}e^{(aW_{t}-{\frac {1}{2}}a^{2}t)}\geq e^{as})=\mathbb {P} (\sup _{t\geq 0}X_{t}\geq e^{as})$

根據 (a)，

$\mathbb {P} (\sup _{t\geq 0}X_{t}\geq e^{as})=\min(1,e^{-as})=e^{-as}$

問題 5

假設 $\xi$ 是 $(X,{\mathcal {B}}(X),P)$ 上的有界隨機變數，其中 X 是一個度量空間，${\mathcal {B}}(X)$ 是它的 Borel $\sigma$-代數，P 是一個機率測度。假設對於所有 $x\in X$，都有 $\xi (x)\neq 0$。證明存在 X 上的有界連續函式 $\eta$，使得 $E[\xi \eta ]>0$.

解答

假設對於所有 x，都有 $|\xi (x)|<B$。根據 Lusin 定理，對於所有 $\epsilon$，都存在一個 *連續* 的 $f_{\epsilon }$，使得 $\mathbb {P} (\xi \neq f_{\epsilon })<\epsilon$ 且對於所有 x，都有 $|f_{\epsilon }(x)|<B$.

$E[\xi ^{2}]=C>0$

$E[\xi ^{2}]=\mathbb {P} (\xi =f_{\epsilon })E[\xi f_{\epsilon }|\xi =f_{\epsilon }]+\mathbb {P} (\xi \neq f_{\epsilon })E[\xi ^{2}|\xi \neq f_{\epsilon }]$

$E[\xi f_{\epsilon }]=\mathbb {P} (\xi =f_{\epsilon })E[\xi f_{\epsilon }|\xi =f_{\epsilon }]+\mathbb {P} (\xi \neq f_{\epsilon })E[\xi f_{\epsilon }|\xi \neq f_{\epsilon }]$

$=C-\mathbb {P} (\xi \neq f_{\epsilon })E[\xi ^{2}|\xi \neq f_{\epsilon }]+\mathbb {P} (\xi \neq f_{\epsilon })E[\xi f_{\epsilon }|\xi \neq f_{\epsilon }]$

$>C-2\epsilon B^{2}$

取 $\epsilon <C/(2B^{2})$ 和 $\eta =f_{\epsilon }$，則結果成立。

問題 6

假設在單位圓上獨立均勻地分佈了 n 個點。令 $\xi _{n}$ 為這些點之間距離的最小值。證明當 $n\rightarrow \infty$ 時，$n\xi _{n}$ 在機率上趨於零。

解答

令 $C>0$。將圓分成 $\lfloor Cn^{2}\rfloor$ 個長度相等的非相交弧。假設 $\lfloor Cn^{2}\rfloor >>n$。隨機選取 n 個點，至少有兩個點落在同一個弧上的機率為

$1-\prod _{i=0}^{n-1}(\lfloor Cn^{2}\rfloor -i)/(\lfloor Cn^{2}\rfloor )$

$1-\prod _{i=0}^{n-1}(1-i/(\lfloor Cn^{2}\rfloor ))\approx 1-e^{-1/2C}$

透過將C設為足夠小的值，我們可以確保

$e^{-1/2C}<\epsilon$

如果兩點落入同一個弧段，它們之間的距離小於

$2\pi /\lfloor Cn^{2}\rfloor$ 並且 $n\xi _{n}<{\frac {2\pi n}{\lfloor Cn^{2}\rfloor }}$

這個值趨近於0。由於 $\epsilon$ 可以任意小，我們得到 $n\xi _{n}$ 在機率上趨近於零。