UMD 機率資格考試/2010 年 1 月機率

問題 1

令 $\{X_{nk}\},k=1,...,r_{n},n=1,2,...$ 為具有 $p_{nk}=P[X_{nk}=1]$ 的伯努利隨機變數的三角陣列。假設

$\sum _{k=1}^{r_{n}}p_{nk}\to \lambda \,{\text{ and }}\,\max _{k\leq r_{n}}p_{nk}\to 0.$

求 $\sum _{k=1}^{r_{n}}X_{nk}$ 的極限分佈。

解決方案

我們將證明它收斂於引數為 $\lambda$ 的泊松分佈。泊松分佈的特徵函式為 $e^{\lambda (e^{it}-1)}$ 。我們證明特徵函式 $E[\exp(it\sum _{k=1}^{r_{n}}X_{nk})]$ 收斂於 $e^{\lambda (e^{it}-1)}$ ，這意味著結果成立。

$\log E[\exp(it\sum _{k=1}^{r_{n}}X_{nk})]=\sum _{k=1}^{r_{n}}\log((1-p_{nk})+p_{nk}e^{it})=\sum _{k=1}^{r_{n}}\log(1-p_{nk}(1-e^{it}))=\sum _{k=1}^{r_{n}}(-p_{nk}(1-e^{it})+O(p_{nk}^{2}))$ . 根據我們的假設，這收斂於 $\lambda (e^{it}-1)$ .

問題 2

令 $X_{1},X_{2},...$ 是一個獨立同分布隨機變數序列，在 $[0,1]$ 上服從均勻分佈。證明

$\lim _{n\to \infty }(X_{1}X_{2}\cdots X_{n})^{1/n}$

以機率 1 存在，並計算其值。

解決方案

令 $Y_{n}=(X_{1}X_{2}\cdots X_{n})^{1/n}$ .

$\log(Y_{n})={\frac {1}{n}}\sum _{j=1}^{n}\log(X_{j})$ .

隨機變數 $\log(X_{j})$ 是獨立同分布的，並且具有有限的均值，

$E[\log(X_{j})]=\int _{0}^{1}\log(t)dt=-1$ .

因此，大數定律意味著 ${\frac {1}{n}}\sum _{j=1}^{n}\log(X_{j})$ 以機率 1 收斂到 $-1$ .

所以幾乎可以確定， $\log(Y_{n})$ 收斂到 $-1$ 且 $Y_{n}$ 收斂到 $e^{-1}$ .

問題 3

令 $\{X_{n}|n=0,1,2,...\}$ 是關於巢狀的 $\sigma$ -域序列 $\{{\mathcal {F}}_{n}\}$ 的平方可積鞅。假設 $E[X_{n}]=0$ 。證明

$P[\max _{1\leq k\leq n}|X_{k}|>\epsilon ]\leq E[X_{n}^{2}]/\epsilon ^{2}$ .

解決方案

由於 $X_{n}$ 是一個鞅， $|X_{n}|$ 是一個非負的次鞅，並且 $E[|X_{n}|^{2}]<\infty$ ，因為 $X_{n}$ 是平方可積的。因此， $|X_{n}|$ 滿足杜布鞅不等式的條件，因此結果成立。

問題 4

隨機變數 $X$ 在機率空間 $(\Omega ,{\mathcal {F}},P)$ 上定義。設 ${\mathcal {G}}_{1}\subset {\mathcal {G}}_{2}\subset {\mathcal {F}}$ ，並假設 $X$ 的方差有限。證明

$E[(X-E[X|{\mathcal {G}}_{2}])^{2}]\leq E[(X-E[X|{\mathcal {G}}_{1}])^{2}].$

換句話說， $X$ 相對於其條件均值的離散度隨著 $\sigma$ -域的增長而變小。

解決方案

$E[(X-E[X|{\mathcal {G}}_{1}])^{2}]=E[((X-E[X|{\mathcal {G}}_{2}])+(E[X|{\mathcal {G}}_{2}]-E[X|{\mathcal {G}}_{1}]))^{2}]$ $=E[(X-E[X|{\mathcal {G}}_{2}])^{2}]+E[(E[X|{\mathcal {G}}_{2}]-E[X|{\mathcal {G}}_{1}])^{2}]+2E[(X-E[X|{\mathcal {G}}_{2}])(E[X|{\mathcal {G}}_{2}]-E[X|{\mathcal {G}}_{1}])]$

我們將證明第三項為零。然後，由於第二項非負，因此結果成立。

$E[(X-E[X|{\mathcal {G}}_{2}])(E[X|{\mathcal {G}}_{2}]-E[X|{\mathcal {G}}_{1}])]=E[E[(X-E[X|{\mathcal {G}}_{2}])(E[X|{\mathcal {G}}_{2}]-E[X|{\mathcal {G}}_{1}])|{\mathcal {G}}_{2}]]$ 由全機率定律得出。

$E[(X-E[X|{\mathcal {G}}_{2}])(E[X|{\mathcal {G}}_{2}]-E[X|{\mathcal {G}}_{1}])|{\mathcal {G}}_{2}]=(E[X|{\mathcal {G}}_{2}]-E[X|{\mathcal {G}}_{1}])E[(X-E[X|{\mathcal {G}}_{2}])|{\mathcal {G}}_{2}]$ , 因為 $(E[X|{\mathcal {G}}_{2}]-E[X|{\mathcal {G}}_{1}])$ 是 ${\mathcal {G}}_{2}$ -可測的。

最後， $E[(X-E[X|{\mathcal {G}}_{2}])|{\mathcal {G}}_{2}]=E[X|{\mathcal {G}}_{2}]-E[E[X|{\mathcal {G}}_{2}]|{\mathcal {G}}_{2}]=E[X|{\mathcal {G}}_{2}]-E[X|{\mathcal {G}}_{2}]=0$

問題 5

考慮一個隨機變數序列 $X_{1},X_{2},\ldots$ ，使得 $X_{n}=1{\text{ or }}0$ 。假設 $P[X_{1}=1]\geq \alpha$ 並且

$P[X_{n}=1|X_{1},\ldots ,X_{n-1}]\geq \alpha >0{\text{ for n=2,3,}}\ldots$

證明

(a.) $P[X_{n}=1{\text{ for some n}}]=1.$

(b). $P[X_{n}=1{\text{ infinitely often}}]=1.$

解決方案

我們證明 $P[X_{n}=1{\text{ finitely often}}]=0.$ . 如果 $X_{n}=1$ 僅對有限個 $n$ 成立，那麼存在一個最大的索引 $T$ 使得 $X_{T}=1$ . 我們證明相反地，對於所有 $T$ ， $P[X_{n}=0{\text{ for all }}n\geq T]=0$ .

首先注意到， $P[X_{1}=0]\leq (1-\alpha )$ 以及 $P[X_{T}=0]=E[P[X_{T}=0|X_{1},X_{2},\ldots ,X_{T-1}]]\leq (1-\alpha ){\text{ for T}}>1$ .

設 $A_{n}^{(T)}$ 為事件 $[X_{T+n-1}=\ldots =X_{T}=0]$ ，則 $P[X_{n}=0{\text{ for all }}n\geq T]=P[A_{n}^{(T)}{\text{ occurs for all n}}]$ .

注意到 $P[A_{n}^{(T)}]=P[X_{T+n-1}=0|A_{n-1}^{(T)}]P[A_{n-1}^{(T)}]\leq (1-\alpha )P[A_{n-1}^{(T)}]{\text{ for n =2,3,}}\ldots$ 且 $P[A_{1}^{(T)}]=P[X_{T}=0]\leq (1-\alpha )$ 。因此 $P[A_{n}^{(T)}]\leq (1-\alpha )^{n}$ 且 $\lim _{n\rightarrow \infty }P[A_{n}^{(T)}]=0$ 。因此， $P[X_{n}=0{\text{ for all n}}\geq T]=0$ ，我們得到了想要的結論。