UMD 機率資格考試/2009 年 8 月機率

問題 1

設 $X_{1},...,X_{n}$ 是獨立同分布隨機變數，其矩生成函式為 $M(t)=E[\exp(tX_{1})]$ ，它對所有 $t$ 都是有限的。設 ${\tilde {X}}_{n}=(X_{1}+\cdots +X_{n})/n$ .

(a) 證明

$P[X_{1}>a]\leq exp[-h(a)]$ 其中

$h(a)=\sup _{t\geq 0}[at-\psi (t)]$ 且 $\psi (t)=\log M(t)$

(b) 證明

$P[{\tilde {X}}_{n}\geq a]\leq \exp[-nh(a)]$ .

(c) 假設 $E[X_{1}]=0$ 。利用 (b) 的結果來證明 ${\tilde {X}}_{n}\to 0$ 幾乎必然。

解決方案

(a) ${\begin{aligned}P[X_{1}>a]=&\int _{X_{1}>a}1\,dF=\int _{X_{1}>a}{\frac {\exp(ta)}{\exp(ta)}}\,dF\\=&e^{-at}\int _{X_{1}>a}e^{at}\,dF\leq e^{-at}\int _{X_{1}>a}e^{X_{1}t}\,dF\\\leq &e^{-at}\int _{\Omega }e^{X_{1}t}\,dF=e^{-at}E[\exp(tX_{1})]\end{aligned}}$

到目前為止，我們還沒有對 $t$ 施加任何條件。因此，上述不等式對所有 $t$ 成立，因此也對上確界成立，這給了我們想要的結果。

(b) ${\begin{aligned}P[{\tilde {X}}_{n}>a]=&\int _{{\tilde {X}}_{n}>a}1\,dF=\int _{{\tilde {X}}_{n}>a}{\frac {\exp(nta)}{\exp(nta)}}\,dF\\=&e^{-nat}\int _{\sum _{i=1}^{n}X_{i}>an}e^{nat}\,dF\leq e^{-nat}\int _{\sum _{i=1}^{n}X_{i}>an}e^{\sum _{i=1}^{n}X_{i}t}\,dF\\\leq &e^{-nat}\int _{\Omega }e^{\sum _{i=1}^{n}X_{i}t}\,dF=e^{-nat}(\int _{\Omega }e^{X_{i}t}\,dF)^{n}\end{aligned}}$ 其中最後一個等式來自於 $X_{i}$ 是獨立同分布的。

(c)

問題 2

設 $(\Omega ,{\mathcal {F}},P)$ 為一個機率空間；設 $X$ 為一個具有有限二階矩的隨機變數，設 ${\mathcal {G}}_{1}\subset {\mathcal {G_{2}}}$ 為子 $\sigma$ -域。證明：

$E[(X-E(X|{\mathcal {G}}_{2}))^{2}]\leq E[(X-E(X|{\mathcal {G}}_{1}))^{2}].$

解決方案

問題 3

設 $N_{1}(t),N_{2}(t)$ 為獨立的速率分別為 $\lambda _{1},\lambda _{2}$ 的齊次泊松過程。設 $Z$ 為過程 $N_{1}(t)+N_{2}(t)$ 第一次跳躍的時間，設 $J$ 為產生第一次跳躍的成分過程的隨機索引。求 $(J,Z)$ 的聯合分佈。特別地，證明 $J,Z$ 是獨立的，並且 $Z$ 服從指數分佈。

解決方案

證明 $Z$ 服從指數分佈

令 $\tau$ 是泊松過程 $N(t)$ 第一次跳躍的時間。

${\begin{aligned}p_{\tau }(x)=\lim _{\epsilon \to 0}{\frac {F_{\tau }(x)-F_{\tau }(x-\epsilon )}{\epsilon }}&=\lim _{\epsilon \to 0}{\frac {P(N(x)>0\cap N(x-\epsilon )=0)}{\epsilon }}\\=&\lim _{\epsilon \to 0}1/\epsilon \,P(N(x-\epsilon )=0)\cdot P(N(x)-N(x-\epsilon )>0)\\=&\lim _{\epsilon \to 0}1/\epsilon \,e^{-\lambda (x-\epsilon )}\cdot {\frac {\lambda \epsilon }{1}}e^{-\lambda \epsilon }=\lambda e^{-\lambda x}\end{aligned}}$

$N_{1}(t)+N_{2}(t)$ 是引數為 $\lambda _{1}+\lambda _{2}$ 的泊松過程。

證明：需要檢查三個條件

(i) $N_{1}(0)+N_{2}(0)=0$ 幾乎處處成立

(ii) 對於 $t>s$ ， $(N_{1}(t)+N_{2}(t)-N_{1}(s)-N_{2}(s)$ 與 $N_{1}(s)+N_{2}(s)$ 獨立嗎？這是成立的，因為 $N_{1},N_{2}$ 都是泊松過程，並且彼此獨立。

(iii) 對於 $t>s$ ， $(N_{1}(t)+N_{2}(t)-N_{1}(s)-N_{2}(s)$ 服從引數為 $t-s$ 的泊松分佈嗎？這是正確的，因為獨立泊松過程的和也是泊松過程。(見第二點)

(J,Z) 的聯合分佈

$P(J=1,Z=x)=\lambda _{1}e^{-\lambda _{1}x}$

$P(J=2,Z=x)=\lambda _{2}e^{-\lambda _{2}x}$

問題 4

設 $(X_{n},{\mathcal {F}}_{n})$ 是一個鞅序列，對於每個 $n$ ，設 $\epsilon _{n}$ 是一個 ${\mathcal {F}}_{n-1}$ -可測隨機變數。定義

$Y_{n}=\sum _{i=1}^{n}\epsilon _{i}(X_{i}-X_{i-1}),\quad Y_{0}=0$

假設 $Y_{n}$ 對每個 $n$ 都是可積的，證明 $Y_{n}$ 是一個鞅。

解決方案

問題 5

令 $X_{1},...,X_{n}$ 為一個獨立同分布的序列，其中 $E[X_{i}]=0$ 且 $V[X_{i}]=\sigma ^{2}<\infty$ 。證明對於任意 $\gamma >1/2$ ，級數 $\sum _{k=1}^{\infty }X_{k}/k^{\gamma }$ 幾乎處處收斂。

解決方案

定義 $Z_{k}:=X_{k}/k^{\gamma }$ 。則 $E[Z_{k}]=0$ 且 $V[Z_{k}]={\frac {\sigma ^{2}}{k^{2\gamma }}}$ 。我們檢查柯爾莫哥洛夫三級數定理的三個組成部分，得出結論 $\sum _{k=1}^{\infty }Z_{k}$ 幾乎處處收斂。