計量經濟學理論/漸近收斂

漸近收斂

收斂模式

機率收斂

機率收斂將在本書後面的內容中成為推導漸近分佈的一個非常有用的工具。它與分佈收斂一起，將是出現頻率最高的收斂模式。

定義

如果隨機變數序列 $\{X_{n};n=1,2,\cdots \}$ 機率收斂於 $X_{}$ ，則

\forall \epsilon ,\delta >0,

\exists N\;\operatorname {s.t.} \;\forall n\geq N,

\Pr\{|X_{n}-X|>\delta \}<\epsilon

一個等價的陳述是

\forall \delta >0,

\lim _{n\to \infty }\Pr\{|X_{n}-X|>\delta \}=0

這將寫成 $X_{n}{\begin{matrix}{\begin{matrix}{}_{p}\\\longrightarrow \\{}\end{matrix}}\end{matrix}}X$ 或 $\operatorname {plim} X_{n}=X$ 。

示例

$X_{n}={\begin{cases}\eta &1-{\begin{matrix}{\frac {1}{n}}\end{matrix}}\\\theta &{\begin{matrix}{\frac {1}{n}}\end{matrix}}\end{cases}}$

我們將假設這個級數在機率上收斂到退化的隨機變數 $\eta$ 。所以我們有：

$\forall \delta >0,\;\Pr\{|X_{n}-\eta |>\delta \}\leq \Pr\{|X_{n}-\eta |>0\}=\Pr\{X_{n}=\theta \}={\begin{matrix}{\frac {1}{n}}\end{matrix}}$

因此，在這種情況下，我們對機率收斂的定義是：

\forall \epsilon ,\delta >0,

\exists N\quad \operatorname {s.t.} \forall n\geq N,

\Pr\{|X_{n}-\eta |>\delta \}\leq \Pr\{|X_{n}-\eta |>0\}=\Pr\{X_{n}=\theta \}={\begin{matrix}{\frac {1}{n}}\end{matrix}}<\epsilon

因此，對於 $\epsilon \in \mathbb {R}$ 的任何正值，我們總能找到一個足夠大的 $N\in \mathbb {N}$ ，使得我們的定義得到滿足。因此，我們證明了 $X_{n}{\begin{matrix}{}_{p}\\\longrightarrow \\{}\end{matrix}}\eta$ 。

幾乎必然收斂

幾乎必然收斂與機率收斂有著顯著的相似性，然而，這種收斂模式的條件更強；正如我們稍後將看到的，幾乎必然收斂實際上意味著該序列也以機率收斂。

定義

如果隨機變數序列 $\{X_{n};n=1,2,\cdots \}$ 幾乎必然收斂到隨機變數 $X$ ，則：

\forall \delta >0,

\lim _{n\to \infty }\Pr\{\bigcup _{m\geq n}|X_{m}-X|>\delta ,\}=0

等價地

\Pr\{\lim _{n\to \infty }X_{n}=X\}=1

在這些條件下，我們使用符號 $X_{n}{\begin{matrix}{\begin{matrix}{}_{a.s.}\\\longrightarrow \\{}\end{matrix}}\end{matrix}}X$ 或 $\lim _{n\to \infty }X_{n}=X\operatorname {a.s.}$ .

示例

讓我們看看機率收斂部分中的例子是否也幾乎處處收斂。定義

$X_{n}={\begin{cases}\eta &1-{\begin{matrix}{\frac {1}{n}}\end{matrix}}\\\theta &{\begin{matrix}{\frac {1}{n}}\end{matrix}}\end{cases}}$

我們再次猜測收斂於 $\eta$ . 檢查得到的結果，我們發現

\Pr\{\lim _{n\to \infty }X_{n}=\eta \}=1-\Pr\{\lim _{n\to \infty }X_{n}\neq \eta \}=1-\Pr\{\lim _{n\to \infty }X_{n}=\theta \}\geq 1-\lim _{n\to \infty }{\begin{matrix}{\frac {1}{n}}\end{matrix}}=1

從而滿足了我們幾乎處處收斂的定義。

分佈收斂

分佈收斂將透過中心極限定理的使用在我們計量經濟學模型中頻繁出現。所以讓我們定義這種收斂型別。

定義

一個隨機變數序列 $\{X_{n};n=1,2,\cdots \}$ 在分佈上漸近收斂到隨機變數 $X$ ，如果對於所有連續點， $F_{X_{n}}(\zeta )\rightarrow F_{X}(\zeta )$ 。 $F_{X_{n}}(\zeta )$ 和 $F_{X_{}}(\zeta )$ 分別是 $X_{n}$ 和 $X$ 的累積分佈函式。

我們這裡關心的是隨機變數的分佈。考慮學生 t 分佈：隨著自由度 $n$ 的增加，我們的分佈越來越接近高斯分佈。因此，隨機變數 $Y_{n}\sim t(n)$ 在分佈上收斂到隨機變數 $Y\sim N(0,1)$ （注意，我們說隨機變數 $Y_{n}{\begin{matrix}{}_{d}\\\longrightarrow \\{}\end{matrix}}Y$ 作為一種記號上的輔助，我們真正應該使用的是 $f_{Y_{n}}(\zeta ){\begin{matrix}{}_{d}\\\longrightarrow \\{}\end{matrix}}f_{Y}(\zeta )$ /

示例

讓我們考慮分佈 X_n，它的樣本空間由兩個點組成，1/n 和 1，機率相等（1/2）。令 X 為二項分佈，其中 p = 1/2。那麼 X_n 在分佈上收斂到 X。

證明很簡單：我們忽略 0 和 1（X 的分佈在這些點上不連續），並證明對於所有其他點 a， ${\displaystyle \lim F_{X_{n}}(a)=F_{X}(a)\,}.$ 由於對於 a < 0，所有 Fs 都為 0，而對於 a > 1，所有 Fs 都為 1，因此只需證明 0 < a < 1 時的收斂性。但是 $F_{X_{n}}(a)={\frac {1}{2}}([a\geq {\frac {1}{n}}]+[a\geq 1])$ （使用艾弗森括號），因此對於任意 a 選擇 N > 1/a，對於 n > N，我們有

n>1/a\rightarrow a>1/n\rightarrow [a\geq {\frac {1}{n}}]=1\land [a\geq 1]=0\rightarrow F_{X_{n}}(a)={\frac {1}{2}}\,

因此，序列 $F_{X_{n}}(a)\,$ 在所有 _F__{_X_} 連續的點上收斂到 $F_{X}(a)\,$ 。

R 均方收斂

這本書不會使用 R 均方收斂，但為了完整起見，將在下面給出定義。

定義

如果對於任意實數 $r>0$ ，並且假設 $E(|X_{n}|^{r})<\infty$ 對於所有 n 和 $r\geq 1$ ，則隨機變數序列 $\{X_{n};n=1,2,\cdots \}$ 在 r 次方平均意義下（或在 $L^{r}$ 範數下）收斂到隨機變數 $X$ ，如果

$\lim _{n\to \infty }E\left(\left\vert X_{n}-X\right\vert ^{r}\right)=0.$

Cramer-Wold 器

Cramer-Wold 器將允許我們將隨機變數的收斂技術從標量擴充套件到向量。

定義

隨機向量 $\mathbf {X} _{n}{\begin{matrix}{}_{d}\\\longrightarrow \\{}\end{matrix}}\mathbf {X} \;\iff \;{\mathbf {\lambda } }^{\operatorname {T} }\mathbf {X} _{n}{\begin{matrix}{}_{d}\\\longrightarrow \\{}\end{matrix}}{\mathbf {\lambda } }^{\operatorname {T} }\mathbf {X} \quad \forall \lVert \mathbf {\lambda } \rVert \neq 0$ 。