假設我們給定一個離散隨機變數 X {\displaystyle X} 的 pmf 和一個離散隨機變數 Y {\displaystyle Y} 的 pmf。例如, f X ( x ) = ( 1 { x = 0 } + 1 { x = 1 } ) / 2 and f Y ( y ) = ( 1 { y = 0 } + 1 { y = 2 } ) / 2 {\displaystyle f_{X}(x)=(\mathbf {1} \{x=0\}+\mathbf {1} \{x=1\})/2\quad {\text{and}}\quad f_{Y}(y)=(\mathbf {1} \{y=0\}+\mathbf {1} \{y=2\})/2} 僅憑這些資訊,我們無法判斷 X {\displaystyle X} 和 Y {\displaystyle Y} 之間的關係。它們可能相關或不相關。
例如,隨機變數 X {\displaystyle X} 可以定義為 X = 1 {\displaystyle X=1} 如果丟擲一個公平硬幣出現正面,否則為 X = 0 {\displaystyle X=0} ,而隨機變數 Y {\displaystyle Y} 可以定義為 Y = 2 {\displaystyle Y=2} 如果再次拋硬幣出現正面,否則為 Y = 0 {\displaystyle Y=0} 。在這種情況下, X {\displaystyle X} 和 Y {\displaystyle Y} 是不相關的。
另一種可能性是隨機變數 Y {\displaystyle Y} 被定義為 Y = 2 X {\displaystyle Y=2X} 如果第一次拋硬幣出現正面,否則為 Y = 0 {\displaystyle Y=0} 。在這種情況下, X {\displaystyle X} 和 Y {\displaystyle Y} 是相關的。
然而,在以上兩個例子中, X {\displaystyle X} 和 Y {\displaystyle Y} 的機率質量函式完全相同。
因此,為了說明 關係 在 X {\displaystyle X} 和 Y {\displaystyle Y} 之間,我們定義了 聯合 累積分佈函式,或者叫做聯合CDF。
定義。 (聯合累積分佈函式) 設 X 1 , … , X n {\displaystyle X_{1},\dotsc ,X_{n}} 是定義在樣本空間 Ω {\displaystyle \Omega } 上的隨機變數。隨機變數 X 1 , … , X n {\displaystyle X_{1},\dotsc ,X_{n}} 的 聯合 累積分佈函式 (CDF) 為 F ( x 1 , … , x n ) = P ( X 1 ≤ x 1 ∩ ⋯ ∩ X n ≤ x n ) = P ( ⋂ i = 1 n { ω ∈ Ω : X i ( ω ) ≤ x i } ) . {\displaystyle F(x_{1},\dotsc ,x_{n})=\mathbb {P} (X_{1}\leq x_{1}\cap \cdots \cap X_{n}\leq x_{n})=\mathbb {P} \left(\bigcap _{i=1}^{n}\{\omega \in \Omega :X_{i}(\omega )\leq x_{i}\}\right).}
有時,我們可能想知道一個聯合CDF中涉及的隨機變數的隨機行為。我們可以透過從聯合CDF計算邊際CDF來實現這一點。邊際CDF的定義如下
備註。 實際上, X i {\displaystyle X_{i}} 的邊際CDF 僅僅是 X i {\displaystyle X_{i}} 的CDF(它是單個變數的)。我們已經在前面的章節中討論了這種CDF。
命題。 (從聯合累積分佈函式 (CDF) 獲得邊緣 CDF)給定一個聯合 CDF F ( x 1 , … , x n ) {\displaystyle F(x_{1},\dotsc ,x_{n})} , X i {\displaystyle X_{i}} 的邊緣 CDF 是 F X i ( x ) = F ( ∞ , … , ∞ , x ⏟ i -th position , ∞ , … , ∞ ) . {\displaystyle F_{X_{i}}(x)=F(\infty ,\dotsc ,\infty ,\underbrace {x} _{i{\text{-th position}}},\infty ,\dotsc ,\infty ).}
備註。 一般來說,我們無法從給定的一組邊緣 CDF 推匯出聯合 CDF。
類似於單變數情況,我們有聯合 PMF 和聯合 PDF。同樣地,我們也有邊緣 PMF 和邊緣 PDF。
定義。 (聯合機率質量函式) X 1 , … , X n {\displaystyle X_{1},\dotsc ,X_{n}} 的 聯合機率質量函式 (聯合 PMF)為 f ( x 1 , … , x n ) = P ( ( X 1 , … , X n ) = ( x 1 , … , x n ) ) , ( x 1 , … , x n ) ∈ R n . {\displaystyle f(x_{1},\dotsc ,x_{n})=\mathbb {P} {\big (}(X_{1},\dotsc ,X_{n})=(x_{1},\dotsc ,x_{n}){\big )},\quad (x_{1},\dotsc ,x_{n})\in \mathbb {R} ^{n}.}
命題. (從聯合機率質量函式獲取邊緣機率質量函式) 對於離散隨機變數 X 1 , … , X n {\displaystyle X_{1},\dotsc ,X_{n}} ,其聯合機率質量函式為 f {\displaystyle f} ,則 X i {\displaystyle X_{i}} 的邊緣機率質量函式為 f X i ( x ) = ∑ u 1 ⋯ ∑ u i − 1 ∑ u i + 1 ⋯ ∑ u n ⏟ n − 1 summations f ( u 1 , … , u i − 1 , x , u i + 1 , … , u n ) . {\displaystyle f_{X_{i}}({\color {red}x})=\underbrace {\sum _{u_{1}}\cdots \sum _{u_{i-1}}\sum _{u_{i+1}}\cdots \sum _{u_{n}}} _{n-1\;{\text{summations}}}f(u_{1},\dotsc ,u_{i-1},{\color {red}x},u_{i+1},\dotsc ,u_{n}).}
證明。 考慮只有兩個隨機變數的情況,比如 X {\displaystyle X} 和 Y {\displaystyle Y} 。那麼,我們有 ∑ y f ( x , y ) = ∑ y P ( X = x ∩ Y = y ) = P ( X = x ) by law of total probability . {\displaystyle \sum _{\color {green}y}f({\color {red}x},{\color {green}y})=\sum _{\color {green}y}\mathbb {P} (X={\color {red}x}\cap {\color {green}Y=y})=\mathbb {P} (X={\color {red}x})\qquad {\text{by law of total probability}}.} 同樣地,在一般情況下,我們有 ∑ u n f ( u 1 , … , u i − 1 , x , u i + 1 , … , u n ) = ∑ u n P ( X 1 ≤ u 1 ∩ ⋯ ∩ X i − 1 u i − 1 ∩ X i ≤ x ∩ X i + 1 ≤ u i + 1 ∩ ⋯ ∩ X n − 1 ≤ u n − 1 ∩ X n ≤ u n ) = P ( X 1 ≤ u 1 ∩ ⋯ ∩ X i − 1 u i − 1 ∩ X i ≤ x ∩ X i + 1 ≤ u i + 1 ∩ ⋯ ∩ X n − 1 ≤ u n − 1 ) by law of total probability . {\displaystyle {\begin{aligned}\sum _{\color {green}u_{n}}f(u_{1},\dotsc ,u_{i-1},{\color {red}x},u_{i+1},\dotsc ,{\color {green}u_{n}})&=\sum _{\color {green}u_{n}}\mathbb {P} (X_{1}\leq u_{1}\cap \cdots \cap X_{i-1}u_{i-1}\cap X_{i}\leq {\color {red}x}\cap X_{i+1}\leq u_{i+1}\cap \cdots \cap X_{n-1}\leq u_{n-1}\cap {\color {green}X_{n}\leq u_{n}})\\&=\mathbb {P} (X_{1}\leq u_{1}\cap \cdots \cap X_{i-1}u_{i-1}\cap X_{i}\leq {\color {red}x}\cap X_{i+1}\leq u_{i+1}\cap \cdots \cap X_{n-1}\leq u_{n-1})\qquad {\text{by law of total probability}}.\end{aligned}}} 然後,我們對其他每個變數 ( n − 2 {\displaystyle n-2} 個) 執行類似的過程,每次過程都會增加一個求和符號。因此,總共我們將有 n − 1 {\displaystyle n-1} 個求和符號,最終我們將得到想要的結果。 ◻ {\displaystyle \Box }
備註。 這個過程有時被稱為“對其他變數的所有可能值求和”。
示例: 假設我們擲一個公平的六面骰子兩次。設 X {\displaystyle X} 表示第一次擲骰子向上的一面,設 Y {\displaystyle Y} 表示第二次擲骰子向上的一面。則 ( X , Y ) {\displaystyle (X,Y)} 的 聯合機率質量函式 為 f ( x , y ) = P ( X = x ∩ Y = y ) = 1 6 ⋅ 1 6 = 1 36 . {\displaystyle f(x,y)=\mathbb {P} (X=x\cap Y=y)={\frac {1}{6}}\cdot {\frac {1}{6}}={\frac {1}{36}}.} 其中 x , y ∈ { 1 , 2 , 3 , 4 , 5 , 6 } {\displaystyle x,y\in \{1,2,3,4,5,6\}} ,並且 f ( x , y ) = 0 {\displaystyle f(x,y)=0} 在其他情況下。同時, X {\displaystyle X} 的 邊緣機率質量函式 為 f X ( x ) = ∑ y f ( x , y ) = f ( x , 1 ) + f ( x , 2 ) + ⋯ + f ( x , 6 ) = 6 ( 1 / 36 ) = 1 6 {\displaystyle f_{X}(x)=\sum _{y}f(x,y)=f(x,1)+f(x,2)+\cdots +f(x,6)=6(1/36)={\frac {1}{6}}} 其中 x ∈ { 1 , 2 , 3 , 4 , 5 , 6 } {\displaystyle x\in \{1,2,3,4,5,6\}} ,並且 f X ( x ) = 0 {\displaystyle f_{X}(x)=0} 在其他情況下。
透過對稱性(將所有 X {\displaystyle X} 替換為 Y {\displaystyle Y} 並且將所有 x {\displaystyle x} 替換為 y {\displaystyle y} ), Y {\displaystyle Y} 的 邊緣機率質量函式 為 f Y ( y ) = 1 6 {\displaystyle f_{Y}(y)={\frac {1}{6}}} 其中 y ∈ { 1 , 2 , 3 , 4 , 5 , 6 } {\displaystyle y\in \{1,2,3,4,5,6\}} ,並且 f Y ( x ) = 0 {\displaystyle f_{Y}(x)=0} 在其他情況下。
練習。 回顧動機部分的例子。
(a) 假設我們擲一枚公平的硬幣兩次。設 X = 1 { 正面朝上 } {\displaystyle X=\mathbf {1} \{{\text{正面朝上}}\}} 和 Y = 2 ⋅ 1 { 正面朝上 } {\displaystyle Y=2\cdot \mathbf {1} \{{\text{正面朝上}}\}} 。證明 ( X , Y ) {\displaystyle (X,Y)} 的聯合機率質量函式為 f ( x , y ) = 1 { x ∈ { 0 , 1 } ∩ y ∈ { 0 , 2 } } 4 . {\displaystyle f(x,y)={\frac {\mathbf {1} \{x\in \{0,1\}\cap y\in \{0,2\}\}}{4}}.}
(b) 假設我們擲一枚公平的硬幣一次。設 X = 1 { 正面朝上 } {\displaystyle X=\mathbf {1} \{{\text{正面朝上}}\}} 和 Y = 2 X {\displaystyle Y=2X} 。證明 ( X , Y ) {\displaystyle (X,Y)} 的聯合機率質量函式為 f ( x , y ) = 1 { x ∈ { 0 , 1 } ∩ y = 2 x } 2 . {\displaystyle f(x,y)={\frac {\mathbf {1} \{x\in \{0,1\}\cap y=2x\}}{2}}.}
(c) 證明 X {\displaystyle X} 和 Y {\displaystyle Y} 的邊緣機率質量函式分別為 f X ( x ) = 1 { x ∈ { 0 , 1 } } 2 and f Y ( y ) = 1 { y ∈ { 0 , 2 } } 2 {\displaystyle f_{X}(x)={\frac {\mathbf {1} \{x\in \{0,1\}\}}{2}}\quad {\text{and}}\quad f_{Y}(y)={\frac {\mathbf {1} \{y\in \{0,2\}\}}{2}}} 在 (a) 和 (b) 兩種情況下。 (提示:對於 (b) 部分,我們需要在指示器中代入變數的值)
證明。
(a) 由於 ( X , Y ) {\displaystyle (X,Y)} 的支撐集為 { ( 0 , 0 ) , ( 0 , 2 ) , ( 1 , 0 ) , ( 1 , 2 ) } {\displaystyle \{(0,0),(0,2),(1,0),(1,2)\}} , ( X , Y ) {\displaystyle (X,Y)} 的聯合機率質量函式為 f ( x , y ) = P ( X = 0 ∩ Y = 0 ) + P ( X = 0 ∩ Y = 2 ) + P ( X = 1 ∩ Y = 0 ) + P ( X = 1 ∩ Y = 2 ) = 1 { x ∈ { 0 , 1 } ∩ y ∈ { 0 , 2 } } 4 . {\displaystyle f(x,y)=\mathbb {P} (X=0\cap Y=0)+\mathbb {P} (X=0\cap Y=2)+\mathbb {P} (X=1\cap Y=0)+\mathbb {P} (X=1\cap Y=2)={\frac {\mathbf {1} \{x\in \{0,1\}\cap y\in \{0,2\}\}}{4}}.}
(b) 由於 ( X , Y ) {\displaystyle (X,Y)} 的支撐集為 x ∈ { 0 , 1 } ∩ y = 2 x {\displaystyle x\in \{0,1\}\cap y=2x} , ( X , Y ) {\displaystyle (X,Y)} 的聯合機率質量函式為 f ( x , y ) = P ( X = 0 ∩ Y = 2 ( 0 ) = 0 ) + P ( X = 1 ∩ Y = 2 ( 1 ) = 2 ) = 1 { x ∈ { 0 , 1 } ∩ y = 2 x } 2 . {\displaystyle f(x,y)=\mathbb {P} (X=0\cap Y=2(0)=0)+\mathbb {P} (X=1\cap Y=2(1)=2)={\frac {\mathbf {1} \{x\in \{0,1\}\cap y=2x\}}{2}}.}
(c) (a) 部分: X {\displaystyle X} 的邊緣機率質量函式為 f X ( x ) = f ( x , 0 ) + f ( x , 2 ) = 2 1 { x ∈ { 0 , 1 } } 4 = 1 { x ∈ { 0 , 1 } } 2 , {\displaystyle f_{X}(x)=f(x,0)+f(x,2)={\frac {2\mathbf {1} \{x\in \{0,1\}\}}{4}}={\frac {\mathbf {1} \{x\in \{0,1\}\}}{2}},} , Y {\displaystyle Y} 的邊緣機率質量函式為 f Y ( y ) = f ( 0 , y ) + f ( 1 , y ) = 2 1 { y ∈ { 0 , 2 } } 4 = 1 { y ∈ { 0 , 2 } } 2 . {\displaystyle f_{Y}(y)=f(0,y)+f(1,y)={\frac {2\mathbf {1} \{y\in \{0,2\}\}}{4}}={\frac {\mathbf {1} \{y\in \{0,2\}\}}{2}}.}
部分 (b): X {\displaystyle X} 的邊際 pmf 為 f X ( x ) = f ( x , 0 ) + f ( x , 2 ) = 1 { x ∈ { 0 , 1 } ∩ 0 = 2 x ⏞ x = 0 } 2 + 1 { x ∈ { 0 , 1 } ∩ 2 = 2 x ⏞ x = 1 } 2 = 1 { x = 0 } + 1 { x = 1 } ⏞ 1 { x = 0 ∪ x = 1 } 2 = 1 { x ∈ { 0 , 1 } } 2 . {\displaystyle f_{X}(x)=f(x,0)+f(x,2)={\frac {\mathbf {1} \{\overbrace {x\in \{0,1\}\cap 0=2x} ^{x=0}\}}{2}}+{\frac {\mathbf {1} \{\overbrace {x\in \{0,1\}\cap 2=2x} ^{x=1}\}}{2}}={\frac {\overbrace {\mathbf {1} \{x=0\}+\mathbf {1} \{x=1\}} ^{\mathbf {1} \{x=0\cup x=1\}}}{2}}={\frac {\mathbf {1} \{x\in \{0,1\}\}}{2}}.} 同樣, Y {\displaystyle Y} 的邊際 pmf 為 f Y ( y ) = f ( 0 , y ) + f ( 1 , y ) = 1 { 0 ∈ { 0 , 1 } ∩ y = 0 } 2 + 1 { 1 ∈ { 0 , 1 } ∩ y = 2 } 2 = 1 { 0 ∈ { 0 , 1 } } ⏞ 1 1 { y = 0 } + 1 { 1 ∈ { 0 , 1 } } ⏞ 1 1 { y = 2 } 2 = 1 { y ∈ { 0 , 2 } } 2 . {\displaystyle f_{Y}(y)=f(0,y)+f(1,y)={\frac {\mathbf {1} \{0\in \{0,1\}\cap y=0\}}{2}}+{\frac {\mathbf {1} \{1\in \{0,1\}\cap y=2\}}{2}}={\frac {\overbrace {\mathbf {1} \{0\in \{0,1\}\}} ^{1}\mathbf {1} \{y=0\}+\overbrace {\mathbf {1} \{1\in \{0,1\}\}} ^{1}\mathbf {1} \{y=2\}}{2}}={\frac {\mathbf {1} \{y\in \{0,2\}\}}{2}}.}
對於 聯合 連續隨機變數,定義是連續隨機變數定義(單變數情況)的推廣版本。
定義。 (聯合連續隨機變數)隨機變數 X 1 , … , X n {\displaystyle X_{1},\dotsc ,X_{n}} 是 聯合連續 的,如果 P ( ( X 1 , … , X n ) ∈ S ) = ∫ ⋯ ∫ S f ( x 1 , … , x n ) d x 1 ⋯ d x n , S ⊆ R n , {\displaystyle \mathbb {P} {\big (}(X_{1},\dotsc ,X_{n})\in S{\big )}=\int \dotsi \int _{S}f(x_{1},\dotsc ,x_{n})\,dx_{1}\cdots \,dx_{n},\quad S\subseteq \mathbb {R} ^{n},} 對於某個非負函式 f {\displaystyle f} 成立。
備註。
函式 f {\displaystyle f} 是 聯合機率密度函式 (joint pdf ) 的 X 1 , … , X n {\displaystyle X_{1},\dotsc ,X_{n}} 。
類似地, f ( x 1 , … , x n ) d x 1 ⋯ d x n {\displaystyle f(x_{1},\dotsc ,x_{n})\,dx_{1}\cdots \,dx_{n}} 可以被理解為在“無窮小”區域 [ x 1 , x 1 + d x 1 ] × ⋯ × [ x n , x n + d x n ] {\displaystyle [x_{1},x_{1}+dx_{1}]\times \dotsb \times [x_{n},x_{n}+dx_{n}]} 上的機率,而 f ( x 1 , … , x n ) {\displaystyle f(x_{1},\dotsc ,x_{n})} 可以被理解為該“無窮小”區域上機率的密度,即 P ( X ∈ [ x 1 , x 1 + d x 1 ] × ⋯ × [ x n , x n + d x n ] ) d x 1 ⋯ d x n {\displaystyle {\frac {\mathbb {P} {\big (}X\in [x_{1},x_{1}+dx_{1}]\times \dotsb \times [x_{n},x_{n}+dx_{n}]{\big )}}{dx_{1}\dotsb dx_{n}}}} ,直觀且非嚴格地。
透過設定 S = ( − ∞ , x 1 ] × ⋯ × ( − ∞ , x n ] {\displaystyle S=(-\infty ,x_{1}]\times \dotsb \times (-\infty ,x_{n}]} ,累積分佈函式為
F ( x 1 , … , x n ) = ∫ − ∞ x 1 ⋯ ∫ − ∞ x n ⏟ n integrations f ( u 1 , … , u n ) d u n ⋯ d u 1 , {\displaystyle F(x_{1},\dotsc ,x_{n})=\underbrace {\int _{-\infty }^{x_{1}}\cdots \int _{-\infty }^{x_{n}}} _{n\;{\text{integrations}}}f(u_{1},\dotsc ,u_{n})\,du_{n}\cdots \,du_{1},}
這與一元的情況類似。
命題。 (從聯合 pdf 獲得邊緣 pdf) 對於連續隨機變數 X 1 , … , X n {\displaystyle X_{1},\dotsc ,X_{n}} ,其聯合 pdf 為 f {\displaystyle f} , X i {\displaystyle X_{i}} 的邊緣 pdf 為 f X i ( x ) = ∫ − ∞ ∞ ⋯ ∫ − ∞ ∞ ⏟ n − 1 integrations f ( u 1 , … , u i − 1 , x , u i + 1 , … , u n ) d u 1 ⋯ d u i − 1 d u i + 1 ⋯ d u n . {\displaystyle f_{X_{i}}({\color {red}x})=\underbrace {\int _{-\infty }^{\infty }\cdots \int _{-\infty }^{\infty }} _{n-1\;{\text{integrations}}}f(u_{1},\dotsc ,u_{i-1},{\color {red}x},u_{i+1},\dotsc ,u_{n})\,du_{1}\cdots \,du_{i-1}\,du_{i+1}\cdots \,du_{n}.}
證明。 回憶關於從聯合累積分佈函式得到邊緣累積分佈函式的命題。我們有 F X i ( x ) = F ( ∞ , … , ∞ , x ⏞ i -th position , ∞ , … , ∞ ) ⇒ ∫ − ∞ x f X i ( u ) d u = ∫ − ∞ ∞ ⋯ ∫ − ∞ x ⋯ ∫ − ∞ ∞ f ( u 1 , … , u n ) d u n ⋯ d u i ⋯ d u 1 by definitions ⇒ d d x ∫ − ∞ x f X i ( u ) d u = d d x ∫ − ∞ ∞ ⋯ ∫ − ∞ x ⋯ ∫ − ∞ ∞ f ( u 1 , … , u n ) d u n ⋯ d u i ⋯ d u 1 ⇒ f X i ( x ) = ∫ − ∞ ∞ ⋯ ∫ − ∞ ∞ ⏟ n − 1 integrations f ( u 1 , … , u i − 1 , x , u i + 1 , … , u n ) d u 1 ⋯ d u i − 1 d u i + 1 ⋯ d u n by fundamental theorem of calculus {\displaystyle {\begin{aligned}&&F_{X_{i}}({\color {red}x})&=F(\infty ,\dotsc ,\infty ,\overbrace {\color {red}x} ^{i{\text{-th position}}},\infty ,\dotsc ,\infty )\\&\Rightarrow &\int _{-\infty }^{\color {red}x}f_{X_{i}}(u)\,du&=\int _{-\infty }^{\infty }\cdots \int _{-\infty }^{\color {red}x}\cdots \int _{-\infty }^{\infty }f(u_{1},\dotsc ,u_{n})\,du_{n}\cdots \,du_{i}\cdots \,du_{1}\qquad {\text{by definitions}}\\&\Rightarrow &{\frac {d}{dx}}\int _{-\infty }^{\color {red}x}f_{X_{i}}(u)\,du&={\frac {d}{dx}}\int _{-\infty }^{\infty }\cdots \int _{-\infty }^{\color {red}x}\cdots \int _{-\infty }^{\infty }f(u_{1},\dotsc ,u_{n})\,du_{n}\cdots \,du_{i}\cdots \,du_{1}\\&\Rightarrow &f_{X_{i}}({\color {red}x})&=\underbrace {\int _{-\infty }^{\infty }\cdots \int _{-\infty }^{\infty }} _{n-1\;{\text{integrations}}}f(u_{1},\dotsc ,u_{i-1},{\color {red}x},u_{i+1},\dotsc ,u_{n})\,du_{1}\cdots \,du_{i-1}\,du_{i+1}\cdots \,du_{n}\qquad {\text{by fundamental theorem of calculus}}\end{aligned}}}
◻ {\displaystyle \Box }
命題。 (從聯合累積分佈函式得到聯合機率密度函式) 如果聯合累積分佈函式 F {\displaystyle F} 的聯合連續隨機變數在 ( x 1 , … , x n ) {\displaystyle (x_{1},\dotsc ,x_{n})} 處具有每個 偏導數 ,則聯合機率密度函式為 f ( x 1 , … , x n ) = ∂ n ∂ x 1 ⋯ ∂ x n F ( x 1 , ⋯ , x n ) . {\displaystyle f(x_{1},\dotsc ,x_{n})={\frac {\partial ^{n}}{\partial x_{1}\cdots \partial x_{n}}}F(x_{1},\cdots ,x_{n}).}
證明。 它來自於使用微積分基本定理 n {\displaystyle n} 次。
◻ {\displaystyle \Box }
示例。 如果聯合連續隨機變數 ( X , Y ) {\displaystyle (X,Y)} 的聯合機率密度函式為 f ( x , y ) = 1 4 x y ( 1 { x , y ∈ [ 0 , 1 ] } ) , {\displaystyle f(x,y)={\frac {1}{4}}xy(\mathbf {1} \{x,y\in [0,1]\}),} 那麼 X {\displaystyle X} 的邊緣機率密度函式為 f X ( x ) = ∫ − ∞ ∞ 1 4 x y ( 1 { x ∈ [ 0 , 1 ] } 1 { y ∈ [ 0 , 1 ] } ) d y = 1 4 x ( 1 { x ∈ [ 0 , 1 ] } ) ∫ 0 1 y d y ⏟ 1 2 / 2 − 0 2 / 2 = 1 8 x ( 1 { x ∈ [ 0 , 1 ] } ) . {\displaystyle f_{X}(x)=\int _{-\infty }^{\infty }{\frac {1}{4}}xy(\mathbf {1} \{x\in [0,1]\}\mathbf {1} \{y\in [0,1]\})\,dy={\frac {1}{4}}x(\mathbf {1} \{x\in [0,1]\})\underbrace {\int _{0}^{1}y\,dy} _{1^{2}/2-0^{2}/2}={\frac {1}{8}}x(\mathbf {1} \{x\in [0,1]\}).} 此外, P ( ( X , Y ) ≤ ( 1 / 2 , 1 / 2 ) ) = ∫ − ∞ 1 / 2 ∫ − ∞ 1 / 2 1 4 x y ( 1 { x , y ∈ [ 0 , 1 ] } d x d y = 1 4 ∫ 0 1 / 2 y ∫ 0 1 / 2 x d x d y = 1 4 ⋅ ( 1 / 2 ) 2 2 ∫ 0 1 / 2 y d y = 1 4 ⋅ 1 8 ⋅ 1 8 = 1 256 . {\displaystyle \mathbb {P} ((X,Y)\leq (1/2,1/2))=\int _{-\infty }^{1/2}\int _{-\infty }^{1/2}{\frac {1}{4}}xy(\mathbf {1} \{x,y\in [0,1]\}\,dx\,dy={\frac {1}{4}}\int _{0}^{1/2}y\int _{0}^{1/2}x\,dx\,dy={\frac {1}{4}}\cdot {\frac {(1/2)^{2}}{2}}\int _{0}^{1/2}y\,dy={\frac {1}{4}}\cdot {\frac {1}{8}}\cdot {\frac {1}{8}}={\frac {1}{256}}.}
回想一下,如果多個事件的交集的機率等於每個事件的機率的乘積,那麼根據定義,這些事件是獨立的。由於 { X ∈ A } {\displaystyle \{X\in A\}} 也是一個事件,因此我們對 隨機變數 的獨立性有以下自然定義
定義。 (隨機變數的獨立性)隨機變數 X 1 , X 2 , … , X n {\displaystyle X_{1},X_{2},\dotsc ,X_{n}} 是 獨立 的,如果 P ( X 1 ∈ A 1 ∩ ⋯ ∩ X n ∈ A n ) = P ( X 1 ∈ A 1 ) ⋯ P ( X n ∈ A n ) {\displaystyle \mathbb {P} (X_{1}\in A_{1}\cap \cdots \cap X_{n}\in A_{n})=\mathbb {P} (X_{1}\in A_{1})\cdots \mathbb {P} (X_{n}\in A_{n})} 對於每個 n {\displaystyle n} 和每個子集 A 1 , A 2 , … , A n ⊆ R {\displaystyle A_{1},A_{2},\dotsc ,A_{n}\subseteq \mathbb {R} } 。
備註。 在這種情況下,事件 { X 1 ∈ A 1 } , … , { X n ∈ A n } {\displaystyle \{X_{1}\in A_{1}\},\dotsc ,\{X_{n}\in A_{n}\}} 是獨立的。
定理。 (隨機變數獨立性的另一種條件)隨機變數 X 1 , X 2 , … , X n {\displaystyle X_{1},X_{2},\dotsc ,X_{n}} 是 獨立 當且僅當 ( X 1 , … , X n ) {\displaystyle (X_{1},\dotsc ,X_{n})} 的聯合 cdf F ( x 1 , … , x n ) = F X 1 ( x 1 ) ⋯ F X n ( x n ) {\displaystyle F(x_{1},\dotsc ,x_{n})=F_{X_{1}}(x_{1})\cdots F_{X_{n}}(x_{n})} 或者 ( X 1 , … , X n ) {\displaystyle (X_{1},\dotsc ,X_{n})} 的聯合 pdf 或 pmf f ( x 1 , … , x n ) = f X 1 ( x 1 ) ⋯ f X n ( x n ) {\displaystyle f(x_{1},\dotsc ,x_{n})=f_{X_{1}}(x_{1})\cdots f_{X_{n}}(x_{n})} 對於每個 x 1 , … , x n ∈ R {\displaystyle x_{1},\dotsc ,x_{n}\in \mathbb {R} } 。
證明。 部分
僅當部分:如果隨機變數 X 1 , X 2 , … , X n {\displaystyle X_{1},X_{2},\dotsc ,X_{n}} 是獨立的, P ( X 1 ∈ A 1 ∩ ⋯ ∩ X n ∈ A n ) = P ( X 1 ∈ A 1 ) ⋯ P ( X n ∈ A n ) {\displaystyle \mathbb {P} (X_{1}\in A_{1}\cap \cdots \cap X_{n}\in A_{n})=\mathbb {P} (X_{1}\in A_{1})\cdots \mathbb {P} (X_{n}\in A_{n})} 對於每個 n {\displaystyle n} 以及對於每個子集 A 1 , A 2 , … , A n ⊆ R {\displaystyle A_{1},A_{2},\dotsc ,A_{n}\subseteq \mathbb {R} } 。設定 A 1 = ( − ∞ , x 1 ) , … , A n = ( − ∞ , x n ) {\displaystyle A_{1}=(-\infty ,x_{1}),\dotsc ,A_{n}=(-\infty ,x_{n})} ,我們有 P ( X 1 ≤ x 1 ∩ ⋯ ∩ X n ≤ x n ) = P ( X 1 ≤ x 1 ) ⋯ P ( X n ≤ x n ) ⟹ F ( x 1 , … , x n ) = F X 1 ( x 1 ) ⋯ F X n ( x n ) . {\displaystyle \mathbb {P} (X_{1}\leq x_{1}\cap \cdots \cap X_{n}\leq x_{n})=\mathbb {P} (X_{1}\leq x_{1})\cdots \mathbb {P} (X_{n}\leq x_{n})\implies F(x_{1},\dotsc ,x_{n})=F_{X_{1}}(x_{1})\cdots F_{X_{n}}(x_{n}).} 因此,我們得到了聯合累積分佈函式部分的結果。
對於聯合pdf部分, F ( x 1 , … , x n ) = F X 1 ( x 1 ) ⋯ F X n ( x n ) ⇒ ∂ n ∂ x 1 ⋯ ∂ x n F ( x 1 , … , x n ) = ∂ n ∂ x 1 ⋯ ∂ x n ( F X 1 ( x 1 ) ⋯ F X n ( x n ) ) ⇒ f ( x 1 , … , x n ) = f X n ( x n ) ∂ n ∂ x 1 ⋯ ∂ x n − 1 ( F X 1 ( x 1 ) ⋯ F X n − 1 ( x n − 1 ) ) = f X n ( x n ) f X n − 1 ( x n − 1 ) ∂ n ∂ x 1 ⋯ ∂ x n − 2 ( F X 1 ( x 1 ) ⋯ F X n − 2 ( x n − 2 ) ) = ⋯ = f X 1 ( x 1 ) ⋯ f X n ( x n ) {\displaystyle {\begin{aligned}&&F(x_{1},\dotsc ,x_{n})&=F_{X_{1}}(x_{1})\cdots F_{X_{n}}(x_{n})\\&\Rightarrow &{\frac {\partial ^{n}}{\partial x_{1}\cdots \partial x_{n}}}F(x_{1},\dotsc ,x_{n})&={\frac {\partial ^{n}}{\partial x_{1}\cdots \partial x_{n}}}\left(F_{X_{1}}(x_{1})\cdots F_{X_{n}}(x_{n})\right)\\&\Rightarrow &f(x_{1},\dotsc ,x_{n})&=f_{X_{n}}(x_{n}){\frac {\partial ^{n}}{\partial x_{1}\cdots \partial x_{n-1}}}\left(F_{X_{1}}(x_{1})\cdots F_{X_{n-1}}(x_{n-1})\right)\\&&&=f_{X_{n}}(x_{n})f_{X_{n-1}}(x_{n-1}){\frac {\partial ^{n}}{\partial x_{1}\cdots \partial x_{n-2}}}\left(F_{X_{1}}(x_{1})\cdots F_{X_{n-2}}(x_{n-2})\right)\\&&&=\cdots =f_{X_{1}}(x_{1})\cdots f_{X_{n}}(x_{n})\end{aligned}}}
◻ {\displaystyle \Box }
備註。
也就是說,如果聯合cdf(聯合pdf(pmf))可以分解為邊緣cdf(邊緣pdf(pmf))的乘積
實際上,如果我們可以將聯合cdf或聯合pdf或聯合pmf分解為每個變數中一些函式的乘積,那麼該條件也滿足。
示例。 兩個獨立 指數隨機變數,速率為 λ {\displaystyle \lambda } , X {\displaystyle X} 和 Y {\displaystyle Y} 的聯合pdf是 f ( x , y ) = ( 1 { x ≥ 0 } λ e − λ x ) ( 1 { y ≥ 0 } λ e − λ y ) = 1 { x , y ≥ 0 } λ 2 e − λ ( x + y ) . {\displaystyle f(x,y)=(\mathbf {1} \{x\geq 0\}\lambda e^{-\lambda x})(\mathbf {1} \{y\geq 0\}\lambda e^{-\lambda y})=\mathbf {1} \{x,y\geq 0\}\lambda ^{2}e^{-\lambda (x+y)}.} (在這種情況下,隨機變數 X {\displaystyle X} 和 Y {\displaystyle Y} 被稱為獨立同分布 (i.i.d.)
一般來說, n {\displaystyle n} 個速率為 λ {\displaystyle \lambda } 的獨立 指數隨機變數的聯合機率密度函式為 f ( x 1 , … , x n ) = 1 { x 1 , … , x n ≥ 0 } λ n e − λ ( x 1 + ⋯ + x n ) . {\displaystyle f(x_{1},\dotsc ,x_{n})=\mathbf {1} \{x_{1},\dotsc ,x_{n}\geq 0\}\lambda ^{n}e^{-\lambda (x_{1}+\cdots +x_{n})}.} ( X 1 , … , X n {\displaystyle X_{1},\dotsc ,X_{n}} 在這種情況下也是獨立同分布的)。
另一方面,如果兩個隨機變數 V {\displaystyle V} 和 W {\displaystyle W} 的聯合機率密度函式為 f ( v , w ) = 1 { w ≤ 2 − 2 v } , {\displaystyle f(v,w)=\mathbf {1} \{w\leq 2-2v\},} 那麼隨機變數 V {\displaystyle V} 和 W {\displaystyle W} 是相關的 ,因為聯合機率密度函式不能分解為邊緣機率密度函式的乘積。
練習。 令 X , Y , Z {\displaystyle X,Y,Z} 為聯合連續隨機變數。考慮 ( X , Y , Z ) {\displaystyle (X,Y,Z)} 的聯合機率密度函式: f ( x , y , z ) = 1 { x , y , z ≥ 0 } 1 { x + y + z / k ≤ 1 } . {\displaystyle f(x,y,z)=\mathbf {1} \{x,y,z\geq 0\}\mathbf {1} \{x+y+z/k\leq 1\}.}
考慮 ( X , Y , Z ) {\displaystyle (X,Y,Z)} 的另一個聯合機率密度函式: f ( x , y , z ) = 1 { x , y , z ≥ 0 } 1 { y ≤ 1 − x } 1 { z ≤ k } {\displaystyle f(x,y,z)=\mathbf {1} \{x,y,z\geq 0\}\mathbf {1} \{y\leq 1-x\}\mathbf {1} \{z\leq k\}}
考慮另一個 ( X , Y , Z ) {\displaystyle (X,Y,Z)} 的聯合機率密度函式: f ( x , y , z ) = k x y z 1 { x , y ∈ [ 0 , 1 ] } 1 { z ∈ [ 0 , 2 ] } . {\displaystyle f(x,y,z)=kxyz\mathbf {1} \{x,y\in [0,1]\}\mathbf {1} \{z\in [0,2]\}.}
命題. (關於獨立隨機變數不相交集的事件的獨立性)假設隨機變數 X 1 , X 2 , … {\displaystyle X_{1},X_{2},\dotsc } 是獨立的。那麼,對於每個 r < s < t < ⋯ {\displaystyle r<s<t<\cdots } 和固定的函式 f 1 , f 2 , f 3 , … {\displaystyle f_{1},f_{2},f_{3},\dotsc } ,隨機變數 Y 1 = f 1 ( X 1 , … , X r ) , Y 2 = f 2 ( X r + 1 , … , X s ) , Y 3 = f 3 ( X s + 1 , … , X t ) , … {\displaystyle Y_{1}=f_{1}(X_{1},\dotsc ,X_{\color {red}r}),\quad Y_{2}=f_{2}(X_{{\color {red}r}+1},\dotsc ,X_{\color {blue}s}),\quad Y_{3}=f_{3}(X_{{\color {blue}s}+1},\dotsc ,X_{t}),\dotsc } 也是獨立的。
練習。
一般來說,我們使用聯合累積分佈函式、機率密度函式或機率質量函式,根據基本原理來確定獨立隨機變數之和的分佈。特別地,關於和 的分佈,有一些有趣的結論,這些結論與獨立的 隨機變數有關。
獨立隨機變數之和
證明。
cdf: F X + Y ( z ) = P ( X + Y ≤ z ) by definition = ∬ x + y ≤ z f X ( x ) f Y ( y ) d x d y by definition and independence = ∫ − ∞ ∞ ∫ − ∞ z − y f X ( x ) f Y ( y ) d x d y by Fubini's theorem = ∫ − ∞ ∞ ( ∫ − ∞ z − y f X ( x ) d x ) f Y ( y ) d y = ∫ − ∞ ∞ F X ( z − y ) f Y ( y ) d y by definition . {\displaystyle {\begin{aligned}F_{X+Y}(z)&=\mathbb {P} (X+Y\leq z)&{\text{by definition}}\\&=\iint _{x+y\leq z}f_{X}(x)f_{Y}(y)\,dx\,dy&{\text{by definition and independence}}\\&=\int _{-\infty }^{\infty }\int _{-\infty }^{z-y}f_{X}(x)f_{Y}(y)\,dx\,dy&{\text{by Fubini's theorem}}\\&=\int _{-\infty }^{\infty }\left(\int _{-\infty }^{z-y}f_{X}(x)\,dx\right)f_{Y}(y)\,dy\\&=\int _{-\infty }^{\infty }F_{X}(z-y)f_{Y}(y)\,dy&{\text{by definition}}.\end{aligned}}}
/\
//\ y
///\|
////*
////|\
////|/\
////|//\ x+y=z <=> x=z-y
////|///\
////|////\
----*-----*--------------- x
////|//////\
////|///////\
-->: -infty to z-y
^
|: -infty to infty
*--*
|//| : x+y <= z
*--*
pdf: f X + Y ( z ) = d d z ∫ − ∞ ∞ F X ( z − y ) f Y ( y ) d y = ∫ − ∞ ∞ d d z F X ( z − y ) f Y ( y ) d y by fundamental theorem of calculus = ∫ − ∞ ∞ f X ( z − y ) f Y ( y ) d y . {\displaystyle {\begin{aligned}f_{X+Y}(z)&={\frac {d}{dz}}\int _{-\infty }^{\infty }F_{X}(z-y)f_{Y}(y)\,dy\\&=\int _{-\infty }^{\infty }{\frac {d}{dz}}F_{X}(z-y)f_{Y}(y)\,dy&{\text{by fundamental theorem of calculus}}\\&=\int _{-\infty }^{\infty }f_{X}(z-y)f_{Y}(y)\,dy.\end{aligned}}}
◻ {\displaystyle \Box }
例子。
令 X {\displaystyle X} 的機率密度函式為 f ( x ) = 1 { 0 ≤ x ≤ 1 } {\displaystyle f(x)=\mathbf {1} \{0\leq {\color {blue}x}\leq 1\}} .
令 Y {\displaystyle Y} 的機率密度函式為 f ( y ) = 1 { − 1 ≤ y ≤ 0 } {\displaystyle f(y)=\mathbf {1} \{-1\leq y\leq 0\}} .
那麼, X + Y {\displaystyle X+Y} 的機率密度函式為
f X + Y ( z ) = ∫ − ∞ ∞ 1 { 0 ≤ z − y ≤ 1 } 1 { − 1 ≤ y ≤ 0 } d y = ∫ − ∞ ∞ 1 { z − 1 ≤ y ≤ z } 1 { − 1 ≤ y ≤ 0 } d y = 1 { 0 ≤ z ≤ 1 } ∫ z − 1 0 d y + 1 { − 1 ≤ z ≤ 0 } ∫ z 0 d y = 1 { 0 ≤ z ≤ 1 } ( 1 − z ) − z 1 { − 1 ≤ z ≤ 0 } . {\displaystyle {\begin{aligned}f_{X+Y}(z)&=\int _{-\infty }^{\infty }\mathbf {1} \{0\leq {\color {blue}z-y}\leq 1\}\mathbf {1} \{-1\leq y\leq 0\}\,dy\\&=\int _{-\infty }^{\infty }\mathbf {1} \{z-1\leq y\leq z\}\mathbf {1} \{-1\leq y\leq 0\}\,dy\\&=\mathbf {1} \{0\leq z\leq 1\}\int _{z-1}^{0}\,dy+\mathbf {1} \{-1\leq z\leq 0\}\int _{z}^{0}\,dy\\&=\mathbf {1} \{0\leq z\leq 1\}(1-z)-z\mathbf {1} \{-1\leq z\leq 0\}.\end{aligned}}} 圖形上,機率密度函式看起來像
y
|
|
|
* * 1
\ |\
y=-z \| \ y=1-z
-----*--*--*----- z
-1 O| 1
|
-1 *
|
練習。
例如: 我們連續兩次擲一個公平的六面骰子(獨立地)。 那麼,兩次擲出的數字之和為 7 的機率是 ( 1 / 6 ) ( 1 / 6 ) + ⋯ + ( 1 / 6 ) ( 1 / 6 ) ⏟ 6 times = 1 / 6 {\displaystyle \underbrace {(1/6)(1/6)+\dotsb +(1/6)(1/6)} _{6{\text{ times}}}=1/6} .
練習。
示例。 設有兩個服務櫃檯,第一個櫃檯每小時收到 X ∼ Pois ( 3 ) {\displaystyle X\sim \operatorname {Pois} (3)} 個諮詢,而第二個櫃檯每小時收到 Y ∼ Pois ( 4 ) {\displaystyle Y\sim \operatorname {Pois} (4)} 個諮詢。假設 X {\displaystyle X} 和 Y {\displaystyle Y} 獨立,則兩個櫃檯每小時收到的諮詢數量服從 Pois ( 3 + 4 ) = Pois ( 7 ) {\displaystyle \operatorname {Pois} (3+4)=\operatorname {Pois} (7)} .
證明。
兩個櫃檯每小時收到的諮詢數量是 X + Y {\displaystyle X+Y} .
然後,結果來自 Poisson 隨機變數之和的命題。
◻ {\displaystyle \Box }
練習。
定義. (順序統計量) 設 X 1 , … , X n {\displaystyle X_{1},\dotsc ,X_{n}} 是 n {\displaystyle n} 個獨立同分布的隨機變數 (每個隨機變數的累積分佈函式為 F ( x ) {\displaystyle F(x)} )。定義 X ( 1 ) , X ( 2 ) , … , X ( n ) {\displaystyle X_{(1)},X_{(2)},\dotsc ,X_{(n)}} 為 X 1 , X 2 , … , X n {\displaystyle X_{1},X_{2},\dotsc ,X_{n}} 中最小值、第二小值、...、最大值。那麼,有序值 X ( 1 ) ≤ X ( 2 ) ≤ ⋯ ≤ X ( n ) {\displaystyle X_{(1)}\leq X_{(2)}\leq \dotsb \leq X_{(n)}} 稱為 順序統計量 。
示例。 令 X 1 , X 2 , X 3 {\displaystyle X_{1},X_{2},X_{3}} 為獨立同分布的隨機變數,服從 Exp ( 2 ) {\displaystyle \operatorname {Exp} (2)} 。那麼, X ( 2 ) {\displaystyle X_{(2)}} 的累積分佈函式為 ∑ j = 2 3 ( 3 j ) ( F ( x ) ) j ( 1 − F ( x ) ) 3 − j = 1 { x ≥ 0 } ( ( 3 2 ) ( 1 − e − 2 x ) 2 ( e − 2 x ) + ( 3 3 ) ( 1 − e − 2 x ) 3 ) = 1 { x ≥ 0 } ( 3 ( 1 − e − 2 x ) 2 ( e 2 x ) + ( 1 − e − 2 x ) 3 ) . {\displaystyle \sum _{j=2}^{3}{\binom {3}{j}}(F(x))^{j}(1-F(x))^{3-j}=\mathbf {1} \{x\geq 0\}\left({\binom {3}{2}}(1-e^{-2x})^{2}(e^{-2x})+{\binom {3}{3}}(1-e^{-2x})^{3}\right)=\mathbf {1} \{x\geq 0\}\left(3(1-e^{-2x})^{2}(e^{2x})+(1-e^{-2x})^{3}\right).}
練習。
泊松過程有一些重要的性質。
命題: (固定時間間隔內的到達次數)固定時間間隔內到達事件的次數,其時間長度為 t {\displaystyle t} ,服從 Pois ( λ t ) {\displaystyle \operatorname {Pois} (\lambda t)} 分佈。
Proof. For each nonnegative integer n {\displaystyle n} , let V {\displaystyle V} be the interarrival time between the n {\displaystyle n} -th and n + 1 {\displaystyle n+1} -th arrival, and W {\displaystyle W} be the time to n {\displaystyle n} th event, starting from the beginning of the fixed time interval (we can treat the start to be time zero because of the memoryless property). The joint pdf of ( V , W ) {\displaystyle (V,W)} is f ( v , w ) = f V ( v ) f W ( w ) by independence = ( λ e − λ v ) ⏟ pdf of Exp ( λ ) ( λ n w n − 1 e − λ w ( n − 1 ) ! ) ⏟ pdf of Gamma ( n , λ ) . {\displaystyle {\begin{aligned}f(v,w)&=f_{V}(v)f_{W}(w)&{\text{by independence}}\\&=\underbrace {(\lambda e^{-\lambda v})} _{{\text{pdf of}}\;\operatorname {Exp} (\lambda )}\underbrace {\left({\frac {\lambda ^{n}w^{n-1}e^{-\lambda w}}{(n-1)!}}\right)} _{{\text{pdf of}}\operatorname {Gamma} (n,\lambda )}.\end{aligned}}} Let N {\displaystyle N} the number of arrivals within the fixed time interval. The pmf of N {\displaystyle N} is P ( N = n ) = P ( W ≤ t ∩ V + W > t ⏟ V > t − W ) = ∫ 0 t ∫ t − w ∞ f ( v , w ) ⏟ joint pdf of ( V , W ) d v d w = ∫ 0 t ∫ t − w ∞ ( λ e − λ v ) ( λ n w n − 1 e − λ w ( n − 1 ) ! ) d v d w = ∫ 0 t λ n w n − 1 e − λ w ( n − 1 ) ! ∫ t − w ∞ λ e − λ v d v d w = λ n ( n − 1 ) ! ∫ 0 t w n − 1 e − λ w ( 0 − ( − e − λ ( t − w ) ) ) d w = λ n e − λ t ( n − 1 ) ! ∫ 0 t w n − 1 d w = λ n e − λ t ( n − 1 ) ! ⋅ ( t n n − 0 ) = e − λ t ( λ t ) n n ! {\displaystyle {\begin{aligned}\mathbb {P} (N=n)&=\mathbb {P} (W\leq t\cap \underbrace {V+W>t} _{V>t-W})\\&=\int _{0}^{t}\int _{t-w}^{\infty }\underbrace {f(v,w)} _{{\text{joint pdf of}}\;(V,W)}\,dv\,dw\\&=\int _{0}^{t}\int _{t-w}^{\infty }(\lambda e^{-\lambda v})\left({\frac {\lambda ^{n}w^{n-1}e^{-\lambda w}}{(n-1)!}}\right)\,dv\,dw\\&=\int _{0}^{t}{\frac {\lambda ^{n}w^{n-1}e^{-\lambda w}}{(n-1)!}}\int _{t-w}^{\infty }\lambda e^{-\lambda v}\,dv\,dw\\&={\frac {\lambda ^{n}}{(n-1)!}}\int _{0}^{t}w^{n-1}{\cancel {e^{-\lambda w}}}(0-(-e^{-\lambda (t{\cancel {-w}})}))\,dw\\&={\frac {\lambda ^{n}{\color {green}e^{-\lambda t}}}{(n-1)!}}\int _{0}^{t}w^{n-1}\,dw\\&={\frac {\lambda ^{n}e^{-\lambda t}}{(n-1)!}}\cdot \left({\frac {t^{n}}{n}}-0\right)\\&={\frac {e^{-\lambda t}(\lambda t)^{n}}{n!}}\end{aligned}}} which is the pmf of Pois ( λ t ) {\displaystyle \operatorname {Pois} (\lambda t)} . The result follows.
◻ {\displaystyle \Box }
命題。 (第一個到達時間, n {\displaystyle n} 個獨立的泊松過程)設 T 1 , T 2 , … , T n {\displaystyle T_{1},T_{2},\dotsc ,T_{n}} 是獨立的隨機變數,且 T i ∼ Exp ( λ i ) {\displaystyle T_{i}\sim \operatorname {Exp} (\lambda _{i})} ,其中 i = 1 , 2 , … , n {\displaystyle i=1,2,\dotsc ,n} 。如果我們定義 T = min { T 1 , … , T n } {\displaystyle T=\min\{T_{1},\dotsc ,T_{n}\}} (這是 n {\displaystyle n} 個獨立泊松過程的第一個到達時間),則 T ∼ Exp ( λ 1 + λ 2 + ⋯ + λ n ) {\displaystyle T\sim \operatorname {Exp} (\lambda _{1}+\lambda _{2}+\cdots +\lambda _{n})} .
證明。 對於每個 t > 0 {\displaystyle t>0} , P ( T > t ) = P ( T 1 > t ∩ ⋯ ∩ T n > t ) = P ( T 1 > t ) ⋯ P ( T n > t ) by independence = [ 1 − ( 1 − e − λ 1 t ⏟ cdf of Exp ( λ 1 ) ) ] ⋯ [ 1 − ( 1 − e − λ n t ⏟ cdf of Exp ( λ n ) ) ] = e − t ( λ 1 + ⋯ + λ n ) ⇒ P ( T ≤ t ) = 1 − e − t ( λ 1 + ⋯ + λ n ) ⇒ T ∼ Exp ( λ 1 + λ 2 + ⋯ + λ n ) {\displaystyle {\begin{aligned}&&\mathbb {P} (T>t)&=\mathbb {P} (T_{1}>t\cap \cdots \cap T_{n}>t)\\&&&=\mathbb {P} (T_{1}>t)\cdots \mathbb {P} (T_{n}>t)&{\text{by independence}}\\&&&=[1-(\underbrace {1-e^{-\lambda _{1}t}} _{{\text{cdf of}}\;\operatorname {Exp} (\lambda _{1})})]\cdots [1-(\underbrace {1-e^{-\lambda _{n}t}} _{{\text{cdf of}}\;\operatorname {Exp} (\lambda _{n})})]\\&&&=e^{-t(\lambda _{1}+\cdots +\lambda _{n})}\\&\Rightarrow &\mathbb {P} (T\leq t)&=1-e^{-t(\lambda _{1}+\cdots +\lambda _{n})}\\&\Rightarrow &T&\sim \operatorname {Exp} (\lambda _{1}+\lambda _{2}+\cdots +\lambda _{n})\end{aligned}}}
◻ {\displaystyle \Box }
示例. 假設有兩個服務櫃檯,櫃檯 A 和 B,它們的服務時間獨立,服從速率為 λ {\displaystyle \lambda } 的指數分佈。在過去的 10 分鐘裡,約翰和彼得分別在櫃檯 A 和 B 接受服務。
首先,你需要等待的服務時間(即約翰或彼得中一人離開櫃檯的時間)是從現在開始算起的約翰和彼得的服務時間的最小值,它們相互獨立,服從速率為 λ {\displaystyle \lambda } 的指數分佈。因此,你的 等待時間 服從 速率為 λ + λ = 2 λ {\displaystyle \lambda +\lambda =2\lambda } 的 指數分佈 。
假設現在約翰離開櫃檯 A,而你正在櫃檯 A 接受服務。那麼,你比彼得先離開櫃檯的機率 是 1 / 2 {\displaystyle 1/2} ,根據 無記憶性 和 對稱性 (彼得和你先離開櫃檯的機率由相同的隨機機制控制),這看似違反直覺。