假設我們有一個隨機變數 X 作為給定系統的輸入。系統的輸出 Y 也是一個隨機變數,它與輸入 X 之間的關係取決於系統的響應。換句話說,我們可以說
其中 g 是系統輸入和系統輸出之間的數學關係。
為了發現關於 Y 的資訊,我們可以使用我們已知的關於 r.v. X 的資訊以及關係 g
其中 xi 是 g 的根。