跳到內容

計量經濟學理論/最小二乘法

來自華夏公益教科書,開放的書籍,開放的世界

最小二乘法的定義

[編輯 | 編輯原始碼]

稱為最小二乘法的比較方法基於這樣一個事實,即差異可以是正的或負的,但實數負數的平方總是正的。因此,如果有幾個差異,所有這些差異的平方和就是這些專案之間距離的指標,並且最佳“擬合”是平方差之和最小的那個,這種比較方法稱為最小二乘法

最小二乘估計

[編輯 | 編輯原始碼]

例如,一個實驗在時間 0、1、2 時分別產生了值 2、5、4。令 x 為時間,y 為獲得的實際結果。首先,我們將 y 與直線在時間 x 處的值進行比較;將這些值稱為 y1,由 y1=2+x 給出,為 2、3 和 4

  x   y | y1   y2   y3
  0   2 |  2   2.7   2
  1   5 |  3   3.7   5
  2   4 |  4   4.7   4

在時間 x=0 時,差值 d=y-y1=0,其平方 d2=0,到目前為止 d2 的總和為 0。在時間 x=1 時,差值 d=y-y1=2,其平方 d2=4,到目前為止 d2 的總和為 4。在時間 x=2 時,差值 d=y-y1=0,其平方為 0,所有 d2 的總和為 4。

嘗試另一條直線,y2=2.7+x,得到的差值為 2-2.7=-0.7,平方為 0.49;下一個是 5-3.7=1.3,平方為 1.69,以及 4-4.7=-0.7,平方為 0.49。所有平方的總和為 0.49+1.69+0.49=2.67,小於 4,是到目前為止的最小二乘法

現在讓我們嘗試一個二次方程,y3=2+5x-2x(平方),其值如上所示。此處差值的平方和為 0,是所有平方中最小的,因此是最佳擬合。

普通最小二乘法

[編輯 | 編輯原始碼]

廣義最小二乘法

[編輯 | 編輯原始碼]

非線性最小二乘法

[編輯 | 編輯原始碼]
華夏公益教科書