Chương 4: Mô hình hồi qui bội

Chia sẻ: Đỗ Thế Mạnh | Ngày: | Loại File: PPT | Số trang:25

Thêm vào BST

Báo xấu

419
lượt xem 76
download

Download Vui lòng tải xuống để xem tài liệu đầy đủ

Mô hình hồi qui tuyến tính k biến (PRF) : E(Y/X2i,…,Xki) = b1+ b2X2i +…+ bkXki Yi = b1+ b2X2i + …+ bkXki + Ui Trong đó : Y - biến phụ thuộc X2,…,Xk - các biến độc lập

Chủ đề:

Bình luận(0) Đăng nhập để gửi bình luận!

Lưu

Nội dung Text: Chương 4: Mô hình hồi qui bội

Chương 4 Mô hình hồi qui bội 1. Mô hình : Mô hình hồi qui tuyến tính k biến (PRF) : E(Y/X2i,…,Xki) = β 1+ β 2X2i +…+ β kXki Yi = β 1+ β 2X2i + …+ β kXki + Ui Trong đó : Y - biến phụ thuộc X2,…,Xk - các biến độc lập
β 1 là hệ số tự do β j là các hệ số hồi qui riêng, cho biết khi Xj tăng 1 đvị thì trung bình của Y sẽ thay đổi β j đvị trong trường hợp các yếu tố khác không đổi (j=2,…,k). Khi k = 3 thì ta có mô hình hồi qui tuyến tính ba biến : E(Y/X2, X3) = β 1+ β 2X2 + β 3X3 (PRF) Yi = β 1+ β 2X2i + β 3X3i + Ui
2. Các giả thiết của mô hình • Giả thiết 1: Các biến độc lập phi ngẫu nhiên, giá trị được xác định trước. • Giả thiết 2 : E(Ui/Xi) = 0 ∀i • Giả thiết 3 : Var(Ui/Xi) =σ 2 ∀i • Giả thiết 4 : Cov(Ui, Uj) = 0 i ≠ j • Giả thiết 5 : Cov(Xi, Ui) = 0 ∀i • Giả thiết 6 : Ui ~ N (0, σ 2) ∀i
3. Ước lượng các tham số a. Mô hình hồi qui ba biến : Yi = β 1+ β 2X2i + β 3X3i + Ui(PRF) Hàm hồi qui mẫu : ˆ ˆ ˆ ˆ Yi = Yi + ei = β1 + β2 X2i + β3 X3i + ei Giả sử có một mẫu gồm n quan sát các giá trị (Yi, X2i, X3i). Theo phương pháp ˆ OLS, 1,2,3) phải thoả mãn : βj (j= f = ∑ e → min 2 i
Tức là :  ∂f  ˆ =0  ∂β1  ∑ 2(Yi − βˆ1 − βˆ2 X 2i − βˆ3 X 3i )(− 1) = 0  ∂f     ˆ = 0 ⇔  ∑ 2(Yi − βˆ1 − βˆ2 X 2i − βˆ3 X 3i )(− X 2i ) = 0  ∂β 2   ∂f ∑  2(Yi − βˆ1 − βˆ2 X 2i − βˆ3 X 3i )(− X 3i ) = 0  =0  ∂ βˆ3  ˆ ˆ Do ei = Yi − β1 − β2 X2i − β3 X3i ˆ
Giải hệ ta có : βˆ2 = ∑ x y∑ x − ∑ x x ∑ x y 2i i 2 3i 2i 3i 3i i ∑ x ∑ x − (∑ x x ) 2 2i 2 3i 2i 3i 2 βˆ3 = ∑ x y∑ x − ∑ x x ∑ x y 3i i 2 2i 2i 3i 2i i ∑ x ∑ x − (∑ x x ) 2 2i 2 3i 2i 3i 2 βˆ1 = Y − βˆ2 X 2 − βˆ3 X 3
* Phương sai của các hệ số ước lượng ∑ (X x ) 2 1  ˆ 3i − X3x2i Var( β1 ) =  + 2 ×σ 2 n  ∑ x2i∑ x3i − (∑ x2ix3i )  2 2 2 ˆ2) = Var( β ∑ x3i 2 ×σ 2 ∑ x2i∑ x3i − (∑ x2ix3i ) 2 2 2 ˆ Var( β3 ) = ∑x 2 2i ×σ 2 ∑x ∑x 2 2i 2 3i − (∑ x2ix3i ) 2
Trong đó : σ 2 = Var(Ui) σ 2 chưa biết nên dùng ước lượng của nó là : ˆ σ =2 ∑ ei2 n−3 Với : ∑ ei2 = TSS− ESS= ∑ ˆ ˆ y i2 − β2 ∑ x 2i y i − β3 ∑ x 3i y i
b. Mô hình hồi qui tuyến tính k biến Yi = β 1+ β 2X2i + …+ β kXki+ Ui (PRF) Hàm hồi qui mẫu : ˆ ˆ ˆ ˆ Yi = Yi + ei = β1 + β2 X2i + ... + βk Xki + ei ˆ β j (j= 1,2,…,k) Theo phương pháp OLS, phải thoả mãn : f = ∑ e → min 2 i
Tức là :  ∂f  ∂ βˆ = 0 ˆ ˆ ˆ  ∑ 2( Yi − β1 − β2 X2i − ... − βk Xki )( − 1) = 0  1      ⇔    ∂f  ˆ ˆ ˆ  =0  ∑ 2( Yi − β1 − β2 X2i − ... − βk Xki )( − Xki ) = 0   ∂ βˆk  ˆ = XT Y Viết hệ dưới dạng ma trận X X β ( T ) : ˆ ⇒ β = X X ( T ) ( X Y) −1 T
ˆ  β1   ∑ Yi      ˆ  β2  ∑ X2i Yi  ˆ β= X Y=  T          ˆ  βk   ∑ Xki Yi       n  ∑X 2i ∑X 3i ... ∑ X  ki  ∑ X2i ∑X ∑X X ... ∑X X  2 X X= T 2i 2i 3i 2i ki      2   ∑ Xki  ∑X X ∑X X ki 2i ki 3i ... ∑ Xki 
4. Hệ số xác định ESS RSS R = 2 =1− TSS TSS * Chú ý : Khi tăng số biến độc lập trong mô hình thì R2 cũng tăng cho dù các biến độc lập tăng thêm có ảnh hưởng mô hình hay không . Do đó không thể dùng R2 để quyết định có nên thêm biến vào mô hình hay không mà thay vào đó có thể sử dụng hệ số xác định hiệu chỉnh :
R 2 =1− ∑e 2 i /( n − k ) Hay: ∑y i 2 /( n − 1) n −1 R = 1 − (1 − R ) 2 2 n−k Tính chất của R2 : - Khi k > 1, R ≤ R ≤ 1 . 2 2 - R có thể âm, trong trường hợp âm, ta 2 coi giá trị của nó bằng 0.
Biến ĐL đưa vào MH phải thỏa 2 điều kiện: • Biến ĐL đưa vào MH làm hệ số xác định hiệu chỉnh tăng .Hệ số hồi qui của biến đưa vào khác không có ý nghĩa
• So sánh hai giá trị R2 : Nguyên tắc so sánh : - Cùng mẫu . - Cùng các biến độc lập. - Biến p.thuộc phải ở dạng giống nhau. Biến đ.lập có thể ở bất cứ dạng nào. Khi đó ta chọn MH có hệ số xác định R2 lớn nhất.
5. Ma trận tương quan ˆ ˆ ˆ ˆ Xét mô hình : Yi = β1 + β2 X2i + ... + βk Xki Gọi rtj là hệ số tương quan tuyến tính giữa biến thứ t và thứ j. Trong đó Y được xem là biến thứ 1. Ma trận tương quan tuyến tính có dạng :  1 r12 ... r1k  r 1 ... r2k   21  ... ...    rk1 rk 2 ... 1 
6. Ma trận hiệp phương sai  var( β1 )ˆ ˆ ˆ cov( β1 , β2 ) ˆ ˆ ... cov( β1 , βk )    ˆ ˆ cov( β2 , β1 ) ˆ var( β2 ) ˆ ˆ ... cov( β2 , βk )  ˆ cov( β ) =   ... ...    ˆ ˆ ˆ ˆ  cov( βk , β1 ) cov( βk , β2 ) ... ˆ var( βk )    Để tính ma trận hiệp phương sai của các hệ số, áp dụng công thức : ˆ ) = ( XT X) −1σ 2 cov( β
7. Khoảng tin cậy của các hệ số hồi qui Khoảng tin cậy của β j (j =1,2,..,k) là : ˆ ± se( β ) * t ( n − k ) βj ˆ j α /2 Trong đó, k là số tham số trong mô hình. α là múc ý nghĩa, hay độ tin cậy 1-α
8. Kiểm định giả thiết a. Kiểm định H0 : β j = β * ( j = 1, 2, …, k) Với mức ý nghĩa α ( độ tin cậy 1-α ) Phần này hoàn toàn tương tự như ở mô hình hồi qui hai biến, khác duy nhất ở chỗ bậc tự do của thống kê t là (n-k). ˆ β2 −
b. Kiểm định giả thiết đồng thời : H0 : β 2 = β 3 =…= β k = 0 ⇔ H0 : R2 = 0 H1: ∃ β j ≠ 0 (2 ≤ j ≤ k) ⇔ H1 : R2 ≠ 0 Cách kiểm định : -Tính R (n − k ) 2 F= (1 − R )(k − 1) 2 Nếu F > Fα(k-1, n-k) ⇒ bác bỏ H0, Nếu p(F* > F) < α Tức là các hệ số hồi qui không đồng thời bằng 0 hay hàm hồi qui phù hợp.