Bài giảng chương 4 - Mô hình hồi quy bội

Chia sẻ: Nguyen Duc Dat | Ngày: | Loại File: PPT | Số trang:26

Thêm vào BST

Báo xấu

134
lượt xem 12
download

Download Vui lòng tải xuống để xem tài liệu đầy đủ

Bài giảng Mô hình hồi quy bội nhằm trình bày các nội dung chính: định nghĩa, các giả thiết của mô hình, ước lượng hồi qui ba biến, mô hình hồi qui tuyến tính không biến....

Chủ đề:

Bình luận(0) Đăng nhập để gửi bình luận!

Lưu

Nội dung Text: Bài giảng chương 4 - Mô hình hồi quy bội

Chương 4 Mô hình hồi qui bội 1. Mô hình : Mô hình hồi qui tuyến tính k biến (PRF) : E(Y/X2i,…,Xki) = β1+ β2X2i +…+ βkXki Yi = β1+ β2X2i + …+ βkXki + Ui Trong đó : Y - biến phụ thuộc X2,…,Xk - các biến độc lập
β1 là hệ số tự do βj ( j=2,…,k) là các hệ số hồi qui riêng, cho biết khi Xj tăng 1 đvị thì trung bình của Y sẽ thay đổi βj đvị trong trường hợp các biến độc lập khác không đổi . Khi k = 3 thì ta có mô hình hồi qui tuyến tính ba biến : E(Y/X2, X3) = β1+ β2X2i + β3X3i (PRF) Yi = β1+ β2X2i + β3X3i + Ui
2. Các giả thiết của mô hình • Giả thiết 1: Các biến độc lập phi ngẫu nhiên, giá trị được xác định trước. • Giả thiết 2 : E(Ui/Xi) = 0 ∀i • Giả thiết 3 : Var(Ui/Xi) =σ2 ∀i • Giả thiết 4 : Cov(Ui, Uj) = 0 i ≠ j • Giả thiết 5 : Cov(Xi, Ui) = 0 ∀i • Giả thiết 6 : Ui ~ N (0, σ2) ∀i
3. Ước lượng các tham số a. Mô hình hồi qui ba biến : Yi = β1+ β2X2i + β3X3i + Ui (PRF) Hàm hồi qui mẫu : ˆ ˆ ˆ ˆ Yi = Yi + ei = β1 + β2 X2i + β3 X3i + ei Giả sử có một mẫu gồm n quan sát các giá trị (Yi, X2i, X3i). Theo phương pháp ˆ OLS, 1,2,3) phải thoả mãn : βj (j= f = ∑ e → min 2 i
Tức là :  ∂f  ˆ =0  ∂β1  ∑ 2(Yi − βˆ1 − βˆ2 X 2i − βˆ3 X 3i )(− 1) = 0  ∂f     ˆ = 0 ⇔  ∑ 2(Yi − βˆ1 − βˆ2 X 2i − βˆ3 X 3i )(− X 2i ) = 0  ∂β 2   ∂f ∑  2(Yi − βˆ1 − βˆ2 X 2i − βˆ3 X 3i )(− X 3i ) = 0  =0  ∂ βˆ3  ˆ ˆ Do ei = Yi − β1 − β2 X2i − β3 X3i ˆ
Giải hệ ta có : βˆ2 = ∑x y ∑x −∑x x ∑x 2i i 2 3i 2i 3i y 3i i ∑ x ∑ x −( ∑ x x ) 2 2i 2 3i 2i 3i 2 βˆ3 = ∑x y ∑x −∑x x ∑x 3i i 2 2i 2i 3i y 2i i ∑ x ∑ x −( ∑ x x ) 2 2i 2 3i 2i 3i 2 βˆ1 = Y − βˆ2 X 2 − βˆ3 X 3
* Phương sai của các hệ số ước lượng ∑ (X x ) 2 1 − X3x 2i  ˆ Var( β1 ) =  + 2 3i ×σ 2 n  ∑ x 2i ∑ x 3i − ( ∑ x 2i x 3i )  2 2 2 ˆ2) = Var( β ∑ x 3i2 ×σ 2 ∑ x 2i ∑ x 3i − ( ∑ x 2i x 3i ) 2 2 2 ˆ Var( β3 ) = ∑x 2 2i ×σ 2 ∑x ∑x 2 2i 2 3i − ( ∑ x 2i x 3i ) 2
Trong đó : σ2 = Var(Ui) σ2 chưa biết nên dùng ước lượng của nó là : ˆ σ =2 ∑ ei2 n−3 Với : ∑ ei2 = TSS− ESS= ∑ ˆ ˆ y i2 − β2 ∑ x 2i y i − β3 ∑ x 3i y i
b. Mô hình hồi qui tuyến tính k biến Yi = β1+ β2X2i + …+ βkXki+ Ui (PRF) Hàm hồi qui mẫu : ˆ ˆ ˆ ˆ Yi = Yi + ei = β1 + β2 X2i + ... + βk Xki + ei ˆ β j (j= 1,2,…,k) Theo phương pháp OLS, phải thoả mãn : f = ∑ e → min 2 i
Tức là : f =0 βˆ1 ˆ ˆ ˆ  ∑ 2( Yi − β1 − β2 X2i − ... − βk Xki )( − 1) = 0   M  M  ˆ ˆ ˆ f =0  ∑ 2( Yi − β1 − β2 X2i − ... − βk Xki )( − Xki ) = 0  βˆk ˆ = XT Y Viết hệ dưới dạng ma trận X X β ( T ) : ˆ ⇒ β = X X ( T ) ( X Y) −1 T
ˆ  β1   ∑ Yi      ˆ  β2  ∑ X2i Yi  ˆ β= X Y=  T  M  M      ˆ  βk   ∑ Xki Yi       n  ∑X 2i ∑X 3i ... ∑ X  ki  ∑ X2i ∑X ∑X X ... ∑X X  2 X X= T 2i 2i 3i 2i ki  M M   2   ∑ Xki  ∑X X ∑X X ki 2i ki 3i ... ∑ Xki 
4. Hệ số xác định ESS ei2 R = 2 = 1− TSS yi2 * Chú ý : Khi tăng số biến độc lập trong mô hình thì R2 cũng tăng cho dù các biến độc lập tăng thêm có ảnh hưởng mô hình hay không . Do đó không thể dùng R2 để quyết định có nên thêm biến vào mô hình hay không mà thay vào đó có thể sử dụng hệ số xác định hiệu chỉnh :
R 2 =1− ∑e 2 i /( n − k ) Hay: ∑y i 2 /( n − 1) n −1 R = 1 − (1 − R ) 2 2 n−k Tính chất của R2 : - Khi k > 1, R ≤ R ≤ 1 . 2 2 - R có thể âm, trong trường hợp âm, ta 2 coi giá trị của nó bằng 0.
Biến độc lập đưa vào MH phải thỏa 2 điều kiện: • Biến ĐL đưa vào MH làm hệ số xác định hiệu chỉnh tăng .Hệ số hồi qui của biến đưa vào khác không có ý nghĩa
• So sánh hai giá trị R2 : Nguyên tắc so sánh : - Cùng mẫu . - Cùng các biến độc lập. - Biến p.thuộc phải ở dạng giống nhau. Biến đ.lập có thể ở bất cứ dạng nào. Khi đó ta chọn MH có hệ số xác định R2 lớn nhất.
5. Ma trận tương quan ˆ ˆ ˆ ˆ Xét mô hình : Yi = β1 + β2 X2i + ... + βk Xki Gọi rtj là hệ số tương quan tuyến tính giữa biến thứ t và thứ j. Trong đó Y được xem là biến thứ 1. Ma trận tương quan tuyến tính có dạng :  1 r12 ... r1k  r 1 ... r2k   21  ... ...    rk1 rk 2 ... 1 
6. Ma trận hiệp phương sai  var( β1 )ˆ ˆ ˆ cov( β1 , β2 ) ˆ ˆ ... cov( β1 , βk )    ˆ ˆ cov( β2 , β1 ) ˆ var( β2 ) ˆ ˆ ... cov( β2 , βk )  ˆ cov( β ) =   ... ...    ˆ ˆ ˆ ˆ  cov( βk , β1 ) cov( βk , β2 ) ... ˆ var( βk )    Để tính ma trận hiệp phương sai của các hệ số, áp dụng công thức : ˆ ) = ( XT X) −1σ 2 cov( β
7. Khoảng tin cậy của các hệ số hồi qui Khoảng tin cậy của β j (j =1,2,..,k) là : ˆ βj ˆ ) * t ( n −k ) se( β j α /2 Trong đó, k là số tham số trong mô hình. α là múc ý nghĩa, hay độ tin cậy 1-α
8. Kiểm định giả thiết a. Kiểm định H0 : β j = β * ( j = 1, 2, …, k) Với mức ý nghĩa α ( độ tin cậy 1-α ) Phần này hoàn toàn tương tự như ở mô hình hồi qui hai biến, khác duy nhất ở chỗ bậc tự do của thống kê t là (n-k).
b. Kiểm định giả thiết đồng thời : H0 : β 2 = β 3 =…= β k = 0 ⇔ H0 : R2 = 0 H1: ∃ β j ≠ 0 (2 ≤ j ≤ k) ⇔ H1 : R2 ≠ 0 Cách kiểm định : -Tính R (n − k ) 2 F= (1 − R )(k − 1) 2 Nếu F > Fα(k-1, n-k) ⇒ bác bỏ H0, Nếu p(F* > F) < α Tức là các hệ số hồi qui không đồng thời bằng 0 hay hàm hồi qui phù hợp.