Bài giảng Hồi qui đa biến: Kiểm định giả thuyết và lựa chọn mô hình

Chia sẻ: Anh Bình | Ngày: | Loại File: PDF | Số trang:8

Thêm vào BST

Báo xấu

39
lượt xem 2
download

Download Vui lòng tải xuống để xem tài liệu đầy đủ

"Bài giảng Hồi qui đa biến: Kiểm định giả thuyết và lựa chọn mô hình" trình bày về giả thiết về qui luật chuẩn; kiểm định hệ số hồi qui riêng; kiểm định ý nghĩa thống kê của các hệ số hồi qui; lựa chọn mô hình; lựa chọn dạng hàm hồi qui...

Chủ đề:

Bình luận(0) Đăng nhập để gửi bình luận!

Lưu

Nội dung Text: Bài giảng Hồi qui đa biến: Kiểm định giả thuyết và lựa chọn mô hình

12/10/2011 HỒI QUI ĐA BIẾN: KIỂM ĐỊNH GIẢ THUYẾT VÀ LỰA CHỌN MÔ HÌNH GV : Đinh Công Khải – Chương trình Fulbright Môn: Các Phương Pháp Định Lượng – MPP4 Giả thiết về qui luật chuẩn  Giả thiết ui ~ N(0, σ2)  Các tính chất của ước lượng OLS trong hồi qui đa biến theo giả thiết phân phối chuẩn ˆk ~ N (  k , 2ˆ ) k  Ước lượng  2ˆ trong hàm hồi qui với 2 biến độc lập k Yi = β1 + β2 X2i+ β3 X3i+ ui var( ˆ2 )  x 2 3i 2  x 2 2i  x  -  x 2 3i 2i x3i  2 var( ˆ3 )  x 2 2i 2  x 2 2i  x  -  x 2 3i 2i x3i  2 ˆ   uˆ 2 i n3 1
12/10/2011 Kiểm định hệ số hồi qui riêng  Phương pháp kiểm định ý nghĩa: Kiểm định t  Kiểm định 2 phía H0: βk = a Ha: βk ≠ a Trị kiểm định thống kê ˆk   k t sˆ k Kiểm định hệ số hồi qui riêng Qui tắc bác bỏ  Bác bỏ nếu |t| > tα/2 với t α/2 dựa trên phân phối t với bậc tự do là (n-K)  Hoặc pvalue < α.  Kiểm định 1 phía H0: βk ≥ a H0: βk ≤ a Ha: βk < a Ha: βk > a Qui tắc bác bỏ  Bác bỏ nếu t < - tα t > tα  Hoặc pvalue < α pvalue < α 2
12/10/2011 Kiểm định hệ số hồi qui riêng  Phương pháp kiểm định dựa trên khoảng tin cậy (1-α)100% ˆk  t / 2 sˆ k Qui tắc bác bỏ Bác bỏ H0 nếu 0 không nằm trong khoảng tin cậy (1-α)100% của βk Kiểm định ý nghĩa thống kê của các hệ số hồi qui  Phương pháp kiểm định ý nghĩa: Kiểm định F (Kiểm định Wald) Giả thuyết H0: β2 = β3 = ….. = βK = 0 Ha: Ít nhất có một tham số βk khác 0 Trị kiểm định F: MSE ESS /( K  1) F  ~ F( K 1,n K , ) MSR RSS /( n  K ) Qui tắc bác bỏ: Bác bỏ H0 nếu F ≥ F (K-1, n-K,α) hoặc pvalue ≤ α 3
12/10/2011 Kiểm định ý nghĩa thống kê của các hệ số hồi qui  Mối quan hệ giữa R2 và F R 2 /( K  1) F (1  R 2 ) /( n  K )  Khi R2 càng lớn thì F càng lớn.  Kiểm định F là thước đo ý nghĩa chung của mô hình hồi qui và cũng là kiểm định ý nghĩa của R2.  Kiểm định H0: β2 = β3 = ….. = βK = 0 tương đương kiểm định H0 : R2 = 0 Lựa chọn mô hình  Phương pháp “từ tổng quát đến đơn giản” (Hendry/LSE) Sử dụng các kiểm định để loại bỏ biến  Kiểm tra xem dấu của các hệ số hồi qui ước lượng có đúng kỳ vọng không  Sử dụng kiểm định t và kiểm định Wald  Sử dụng R2 điều chỉnh 4
12/10/2011 Lựa chọn mô hình  Phương pháp “từ đơn giản đến tổng quát”  Liệu đưa thêm 1 hay nhiều biến giải thích có làm tăng mức ý nghĩa chung của mô hình hay không?  Giả sử chúng ta có một mô hình với m biến (mô hình cũ) (R): Yi = β1 + β2 X2i+…+ βm Xmi+ ui Sau đó chúng ta bổ sung thêm (K – m) biến giải thích (mô hình mới) (U): Yi = β1 + β2 X2i+…+ βm Xmi+ βm+1 Xm+1+…+ βK XKi + vi Lựa chọn mô hình  Dùng kiểm định Wald H0: βm+1 = βm+2 = ….. = βK = 0 Ha: Ít nhất có một tham số βk ở trên khác 0 Trị kiểm định [ ESS new  ESS old ] /( K  m) ( Rnew 2  Rold 2 ) /( K  m) F  RSS new /( n  K ) (1  Rnew ) /( n  K ) 2 Qui luật bác bỏ H0: F > F(K-m, n-K, α) hoặc pvalue < α  bổ sung các biến vào mô hình làm tăng một cách ý nghĩa ESS và R2. 5
12/10/2011 Lựa chọn mô hình  Kiểm định nhân tử Lagrance (R): Yi = β1 + β2 X2i+…+ βm Xmi+ ui (U): Yi = β1 + β2 X2i+…+ βm Xmi+ βm+1 Xm+1+…+ βK XKi + vi Kiểm định giả thuyết H0: βm+1 = βm+2 = ….. = βK = 0 Ha: Ít nhất có một tham số βk ở trên khác 0 Lựa chọn mô hình  Bước 1: Ước lượng mô hình (R)  Bước 2: Tính phần dư, uˆ R  Bước 3: Ước lượng mô hình uˆRi  1   2 X 2  ...   m X m   m1 X m1  ....   K X K   i (*)  Buớc 4: Với mẫu lớn, nR2 (R2 từ *) sẽ có phân phối Chi-square với tự do bậc bằng với số biến bị giới hạn (K-m).  Nếu nR2 > χ2 (df=K-m)  bác bỏ giả thuyết H0. 6
12/10/2011 Lựa chọn dạng hàm hồi qui (phép thử MWD)  Các giả thuyết H0: Yi = β1 + β2 X2i+…+ βK XKi+ ui (1) Ha : lnYi = β1 + β2 lnX2i+…+ βK lnXKi+ vi (2)  Quy trình kiểm định  Ước lượng mô hình tuyến tính (1); tính Yˆ ; tính ln Yˆ  ˆY Ước lượng mô hình tuyến tính logarit (2) và tính ln  Tạo biến mới Z1  (ln Yˆ  ln ˆY)  Hồi qui Y theo Xs và Z1, bác bỏ H0 nếu hệ số hồi qui của Z1 có ý nghĩa thống kê Lựa chọn dạng hàm hồi qui (phép thử MWD)  Tạo biến mới ˆ Y  Yˆ ) Z2  ( anti log of ln  Hồi qui lnY theo lnXs và Z2, bác bỏ Ha nếu hệ số hồi qui của Z2 có ý nghĩa thống kê theo kiểm định t thông thường. 7
12/10/2011 Các tiêu chuẩn chọn mô hình khác  Kiểm định AIC (Akaike Info Criterion) RSS ( )e 2 k / n n  Mô hình nào có giá trị của tiêu chuẩn này thấp hơn sẽ được chọn  Thích hợp trong phân tích chuỗi thời gian  Kiểm định Schwarz RSS k / n ( )n n  Mô hình nào có giá trị của tiêu chuẩn này thấp hơn sẽ được chọn  Thích hợp đối với những mô hình đơn giản Các tiêu chuẩn chọn mô hình khác  Kiểm định Hannan – Quinn (HQ Criterion) RSS ( )(ln n) 2 k / n n  Mô hình nào có giá trị của tiêu chuẩn này thấp hơn sẽ được chọn 8