Bài giảng Hồi quy đa biến - Đinh Công Khải

Chia sẻ: Codon_10 Codon_10 | Ngày: | Loại File: PDF | Số trang:14

Thêm vào BST

Báo xấu

140
lượt xem 8
download

Download Vui lòng tải xuống để xem tài liệu đầy đủ

Giới thiệu mô hình hồi quy tuyến tính đa biến; mô hình hồi quy tuyến tính đa biến; phương pháp bình phương tối thiểu thông thường (OLS); ý nghĩa của các hệ số ước lượng trong mô hình hồi quy tuyến tính đa biến;... là những nội dung chính được trình bày trong "Bài giảng Hồi quy đa biến" của Đinh Công Khải.

Chủ đề:

Bình luận(0) Đăng nhập để gửi bình luận!

Lưu

Nội dung Text: Bài giảng Hồi quy đa biến - Đinh Công Khải

HỒI QUY ĐA BIẾN GV : Đinh Công Khải – FETP Môn: Các Phương Pháp Định Lượng
Giới thiệu mô hình hồi qui tuyến tính đa biến  Hàm hồi qui tuyến tính tổng thể (PRF) E(Y|Xk’s) = β1 + β2 X2i + β3 X3i +….+ βK XKi  E(Y|X’s) là trung bình (tổng thể) của phân phối của Y với điều kiện các biến Xki (k = 2 - K)  β1 là tung độ gốc; β2,…, βK là hệ số hồi qui riêng (hệ số góc). E[Yi | X ' s ] k  X k Yi = β1 + β2 X2i + β3 X3i +….+ βK XKi + ui
Giới thiệu mô hình hồi qui tuyến tính đa biến  Ví dụ:  QD = f(giá, thu nhập, giá của SP thay thế, quy mô thị trường,…)  QS = f(vốn, lao động, công nghệ)  Lương nhân viên = f(trình độ, kinh nghiệm, giới tính, độ tuổi,..)  Giá nhà = f(diện tích, số phòng ngủ, số phòng tắm, …)
Mô hình hồi qui tuyến tính đa biến  Hàm hồi qui mẫu (SRF) Yˆi  ˆ1  ˆ2 X 2i  ˆ3 X 3i  ...  ˆK X Ki trong đó: Yˆi là ước lượng của E(Yi|X’s) ˆ 1 , ˆ2 ,..., ˆK là các ước lượng của β1, β2, …., βK. Yi  Yˆi  uˆi  ˆ1  ˆ2 X 2i  ˆ3 X 3i  ˆK X Ki  uˆi
Phương pháp bình phương tối thiểu thông thường (OLS)  Phương pháp OLS min  i  i 1 2 2i ˆ u 2  (Y  ˆ  ˆ X  ...  ˆ X )2  K Ki ˆ1 , ˆ 2,...,ˆK   uˆi2 ˆ    - 2 Yi - ˆ1 - ˆ2 X 2i - ˆ3 X 3i -  - ˆK X Ki  0 1   uˆi2 ˆ    - 2 Yi - ˆ1 - ˆ2 X 2i - ˆ3 X 3i -  - ˆK X Ki X 2i  0 2    uˆi2 ˆ    - 2 Yi - ˆ1 - ˆ2 X 2i - ˆ3 X 3i -  - ˆK X Ki X Ki  0 K
Phương pháp bình phương tối thiểu thông thường (OLS)  Giả sử chúng ta có hàm hồi qui Yi = β1 + β2 X2i + β3 X3i + ui ˆ2   y x   x  -  y x  x x  i 2i 2 3i i 3i 2i 3i  x  x  -  x x  2 2i 2 3i 2i 3i 2 ˆ3   y x  x  -  y x  x x  i 3i 2 2i i 2i 2i 3i  x  x -  x x  2 2i 2 3i 2i 3i 2 ˆ1  Y - ˆ2 X 2 - ˆ3 X 3
Ý nghĩa của các hệ số ước lượng trong mô hình hồi qui tuyến tính đa biến  ˆk (k = 2-K) được gọi là hệ số hồi qui riêng hay hệ số độ dốc riêng.  Ý nghĩa: Nếu như các biến giải thích khác không đổi, khi một biến giải thích Xki thay đổi một đơn vị thì biến phụ thuộc sẽ thay đổi trung bình là ˆk đơn vị.  ˆk phản ánh sự tác động trực tiếp của biến giải thích Xki lên biến phụ thuộc sau khi đã loại trừ ảnh hưởng các biến hồi qui khác.
Mô hình hồi qui tuyến tính cổ điển Gauss (CLRM): Các giả thiết của OLS  Giá trị kỳ vọng của ui bằng không: E(ui  X’s) = 0  Không có tương quan chuỗi: cov(ui, uj X’s ) = 0 với i ≠ j  Phương sai đồng nhất: var(ui) = 2  Nhiễu ngẫu nhiên không có tương quan với các X: cov(ui, Xki ) = 0  Không có thiên lệch đặc trưng (thiếu biến quan trọng, dạng mô hình sai)  Không có hiện tượng đa cộng tuyến 2 X 2i  3 X 3i    K X Ki  0  Có hiện tượng đa cộng tuyến
Mô hình hồi qui tuyến tính cổ điển Gauss (CLRM): Các giả thiết của OLS  Định lý Gauss-Markov: Ước lượng của OLS là ước lượng tuyến tính không thiên lệch, có tính nhất quán, và có hiệu quả nhất, BLUE.
Độ chính xác của ước lượng  Phương sai và độ lệch chuẩn của ước lượng Var ( ˆ2 )   3i x 2  2  1  2  x  x  -  x 2 2i 2 3i x 2i 3i  2  x22i  (1 - r23 )2 (  x2i x3i )2 r232   x  x  2 2i 2 3i Var ( ˆ3 )   2i x 2  2 1  2  x22i  x3i2  -  x2i x3i 2  x3i2  (1 - r23 )2 trong đó ˆ 2   uˆ 2 i (mẫu số sẽ bằng n-K trong trường hợp tổng quát) n3
Độ chính xác của ước lượng  Điều kiện: Số lượng các quan sát n phải lớn hơn số lượng các tham số được ước lượng (n>K)  Đồng phương sai giữa 2 ước lượng  r23 Cov( ˆ2 , ˆ3 )  2 (1 - r23 ) 2  2i x 2  3i x 2
Độ thích hợp của mô hình 12 Mối liên hệ giữa TSS, ESS, và RSS TSS = ESS + RSS  (Yi Y )   (Yi  Y ) ˆ   (Yi  Yˆi ) 2 2 2 TSS = Tổng bình phương toàn phần ESS = Tổng bình phương giải thích được RSS = Tổng bình phương phần dư
Độ thích hợp của mô hình (goodness of fit)  Hệ số xác định (coefficient of determination) R  2 ESS  1 RSS  1  i ˆ u 2 TSS TSS  i y 2  0 ≤ R2 ≤ 1  R2 = 1, các biến độc lập giải thích 100% sự biến thiên của biến phụ thuộc  R2 = 0, mô hình không giải thích được bất kỳ sự biến đổi nào của biến phụ thuộc
Độ thích hợp của mô hình  Hệ số xác định có điều chỉnh R 2  1 RSS /( n  K )  1  i /( n  K ) ˆ u 2 TSS /( n  1)  i /( n  1) y 2 n 1 R 2  1  (1  R 2 ) nK  Khi so sánh 2 mô hình dựa trên tiêu chí R2 hay R2 điều chỉnh cần lưu ý rằng cỡ mẫu n và biến phụ thuộc của 2 mô hình phải giống nhau (các biến giải thích có thể ở bất kỳ dạng gì).