Chương 2. MÔ HÌNH HỒI QUY BỘI
▪ Đặt k là số hệ số có trong mô hình
▪ Mô hình có hệ số chặn thì số biến bằng k, số biến
độc lập không kể hằng số bằng (k – 1)
▪ Với k = 2 là hồi quy đơn (single-regression)
▪ Với k 2: hai biến độc lập trở lên, gọi là hồi quy bội (multi-regression) hay hồi quy đa biến (multivariate regression)
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
50
Chương 2. Mô hình hồi quy bội
NỘI DUNG CHƯƠNG 2
▪ 2.1. Sự cần thiết của hồi quy bội
▪ 2.2. Phương pháp ước lượng OLS
▪ 2.3. Sự phù hợp của hàm hồi quy
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
▪ 2.4. Một số dạng mô hình hồi quy
51
Chương 2. Mô hình hồi quy bội
2.1. SỰ CẦN THIẾT CỦA HỒI QUY BỘI
▪ Hồi quy đơn: Y = β1 + β2X + u ▪ Nếu u có tương quan với X: 𝐶𝑜𝑣(𝑢, 𝑋) ≠ 0 thì X gọi
là biến độc lập nội sinh.
giả thiết 2 bị vi phạm các ước lượng là chệch.
▪ Yếu tố có tương quan với X trong u, giả sử là Z
▪ Z là biến độc lập mới, mô hình có dạng
Y = β1 + β2X + β3Z + u
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
52
Chương 2. Mô hình hồi quy bội
2.1. Sự cần thiết của hồi quy bội
Vấn đề dạng hàm hồi quy
▪ Hồi quy đơn hạn chế về
β1 + β2X + β3X2
dạng hàm
β1 + β2X
▪ Hồi quy bội có dạng hàm phù hợp hơn, dự báo tốt hơn
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
▪ Phong phú hơn trong phân tích kinh tế
53
Chương 2. Mô hình hồi quy bội
2.1. Sự cần thiết của hồi quy bội
Mô hình hồi quy ba biến
▪ Biến Y phụ thuộc vào 2 biến độc lập X2, X3
Y = β1 + β2X2 + β3X3 + u
▪ PRF: E(Y | X2 , X3) = β1 + β2X2 + β3X3 ▪ SRF: 𝑌𝑖 = መ𝛽1 + መ𝛽2𝑋2𝑖 + መ𝛽3𝑋3𝑖
▪ Nếu X2, X3 có quan hệ cộng tuyến: X3 = α1 + α2X2 thì Y = (β1 + α1β3) + (β2 + α2β3)X2 + u ▪ Mô hình ba biến chỉ đúng khi các biến độc lập không
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
có quan hệ cộng tuyến
54
Chương 2. Mô hình hồi quy bội
2.1. Sự cần thiết của hồi quy bội
Mô hình hồi quy k biến
▪ Mô hình có (k – 1) biến độc lập, k hệ số:
𝑌 = 𝛽1 + 𝛽2𝑋2 + 𝛽3𝑋3 + ⋯ + 𝛽𝑘𝑋𝑘 + 𝑢
𝐸(𝑌|𝑋2, … 𝑋𝑘) = 𝛽1 + 𝛽2𝑋2 + 𝛽3𝑋3 + ⋯ + 𝛽𝑘𝑋𝑘
▪ Ý nghĩa hệ số:
• Hệ số chặn: 𝛽1 = 𝐸 𝑌 𝑋2 = ⋯ = 𝑋𝑘 = 0 • Hệ số góc: 𝛽𝑗 (j = 2,…, k): tác động riêng của Xj
𝛽𝑗 =
𝜕𝐸 𝑌 𝜕𝑋𝑗
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
▪ Nếu 𝛽2 = ⋯ = 𝛽𝑘 = 0: hàm hồi quy không phù hợp
55
Chương 2. Mô hình hồi quy bội
2.1. Sự cần thiết của hồi quy bội
Mô hình hồi quy k biến
▪ Mô hình trong mẫu
𝑌𝑖 = መ𝛽1 + መ𝛽2𝑋2𝑖 + መ𝛽3𝑋3𝑖 + ⋯ + መ𝛽𝑘𝑋𝑘𝑖 • • 𝑌𝑖 = መ𝛽1 + መ𝛽2𝑋2𝑖 + መ𝛽3𝑋3𝑖 + ⋯ + መ𝛽𝑘𝑋𝑘𝑖 + 𝑒𝑖
▪ Mô hình k biến chỉ đúng khi các biến độc lập không
được quan hệ cộng tuyến với nhau:
• Không tồn tại các hằng số λ1, λ2,…, λk không đồng
thời bằng 0 sao cho: λ1 + λ2X2 +…+ λkXk = 0
▪
መ𝛽𝑗 là ước lượng điểm cho 𝛽𝑗 (j = 1, 2,…, k)
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
56
Chương 2. Mô hình hồi quy bội
2.2. PHƯƠNG PHÁP ƯỚC LƯỢNG OLS
▪ Tìm መ𝛽𝑗 sao cho
▪ Giải hệ k phương trình bậc nhất k ẩn
▪ Cách giải qua ma trận
▪ Để giải được nghiệm: các biến độc lập không được
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
có quan hệ cộng tuyến hoàn toàn với nhau
57
Chương 2. Mô hình hồi quy bội
2.2. Phương pháp ước lượng OLS
Các giả thiết OLS
▪ Giả thiết 1: Mẫu là ngẫu nhiên, độc lập
(X2i ,…, Xki ,Yi), i = 1,2,…, k là độc lập
▪ Giả thiết 2: Kì vọng sai số ngẫu nhiên bằng 0
E(u | X2 ,…, Xk ) = 0 hay E(ui | X2i ,…, Xki) = 0 ▪ Giả thiết 3: Phương sai sai số ngẫu nhiên không đổi
Var(u | X2,…, Xk) = 2 ▪ Giả thiết 4: Các biến độc lập không có quan hệ cộng
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
tuyến hoàn hảo
58
Chương 2. Mô hình hồi quy bội
2.2. Phương pháp ước lượng OLS
Định lý Gauss – Markov
▪ Định lý: Khi các giả thiết 1 đến 4 được thỏa mãn thì các ước lượng OLS là các ước lượng tuyến tính, không chệch, tốt nhất (trong lớp các ước lượng tuyến tính không chệch)
▪
▪
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
መ𝛽𝑗 𝑂𝐿𝑆 là BLUE: Best Linear Unbiased Estimator መ𝛽𝑗 𝑂𝐿𝑆 là ước lượng tuyến tính, không chệch, tốt nhất của βj (j = 1 k )
59
Chương 2. Mô hình hồi quy bội
2.2. Phương pháp ước lượng OLS
Tính vững của ước lượng
▪ Ước lượng vững (consistent estimator): khi kích
thước mẫu rất lớn thì ước lượng hệ số trong mẫu tiệm cận hệ số trong tổng thể
▪ Nếu các giả thiết OLS được thỏa mãn thì ước lượng
OLS là ước lượng vững
▪ Nếu mẫu lớn, có thể thay giả thiết 2 bởi những giả thiết bớt chặt hơn mà vẫn đảm bảo tính vững
▪ Khi không thể có ước lượng không chệch, ước lượng
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
vững cũng có thể dùng được.
60
Chương 2. Mô hình hồi quy bội
2.2. Phương pháp ước lượng OLS
Độ chính xác của ước lượng OLS
▪ Kỳ vọng của ước lượng: 𝐸 መ𝛽𝑗 = 𝛽𝑗 ▪ Phương sai:
2 là hệ số xác định khi hồi quy Xj theo các biến
▪ Với Rj
độc lập còn lại, có hệ số chặn
▪ Xj tương quan với các biến còn lại càng nhiều
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
𝑉𝑎𝑟( መ𝛽𝑗) càng lớn
61
Chương 2. Mô hình hồi quy bội
2.2. Phương pháp ước lượng OLS
Độ chính xác của ước lượng OLS
▪ Phương sai sai số ngẫu nhiên được ước lượng bởi
ො𝜎2 =
𝑅𝑆𝑆 𝑛 − 𝑘
▪ Thay ො𝜎2 vào công thức 𝑉𝑎𝑟( መ𝛽𝑗), được 𝑉𝑎𝑟 መ𝛽𝑗
▪ Sai số chuẩn của ước lượng: 𝑆𝑒 መ𝛽𝑗 = 𝑉𝑎𝑟 መ𝛽𝑗
▪ Tính được các hiệp phương sai của các cặp ước
lượng hệ số: 𝐶𝑜𝑣 መ𝛽𝑗, መ𝛽𝑠 , 𝑗 ≠ 𝑠
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
62
Chương 2. Mô hình hồi quy bội
2.2. Phương pháp ước lượng OLS
Sự tác động đến ước lượng hệ số
∗ + 𝛽2 ∗ + መ𝛽2
∗ nếu:
∗𝑋2 + 𝛽3𝑍 + 𝑢 ∗𝑋𝑖 + መ𝛽3𝑍𝑖 ▪ Ước lượng hệ số biến X không đổi: መ𝛽2 = መ𝛽2 • Ước lượng hệ số biến Z bằng 0: መ𝛽3 = 0 • Hoặc hệ số tương quan mẫu X và Z bằng 0: rX,Z = 0 ▪ Tổng quát: Nếu tất cả các biến thêm vào đều không tương quan với biến X thì ước lượng hệ số của X sẽ không đổi
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
▪ Xét mô hình: 𝑌 = 𝛽1 + 𝛽2𝑋2 + 𝑢 ; 𝑌𝑖 = መ𝛽1 + መ𝛽2𝑋2𝑖 ▪ Khi thêm biến Z: 𝑌 = 𝛽1 𝑌𝑖 = መ𝛽1
63
Chương 2. Mô hình hồi quy bội
2.3. SỰ PHÙ HỢP CỦA HÀM HỒI QUY MẪU
▪ Hệ số xác định (bội)
𝑹𝟐 =
= 1 −
𝐸𝑆𝑆 𝑇𝑆𝑆 𝑅𝑆𝑆 𝑇𝑆𝑆
▪ R2 [0,1]
▪ Cho biết tỉ lệ (%) sự biến động trong mẫu của biến phụ thuộc được giải thích bởi mô hình (bởi sự biến động của tất cả các biến độc lập).
2
▪ R2 = 0: tất cả các biến độc lập đều không giải thích
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
▪ 𝑅2 = 𝑟 𝑌,𝑌
64
Chương 2. Mô hình hồi quy bội
2.3. Sự phù hợp của hàm hồi quy mẫu
Hệ số xác định (bội) điều chỉnh
▪ Thêm biến độc lập R2 tăng lên
▪ Mô hình có R2 lớn hơn chưa chắc tốt hơn
▪ Hệ số xác định điều chỉnh (Adjuted R-squared)
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
▪ Dấu hiệu nên thêm biến vào mô hình: ത𝑅2 tăng
65
Chương 2. Mô hình hồi quy bội
2.4. MỘT SỐ DẠNG MÔ HÌNH HỒI QUY
▪ Xét các mô hình kinh tế đưa được về hồi quy tuyến
tính theo hệ số
▪ Hàm tuyến tính (linear-linear)
▪ Hàm logarit (log-log)
▪ Hàm nửa logarit (lin-log và log-lin)
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
▪ Hàm đa thức theo biến độc lập
66
Chương 2. Mô hình hồi quy bội
2.4. Một số dạng mô hình hồi quy
Mô hình dạng tuyến tính theo biến
▪ Còn gọi là linear-linear
▪ Ví dụ: Hàm cầu tiêu dùng hàng hóa:
𝐷𝐴 = 𝛽1 + 𝛽2𝑌𝑑 + 𝛽3𝑃 + 𝛽4𝑃𝑆 + 𝛽5𝑃𝐶 + 𝑢 • Với DA là lượng cầu hàng hóa A, Yd là thu nhập
khả dụng, PA là giá hàng hóa A, PS là giá hàng hóa thay thế, PC là giá hàng hóa bổ sung
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
• Theo hệ số β2 thì phân loại hàng hóa A thế nào? • Dấu các hệ số góc như thế nào thì phù hợp?
67
Chương 2. Mô hình hồi quy bội
2.4. Một số dạng mô hình hồi quy
Mô hình dạng log-log
▪ Hàm sản xuất Cobb-Douglas: 𝑄 = 𝐴. 𝐾𝛽2𝐿𝛽3 ▪ Thêm sai số: 𝑄 = 𝐴. 𝐾𝛽2𝐿𝛽3𝑒𝑢
▪ Logarit: ln 𝑄 = ln 𝐴 + 𝛽2 ln 𝐾 + 𝛽3 ln 𝐿 + 𝑢 ▪ Tổng quát: ln 𝑌 = 𝛽1 + 𝛽2 ln 𝑋2 + ⋯ +
𝛽𝑘 ln 𝑋𝑘 + 𝑢
𝑑𝑌 𝑌
𝑑𝑋2 𝑋2
𝑌 là độ co giãn của Y theo X2
• Vi phân hai vế: = 𝛽2
• 𝛽2 = 𝜀𝑋2 • Khi X2 tăng 1%, trung bình Y tăng β2%
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
68
Chương 2. Mô hình hồi quy bội
2.4. Một số dạng mô hình hồi quy
Mô hình dạng log-log
▪ Ví dụ: Phân tích kết quả ước lượng hàm sản xuất
như sau:
ln(𝑄) = 0,23 + 0,62 ln 𝐾 + 0,57ln(𝐿)
Với Q là sản lượng, K là vốn, L là lao động
▪ Ví dụ: Khi nào hàng hóa là thấp cấp, thông thường, thiết yếu, xa xỉ nếu hàm cầu theo thu nhập khả dụng có dạng:
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
ln(D) = β1 + β2 ln(Yd) + u
69
Chương 2. Mô hình hồi quy bội
2.4. Một số dạng mô hình hồi quy
Mô hình dạng lin-log
▪ Mô hình có dạng:
Y = β1 + β2 ln(X) + u
▪ Ý nghĩa hệ số góc:
𝛽2 100
𝑑𝑋 𝑋
𝑑𝑋2 𝑋2
hay 𝑑𝑌 = × 100% • 𝑑𝑌 = 𝛽2
• Khi X tăng 1% thì Y tăng (β2 / 100) đơn vị ▪ Ví dụ: Giải thích ý nghĩa kết quả ước lượng sau
W = 1,25 + 202,6 ln(TR) + e
Với W là tiền lương người lao động, TR là doanh
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
thu của công ty.
70
Chương 2. Mô hình hồi quy bội
2.4. Một số dạng mô hình hồi quy
Mô hình dạng log-lin
▪ Còn gọi là mô hình tăng trưởng (growth) :
hay 𝑌 = 𝑒𝛽1+𝛽2𝑋+𝑢
ln(Y) = β1 + β2 X + u
𝑑𝑌 𝑌 • Khi X tăng 1 đơn vị thì Y tăng 100β2%
▪ Ý nghĩa hệ số góc: = 𝛽2𝑑𝑋
▪ Ví dụ: Giải thích ý nghĩa kết quả
ln(TR) = 4,51 + 0,153T + e
Với TR là doanh thu; T là biến thời gian, nhận giá
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
trị = 1, 2, 3,… theo các năm
71
Chương 2. Mô hình hồi quy bội
2.4. Một số dạng mô hình hồi quy
Mô hình hình dạng đa thức
▪ Mô hình dạng bậc 2: Y = β1 + β2X + β3X 2 + u ▪ Tác động của X: dY/dX = β2 + 2β3X ▪ Cực trị parabol tại X0 = –β2 / (2β3)
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
β3 (+) (+) (–) (–) β2 Khi X tăng (Chỉ xét X > 0) (+) Y tăng nhanh dần (–) Y giảm về đáy rồi tăng (+) Y giảm nhanh dần (–) Y tăng đến đỉnh rồi giảm
72
Chương 2. Mô hình hồi quy bội
2.4. Một số dạng mô hình hồi quy
Mô hình dạng đa thức
▪ Mô hình dạng nghịch đảo của biến độc lập
Y = β1 + β2 (1 / X) + u
▪ Y tiệm cận β1 khi X rất lớn ▪ Khi X tăng: β2 > (<) 0: Y giảm (tăng) chậm dần về β1
▪ Ví dụ: INF = –2,5 + 1,32 ( 1/UNE ) + e
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
Với INF là tỷ lệ lạm phát, UNE là tỷ lệ thất nghiệp
73
Chương 2. Mô hình hồi quy bội
2.4. Một số dạng mô hình hồi quy
Mô hình dạng đa thức
▪ Mô hình có tương tác giữa các biến độc lập
Y = β1 + β2X + β3Z + β3 X*Z + u
▪ Tác động của X đến Y phụ thuộc vào độ lớn của Z;
tác động của Z đến Y phụ thuộc độ lớn của X
▪ Ví dụ: Phân tích ý nghĩa kết quả ước lượng sau
Q = 205 + 5,2WEB + 3,8TV + 1,3 WEB*TV + e
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
Với Q là lượng bán, WEB và TV là chi phí quảng cáo trên trang mạng và trên tivi của một doanh nghiệp.
74
Chương 2. Mô hình hồi quy bội
2.4. Một số dạng mô hình hồi quy
Ví dụ 2.1 (a) Mô hình linear-linear
t-Statistic -5.069695 29.11470 43.46253
Prob. 0.0000 0.0000 0.0000
▪ Với Y là sản lượng, K là vốn, L là lao động ▪ Lệnh LS Y C K L Dependent Variable: Y Sample: 1 100 Coefficient Variable -485.9608 C 1.292811 K 2.214092 L R-squared 0.964118 Adjusted R-sq 0.963378 272.8616 S.E. of reg. 1303.136 F-statistic
Method: Least Squares Included observations: 100 Std. Error 95.85601 0.044404 0.050943 Mean dep var S.D. dep. var Sum sq. resid Prob(F-statistic)
3707.680 1425.836 7221985. 0.000000
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
75
Chương 2. Mô hình hồi quy bội
2.4. Một số dạng mô hình hồi quy
Ví dụ 2.1 (b) Mô hình log-log
▪
Lệnh LS LOG(Y) C LOG(K) LOG(L)
Sample: 1 100
t-Statistic 3.648529 42.85566 80.97390
Prob. 0.0004 0.0000 0.0000
Dependent Variable: LOG(Y) Coefficient Variable 0.416571 C 0.621661 LOG(K) 0.476395 LOG(L) 0.988628 R-squared Adjusted R-sq 0.988393 0.045971 S.E. of reg. 4216.348 F-statistic
Std. Error 0.114175 0.014506 0.005883 Mean dep. var S.D. dep. var Sum sq. resid Prob(F-statistic)
8.136574 0.426710 0.204993 0.000000
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
76
Chương 2. Mô hình hồi quy bội
2.4. Một số dạng mô hình hồi quy
Ví dụ 2.1 (c) Mô hình lin-log
▪
Lệnh LS Y C LOG(K) LOG(L)
Sample: 1 100 Std. Error 1126.383 143.1067 58.04123
t-Statistic -19.96801 15.72576 25.09521
Prob. 0.0000 0.0000 0.0000
Dependent Variable: Y Coefficient Variable -22491.62 C 2250.462 LOG(K) 1456.557 LOG(L) 0.900873 R-squared Adjusted R-sq 0.898829 453.5220 S.E. of reg. 440.7690 F-statistic
Mean dep. var S.D. dep. var Sum sq. resid Prob(F-stat)
3707.680 1425.836 19951178 0.000000
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
77
Chương 2. Mô hình hồi quy bội
2.4. Một số dạng mô hình hồi quy
Ví dụ 2.1 (d) Mô hình log-lin
▪
Lệnh LS LOG(Y) C K L
Std. Error 0.052939 2.45E-05 2.81E-05
t-Statistic 131.4301 14.39135 22.88139
Prob. 0.0000 0.0000 0.0000
8.136574 0.426710 2.202751
Dependent Variable: LOG(Y) Sample: 1 100 Coefficient Variable 6.957747 C 0.000353 K 0.000644 L 0.877802 R-squared Adjusted R-sq.0.875283 0.150694 S.E. of reg. 348.3971 F-statistic
Mean dep. var S.D. dep. var Sum sq. resid Prob(F-stat) 0.000000
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
78
Chương 2. Mô hình hồi quy bội
2.4. Một số dạng mô hình hồi quy
Ví dụ 2.1 (e) Mô hình tương tác
Lệnh LS Y C K L K*L
Sample: 1 100
Std. Error 113.0167 0.062492 0.111005 6.35E-05
t-Statistic 3.486020 12.26190 10.71445 9.767338
Prob. 0.0007 0.0000 0.0000 0.0000
Dependent Variable: Y Coefficient Variable 393.9786 C 0.766275 K 1.189360 L 0.000620 K*L R-squared 0.982003 Adjusted R-sq.0.981440 194.2479 S.E. of reg. 1746.037 F-statistic
Mean dep. var S.D. dep. var Sum sq. resid Prob(F-stat)
3707.680 1425.836 3622295. 0.000000
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
79
Chương 2. Mô hình hồi quy bội
Tóm tắt chương 2
▪ Mô hình hồi quy k biến
▪ Ý nghĩa các hệ số
▪ Các giả thiết OLS và tính BLUE
▪ Hệ số xác định và hệ số xác định điều chỉnh
▪ Các dạng hàm: tuyến tính, logarit, nửa logarit, đa
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
thức