Chương 1. MÔ HÌNH HỒI QUY HAI BIẾN
▪ Giới thiệu mô hình hồi quy giữa một biến phụ thuộc
và một biến độc lập
▪ Mối quan hệ về mặt trung bình được thể hiện qua
▪ Mối quan hệ ở hai mức độ: Tổng thể và Mẫu
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
mô hình gọi là mô hình hồi quy
15
Chương 1. Mô hình hồi quy hai biến
NỘI DUNG CHƯƠNG 1
1.2. Phương pháp ước lượng OLS
1.1. Mô hình hồi quy
1.3. Tính không chệch và độ chính xác
1.4. Độ phù hợp của hàm hồi quy mẫu
1.5. Trình bày kết quả ước lượng
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
1.6. Một số vấn đề bổ sung
16
Chương 1. Mô hình hồi quy hai biến
1.1. MÔ HÌNH HỒI QUY
▪ Ví dụ: X là thu nhập, Y là chi tiêu
▪ Đánh giá tác động của một biến X lên một biến Y
▪ Thể hiện quan hệ hàm số
Chi tiêu = f(Thu nhập)
▪ Đơn giản nhất là dạng tuyến tính:
▪ Thực tế luôn có sai số
Chi tiêu = β1 + β2Thu nhập
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
Chi tiêu = β1 + β2Thu nhập + u
17
Chương 1. Mô hình hồi quy hai biến
1.1. Mô hình hồi quy
Ví dụ minh họa
▪ Giá và lượng bán một loại hàng tại một số cửa hàng
Consumption
Quantity • • •
• •
•
• •
• •
• • •
▪ Chi tiêu và thu nhập của một số hộ gia đình
•
• •
•
• •
•
•
• •
• •
• • • •
• • • •
Income
Price
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
18
Chương 1. Mô hình hồi quy hai biến
1.1. Mô hình hồi quy
Mô hình hồi quy tuyến tính hai biến
▪ Tổng quát: Y = β1 + β2X + u ▪ Các biến số:
▪ Y là biến phụ thuộc (dependent variable)
▪ X là biến độc lập, biến giải thích, biến điều khiển (independent, explanatory, control variable)
▪ Sai số ngẫu nhiên (random error): u
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
▪ Các hệ số hồi quy (regression coefficient): β1, β2
19
Chương 1. Mô hình hồi quy hai biến
1.1. Mô hình hồi quy
Hàm hồi quy tổng thể - PRF
▪ Giả thiết: E(u | X) = 0 suy ra: E(Y | X) = β1 + β2X ▪ Gọi là hàm hồi quy tổng thể - PRF (Population
Regression Function)
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
▪ β1 : Hệ số chặn (intercept) ▪ β2 : Hệ số góc (slope)
20
Chương 1. Mô hình hồi quy hai biến
1.1. Mô hình hồi quy
Ví dụ minh họa
Y
▪ Chi tiêu (Y) và Thu nhập (X)
E(Y | X)
(Y | X)
X
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
21
Chương 1. Mô hình hồi quy hai biến
1.1. Mô hình hồi quy
Ví dụ minh họa
Y
u (+)
u (–)
▪ Hàm PRF dạng tuyến tính
β1
E(Y | X) = β1 + β2X
X
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
22
Chương 1. Mô hình hồi quy hai biến
1.1. Mô hình hồi quy
Hàm hồi quy mẫu - SRF
▪ Hoặc với từng quan sát Xi
▪ Mẫu hai chiều kích thước n: {(Xi ,Yi) ; i =1÷n} ▪ Hàm trong mẫu để ước lượng cho hàm hồi quy tổng thể, thể hiện xu thế trung bình của mẫu, có dạng: 𝑌 = መ𝛽1 + መ𝛽2𝑋
Function)
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
𝑌𝑖 = መ𝛽1 + መ𝛽2𝑋𝑖 ▪ Gọi là hàm hồi quy mẫu – SRF (Sample Regression
23
Chương 1. Mô hình hồi quy hai biến
1.1. Mô hình hồi quy
Phần dư
▪ Giá trị 𝑌𝑖 có sai số so với Yi ▪ Đặt: 𝑒𝑖 = 𝑌𝑖 − 𝑌𝑖 ▪ Hay: 𝑌𝑖 = መ𝛽1 + መ𝛽2𝑋𝑖 + 𝑒𝑖 ▪
▪ Ŷi là giá trị ước lượng (fitted value) cho E(Y | Xi)
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
መ𝛽1, መ𝛽2 là hệ số hồi quy mẫu, hệ số ước lượng, là ước lượng (estimator) cho hệ số tổng thể β1, β2 ▪ Phần dư e là phản ánh sai số u trong tổng thể
24
Chương 1. Mô hình hồi quy hai biến
1.1. Mô hình hồi quy
Ví dụ minh họa
•
•
▪ PRF và SRF
•
Ŷi •
•
•
•
• β1
•
•
•
•
•
•
•
•
•
•
Yi
E(Y | X)
Xi
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
Tổng thể (chưa biết) Mẫu (số liệu)
25
Chương 1. Mô hình hồi quy hai biến
1.1. Mô hình hồi quy
Tính tuyến tính của mô hình hồi quy
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
▪ Dựa trên tham số: Hàm hồi quy tuyến tính (linear regression function) nếu tuyến tính theo tham số E(Y | X ) = 1 + 2X 2 E(Y | X ) = 1 + 2lnX ▪ Hàm hồi quy phi tuyến
26
Chương 1. Mô hình hồi quy hai biến
1.1. Mô hình hồi quy
Tóm tắt
▪ Tổng thể: Y = 𝛽1 + 𝛽2𝑋 + 𝑢
𝐸(𝑌|𝑋) = 𝛽1 + 𝛽2𝑋 = መ𝛽1 + መ𝛽2𝑋𝑖 = መ𝛽1 + መ𝛽2𝑋𝑖 + 𝑒𝑖
▪ Mẫu:
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
𝑌𝑖 𝑌𝑖
27
Chương 1. Mô hình hồi quy hai biến
1.2. PHƯƠNG PHÁP ƯỚC LƯỢNG OLS
▪ Phương pháp bình phương nhỏ nhất thông thường
OLS (Ordinary Least Squares)
2) → min
𝑛 𝑒𝑖
𝑛 (𝑌𝑖
2− 𝑌𝑖
▪ Tìm መ𝛽1, መ𝛽2 để
2 = σ𝑖=1
• 𝑅𝑆𝑆 = σ𝑖=1
▪ Với 𝑥𝑖 = 𝑋𝑖 − ത𝑋 và 𝑦𝑖 = 𝑌𝑖 − ത𝑌
መ𝛽1 = ത𝑌 − መ𝛽2 ത𝑋 ;
መ𝛽2 =
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
σ 𝑥𝑖𝑦𝑖 2 σ 𝑥𝑖
28
Chương 1. Mô hình hồi quy hai biến
1.3. TÍNH KHÔNG CHỆCH VÀ ĐỘ CHÍNH XÁC
▪ Các ước lượng ngẫu nhiên, xét tính không chệch và
hiệu quả của chúng Các giả thiết OLS
▪ Giả thiết 1: Mẫu là ngẫu nhiên, độc lập
E(u | X ) = 0
hay E(ui | Xi ) = 0 i
▪ Giả thiết 2: Kì vọng sai số ngẫu nhiên bằng 0
▪ Giả thiết 3: Phương sai sai số ngẫu nhiên không đổi
Var(u | X ) = 2
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
Var(ui | Xi) = Var(uj |Xj ) i ≠ j
29
Chương 1. Mô hình hồi quy hai biến
1.3. Tính không chệch và độ chính xác
Tính không chệch
▪ Định lý: Khi Giả thiết 2 được thỏa mãn thì ước
lượng OLS là không chệch:
; 𝐸 መ𝛽1 = 𝛽1 𝐸 መ𝛽1 = 𝛽1
; 𝑉𝑎𝑟 𝑉𝑎𝑟 መ𝛽2 = መ𝛽1 =
▪ Khi các giả thiết 1 đến 3 được thỏa mãn thì: 2 𝜎2 𝜎2 σ 𝑋𝑖 2 2 σ 𝑥𝑖 𝑛 σ 𝑥𝑖
▪ Phương sai sai số ngẫu nhiên σ2 ước lượng bởi:
2 σ 𝑒𝑖 𝑛 − 2
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
ො𝜎2 =
30
Chương 1. Mô hình hồi quy hai biến
1.3. Tính không chệch và độ chính xác
Sai số chuẩn (Standard Error)
▪ Sai số chuẩn của hồi quy (Standard Error of
regression)
2 σ 𝑒𝑖 𝑛 − 2
ො𝜎 =
▪ Sai số chuẩn của các ước lượng hệ số
2 ො𝜎2 σ 𝑋𝑖 2 𝑛 σ 𝑥𝑖
𝑆𝑒 መ𝛽1 = ; 𝑆𝑒 መ𝛽2 =
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
ො𝜎2 2 σ 𝑥𝑖
31
Chương 1. Mô hình hồi quy hai biến
1.4. SỰ PHÙ HỢP CỦA HÀM HỒI QUY MẪU
2
𝑛
𝑛 𝑌𝑖 − ത𝑌 2 = σ𝑖=1
TSS
= ESS
𝑛 𝑒𝑖 2 + σ𝑖=1 + RSS
𝑌𝑖 − ത𝑌 σ𝑖=1
▪ Đặt
𝑅2 = = 1 −
𝐸𝑆𝑆 𝑇𝑆𝑆 𝑅𝑆𝑆 𝑇𝑆𝑆
▪ R 2 là hệ số xác định (coefficient of determination)
động của biến phụ thuộc trong mẫu được giải thích bởi mô hình (bởi sự biến động của biến độc lập)
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
▪ Ý nghĩa: Hệ số xác định cho biết tỉ lệ (%) sự biến
32
Chương 1. Mô hình hồi quy hai biến
1.5. TRÌNH BÀY KẾT QUẢ ƯỚC LƯỢNG
• Ŷi = 2,23 + 1,65 Xi • Se (0,5) (0,192)
▪ Ví dụ với Y là lương, X là số năm kinh nghiệm
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
• n = 5 RSS = 0,677 R2 = 0,961
33
Chương 1. Mô hình hồi quy hai biến
1.5. Trình bày kết quả ước lượng
Bảng kết quả Microsoft Excel SUMMARY OUTPUT
Regression Statistics
0.980 0.961 0.948 0.436 5
Multiple R R Square Adjusted R sq Standard Error Observations ANOVA
df
Sig. F
F 73.96
0.003
MS 14.223 0.192
1 3 4
Regression Residual Total
SS 14.223 0.577 14.8
S.Error
t Stat
Intercept X
Coef. 2.231 1.654
0.501 0.192
4.448 8.6
0.021 0.003
0.635 1.042
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
P-value Lower 95% Upper 95% 3.827 2.266 34
Chương 1. Mô hình hồi quy hai biến
1.5. Trình bày kết quả ước lượng
Bảng kết quả Eviews
Dependent varible:
Y
Method: Least Squares
Sample: 1 5
Included observation: 5
Variable Coef.
Std.Error
t-Statistic Prob.
C
2.230769
0.501477
4.448397
0.0211
X
1.653846
0.192308
8.600000
0.0033
R-squared
0.961019
Mean dep. var
6.2
Adjusted R-sq
0.948025
S.D dep. var
1.923538
S.E.of regression
0.438529
Akaike info criterion
Sum squared resid
0.576923
Schwarz criterion
Log likelihood
F-statistic
73.96
Durbin-Watson stat
Prob(F-statistic) 0.003305
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
35
Chương 1. Mô hình hồi quy hai biến
1.6. MỘT SỐ VẤN ĐỀ BỔ SUNG
▪ Không phải lúc nào cũng có ý nghĩa kinh tế
Vấn đề hệ số chặn
▪ Khi không có ý nghĩa, không phân tích hệ số chặn
▪ Hệ số chặn có ý nghĩa kĩ thuật, để tránh các sai lệch
▪ Nếu không có hệ số chặn, R 2 mất ý nghĩa
▪ Khi biến độc lập/phụ thuộc thay đổi về đơn vị thì
Vấn đề về đơn vị của các biến
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
các hệ số cũng thay đổi theo
36
Chương 1. Mô hình hồi quy hai biến
Tóm tắt chương 1
▪ Hàm hồi quy tổng thể, hồi quy mẫu
▪ Khái niệm hồi quy và các biến
▪ Các hệ số và ước lượng hệ số
▪ Các sai số chuẩn
▪ Các giả thiết OLS
KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn
▪ Hệ số xác định và ý nghĩa