1
CHƯƠNG 2
HỒI QUY ĐƠN BIẾN
1. Biết được phương pháp ước
lượng bình phương nhỏnhất để
ước lượng hàm hồi quy tổng
thểdựa trên sốliệu mẫu
2. Hiểu các cách kiểm định những
giảthiết
MỤC
TIÊU
HỒI QUY ĐƠN BIẾN
Tiêu Nguyên Thảo
2
NỘI DUNG
Mô hình
1
Phương pháp bình phương nhỏ nhất (OLS)
2
3Kiểm định giả thiết
4
5
Tiêu Nguyên Thảo
3
2
Mô hình hồi quy tuyến tính hai biến
PRF dạng xác định
E(Y/X
i
) = f(X
i
)= β
1
+ β
2
X
i
dạng ngẫu nhiên
Y
i
= E(Y/X
i
) + U
i
= β
1
+ β
2
X
i
+ U
i
SRF dạng xác định
dạng ngẫu nhiên
ii
XY
21
ˆˆ
ˆ
iiiii
eXeYY
21
ˆˆ
ˆ
2.1 MÔ HÌNH
Tiêu Nguyên Thảo
4
2.1 MÔ HÌNH
Trong đó
: Ước lượng cho b
1
: Ước lượng cho b
2
: Ước lượng cho E(Y/Xi)
Sử dụng phương pháp bình phương nhỏ
nhất thông thường (OLS) để tìm ,
2
ˆ
1
ˆ
2
ˆ
1
ˆ
i
Y
ˆ
Tiêu Nguyên Thảo
5
2.1 MÔ HÌNH
Y
X
1
2
ˆ
1
ˆ
2
SRF
Hình 2.1: Hệ số hồi quy trong hàm hồi quy PRF và SRF
Tiêu Nguyên Thảo
6
3
2.2 PHƯƠNG PHÁP OLS
Giả sử có n cặp quan sát (X
i
, Y
i
). Tìm giá trị Ŷ
i
sao cho Ŷ
i
gần giá trị Y
i
nhất, tức e
i
= |Y
i -
Ŷ
i
|
càng nhỏ càng tốt.
Hay, với n cặp quan sát, muốn
min
ˆˆ
2
1
21
1
2
n
i
ii
n
i
i
XYe
Tiêu Nguyên Thảo
7
Bài toán thành tìm , sao cho f min
Điều kiện để đạt cực trị là:
2.2 PHƯƠNG PHÁP OLS
2
ˆ
1
ˆ
0X
ˆˆ
Y2
ˆ
e
n
1i
i21i
1
n
1i
2
i
bb
b
XX
ˆˆ
Y2
ˆ
e
i
n
1i
i21i
2
n
1i
2
i
bb
b
0
Tiêu Nguyên Thảo
8
n
i
i
n
i
i
n
i
ii
n
i
n
i
ii
YXXX
YXn
1 11
2
21
1 1
21
ˆˆ
ˆˆ
Hay
2.2 PHƯƠNG PHÁP OLS
Tiêu Nguyên Thảo
9
4
Giải hệ, được
XY
21
ˆˆ
n
i
ii
n
i
iiii
XXn
YXXYn
1
2
2
1
2
ˆ
XXx
ii
YYy
ii
b
n
1i
2
i
n
1i
ii
2
x
xy
ˆ
2.2 PHƯƠNG PHÁP OLS
Tiêu Nguyên Thảo
10
2.2 PHƯƠNG PHÁP OLS
Với
n
Yi
Y
là trung bình mẫu (theo biến)
n
Xi
X
gọi là độ lệch giá trị của biến so với giá trị
trung bình mẫu
XXx
ii
YYy
ii
Tiêu Nguyên Thảo
11
TSS (Total Sum of Squares - Tổng bình
phương sai số tổng cộng)
ESS: (Explained Sum of Squares - Bình
phương sai số được giải thích)
RSS: (Residual Sum of Squares - Tổng bình
phương sai số)
CÁC TỔNG BÌNH PHƯƠNG ĐỘ LỆCH
2222
).()(
iii
yYnYYYTSS
222 )
ˆ
()
ˆ
(ii xYYESS
22
2
222
ˆ
)
ˆ
(
iiiii
xyYYeRSS
Tiêu Nguyên Thảo 12
5
ESS
RSS
SRF
TSS
Y
X
Y
i
X
i
i
Y
ˆ
Hình 2.3: Ý nghĩa hình học của TSS, RSS và ESS
CÁC TỔNG BÌNH PHƯƠNG ĐỘ LỆCH
Tiêu Nguyên Thảo 13
HỆ SỐ XÁC ĐỊNH R
2
TSS
RSS
TSS
ESS 1
Hàm SRF phù hợp tốt với các số liệu quan
sát (mẫu) khi gần Y
i
. Khi đó ESS lớn
hơn RSS.
Hệ số xác định R
2
: đo mức độ phù hợp
của hàm hồi quy mẫu.
i
Y
ˆ
Ta chứng minh được: TSS = ESS + RSS
hay
Tiêu Nguyên Thảo 14
Trong mô hình 2 biến
n
i
i
n
i
i
y
x
R
1
2
1
22
2
2
ˆ
HỆ SỐ XÁC ĐỊNH R
2
n
i
i
n
i
i
y
e
TSS
RSS
TSS
ESS
R
1
2
1
2
2
11
Tiêu Nguyên Thảo
15