10/16/2018
1
LOG
O
Chương 4:
MÔ HÌNH HỒI QUY BỘI
(MÔ HÌNH HỒI QUY NHIỀU BIẾN)
GV. Phan Trung Hiếu
-Biết cách tìm hàm hồi quy mẫu SRF:
1 2 3
2 3
i
i i
Y X X
-Biết cách tìm khoảng ƯL cho các tham số và KĐ các giả thiết.
-Sử dụng mô hình hồi quy tìm được để dự báo.
2
I. Mô hình hồi quy 3 biến:
2
Tổng thể PRF Mẫu SRF
21
3
2 332
( | , )
i i
i i
X
X
X
Y
2
2 3
3
1
i
i i
XY
X
22 331i i i
i
Y X X
U
22 3
31
i i i
i
Y X X
U
2 3
: öôùc löôïng ñieåm ( | cua
, )
û
i
i i
Y E Y X X
1
1
( ) :öôùc löôïngñieåm cuûa
heä soá chaën
2 3
2 3
( ) : öôùc löôïng ñieåm cuûa
, ,
heä soá hoài quy rieâng
( ) : öôùc löôïng ñieåm cuûa
i
i
U U
phaàn dö
Giá trị trung bình
của Y
1 2 3
, , ?
3
II. Phương pháp bình phương nhỏ nhất:
2
2 3 3 2 3
1 1 1 1
22
2 2
2 3 2 3
1 1 1
2
3 2 2 2 3
1 1 1 1
3
2
2
1
n n n n
i i i i i i i
i i i i
n n n
i i i i
i i i
n n n n
i i i i i i i
i i i i
n
i
i
y x x y x x x
x x x x
y x x y x x x
x
2
2
3 2 3
1 1
1 2 3
2 3
n n
i i i
i i
x x x
Y X X
4
III. Dạng ma trận:
SRF 3 biến dạng ma trận như sau
Y X
1
2
1
...
n
n
Y
Y
Y
Y
1
2
3
3 1
21 31
22 32
2 3
3
1
1
... ... ...
1n n
n
X X
X X
X
X X
5
1
( )
T T
X X X Y
2 3
1 1
2
2 2 2 3
1 1 1
2
3 2 3 3
1 1 1
;
n n
i i
i i
nnn
T
i i i i
iii
n n n
i i i i
i i i
n X X
X X X X X X
X X X X
1
2
1
3
1
n
i
i
n
T
i i
i
n
i i
i
Y
X Y X Y
X Y
6
Ý nghĩa của hệ số tự do
1
1
cho biết khi
2 3
,
i i
X X
đều bằng 0 thì giá trị trung bình
đơn vị.
2
2 3
3
1
i
i i
XY
X
của biến Ylà
1
10/16/2018
2
7
Ý nghĩa của hệ số hồi quy riêng
2 3
,
2
0
2
2 3
3
1
i
i i
XY
X
:nếu giữ
3
i
X
không đổi, khi
2
i
X
tăng 1đơn vị
2
đơn vị.sẽ làm cho giá trị trung bình của biến Ytăng
3
0
:nếu giữ
2
i
X
không đổi, khi
3
i
X
tăng 1đơn vị
3
đơn vị.sẽ làm cho giá trị trung bình của biến Ytăng
( )
(giảm)
( )
(giảm)
8
IV. Mô hình hồi quy k biến:
nbộ quan sát
2 3
( , , ,..., )
i i i ki
Y X X X
.
12 3 2 3
12 3
2 3
2 3
..( | , ,..., ) .
...
i i ki
i i k
i
k
kki
i
i i i
X X X
PRF Y X X X U
E Y X X X
1 2 3
1
2
3
2 3
2
3...
...
i i ki
i i
k
i
i
k
k
i
iX X X
SRF
Y X
Y
X X
U
9
Y X
1
2
1
...
n
n
Y
Y
Y
Y
1
2
3
1
...
k
k
21 31 1
22 32 2
2 3
1...
1...
... ... ... ...
...
1...
k
k
n n kn
n k
XXX
X X X
X
X X X
SRF kbiến dạng ma trận như sau
10
2 3
1 1 1
2
12 2 2 3 2
1 1 1 1
2
2 3
1 1 1 1
...
...
... ... ... ... ...
...
n n n
i i ki
i i i
n n n n
T
i i i i i ki
i i i i
n n n n
ki ki i ki i ki
i i i i
n X X X
X X X X X X
X X
X X X X X X
1
( )
T T
X X X Y
11
1
2
1
3
1
1
...
n
i
i
n
i i
i
n
T
i i
i
n
ki i
i
Y
X Y
X Y X Y
X Y
12
Ví dụ 1: Số liệu quan sát của một mẫu cho ở bảng dưới
đây, trong đó
Y:lượng hàng bán được của một loại hàng (tấn/tháng).
X2: thu nhập của người tiêu dùng (triệu đồng/tháng).
X3: giá bán của loại hàng này (ngàn đồng/kg).
Hãy ước lượng hàm hồi quy tuyến tính của lượng hàng
bán được theo thu nhập của người tiêu dùng và giá bán
của loại hàng này. Cho biết ýnghĩa kinh tế của các hệ số
hồi quy riêng.
10/16/2018
3
13
Giải
n
2
1
n
i
i
X
1
n
i
i
Y
2
1
n
i i
i
X Y
2
2
1
n
i
i
X
2
1
n
i
i
Y
2
X
Y
3
1
n
i
i
X
3
1
n
i i
i
X Y
2
3
1
n
i
i
X
3
X
2 3
1
n
i i
i
X X
14
10 60 52
60 388 282
52 282 308
T
X X
1
T
X X
9995
477 407
382 191 191
477 47 75
191 191 382
407 75 35
191 382 191
15
165
1029
813
T
X Y
1
( )
T T
X X X Y
1
2
3
14,99215
0,76178
0,58901
16
Vậy hàm hồi quy mẫu cần tìm là
cho biết nếu giữ giá bán của loại hàng
này không đổi, khi thu nhập của người tiêu dùng tăng
……………………. thì lượng hàng bán được trung bình
sẽ ………………………
2
0,7618
3
0,5890
cho biết nếu giữ thu nhập của người tiêu
dùng không đổi, khi giá bán của loại hàng này tăng
…….……………….. thì lượng hàng bán được trung
bình sẽ…………………….
17
V. Tính chất của SRF:
5.1. Tính chất của các hệ số hồi quy:
được xác định một cách duy nhất với nbộ giá trị
.
quan sát
là vectơ ngẫu nhiên, với các mẫu khác nhau,
giá trị của chúng sẽ khác nhau.
5.2. Tính chất của hàm hồi quy mẫu:
1 2 32 3 ... k
k
Y X X X
2 3
( , , ,..., )
i i i ki
Y X X X
Y Y
1
n
i
i
Y
Y
n
, với
1
0
n
i
i
U
1
0,
n
i
ki
i
X U k
1
0
n
i i
i
Y U
18
VI. Các tổng bình phương độ lệch:
.
Dạng ma trận
TSS
ESS
RSS
T
T T
RSS Y Y X Y
2
TT
ESS X Y n Y
2
T
TSS Y Y n Y
RSS TSS ESS
10/16/2018
4
19
VII. Hệ số xác định
2
:
R
21
RSS ESS
R
TSS TSS
21
RSS
R
TSS
T
T T
Y Y X Y
2
1
n
i
i
Y
2
.
T
Y Y n Y
Chú ý 1:
Hệ số xác định chỉ cho biết tác động tổng
hợp của tất cả các biến độc lập đến biến
phụ thuộc . Nó không cho biết chính xác
mức độ tác động của từng biến độc lập.
2
R
ki
X
i
Y
21
Chú ý 2:
21
RSS
R
TSS
2
2
1 1
n n
i
ii
i i
RSS U Y Y
Nếu đưa thêm biến vào mô hình thì RSS sẽ giảm
2
2
1 1
n n
i i
i i
TSS y Y Y
cố định.
sẽ không giảm đi mà còn có thể tăng lên.
mô hình càng thích hợp khi ta thêm càng nhiều biến
độc lập vào mô hình!
Tuy nhiên, điều này chưa hẳn đúng.
ki
X
hoặc
không đổi. Mà
22
Ví dụ 2: Theo số liệu quan sát trong Ví dụ 1. Tính các
tổng bình phương độ lệch, hệ số xác định của hàm
SRF. Giải
1 2 3
( )
T
TT
X Y
2
1
n
T
i
i
Y Y Y
RSS TSS ESS
2
.
T
TSS Y Y n Y
21
RSS
R
TSS
TT
X Y
2TT
ESS X Y n Y
VIII. Ma trận tương quan:
-Mô hình kbiến:
1
2 2
1 1
, ( 2,3,..., ; 2,3,..., )
n
i i
i
X X n n
i i
i i
x x
r r t k j k
x x
t j
t j
tj
t j
1
1
2 2
1 1
, ( 2,3,..., )
n
i i
i
YX n n
i i
i i
y x
r r j k
y x
j
j
j
j
23
-Ma trận tương quan của mô hình kbiến:
12 1
21 2
1 2
1 ...
1 ...
... ... ... ...
... 1
k
k
k k
r r
r r
R
r r
24
10/16/2018
5
-Mô hình 3biến:
2
2
1
12
2 2
2
1 1
n
i i
i
YX n n
i i
i i
x y
r r
x y
3
3
1
13
2 2
3
1 1
n
i i
i
YX n n
i i
i i
x y
r r
x y
2 3
2 3
1
23
2 2
2 3
1 1
n
i i
i
X X n n
i i
i i
x x
r r
x x
25
-Ma trận tương quan của mô hình 3biến:
12 13
21 23
31 32
1
1
1
r r
R r r
r r
26
27
IX. Phương sai và sai số chuẩn của ước lượng:
Xem trang 11.
Chú ý: trong trường hợp kbiến thì
2
RSS
n k
Nhận xét: Không nên tính trực tiếp
1
var( )
2
var( )
3
var( )
bằng công thức phức tạp.
1
var( )
2
var( )
3
var( )
???
28
X. Ma trận hiệp phương sai:
Ma trận hiệp phương sai cho mô hình 3 biến:
2
1
cov( ) T
X X
1 2 3
var( ), var( ), var( )
1 1 2 1 3
2 1 2 2 3
3 1 3 2 3
( ) cov , cov ,
cov cov , ( ) cov ,
cov , cov , ( )
var
var
var
29
Ví dụ 3: Theo số liệu quan sát trong Ví dụ 1.
Tìm phương sai của các hệ số hồi quy.
Giải
21
cov T
X X
1
var( )
2
var( )
3
var( )
2
3
RSS
n
30
XI. Khoảng tin cậy của các hệ số hồi quy:
Phương pháp: Tương tự Chương 2, chỉ khác:
-Không cần tính var vì đã được suy ra từ ma trận hiệp
phương sai.
-Công thức nào có số 2thì ta thay bằng số biến của
hàm hồi quy.