09/09/2014

CHƯƠNG 3

HỒI QUY ĐA B HỒI QUY ĐA BIẾN

HỒI QUY ĐA BIẾN

2

1. Biết đư ợc phương phá p ước nhất để đa biến mẫu lượng bình phương ước lượng hàm hồi tổng thể dựa trên số MỤC TIÊU nhỏ quy liệu cách kiểm định những 2. Hiểu các giả thiết

Mô hình hồi quy 3 biến

1

E(Y/ X 2, X 3) = β1 + β2 X 2 + β3

Mô hình hồi quy k biến

2

X 3

3 Dự báo

NỘI DUNG 3.1 Mô hình hồi quy 3 biến �Mô hình hồi quy tổng thể PRF

5

X3:

3

4

và X3. của biến X2 phụ thuộc biến độc lập biến hệ số tự do hệ số hồi quy riêng kiện của Y với điều kiện đã biết các giá trị Ý nghĩa: PRF cho biết trung bình có điều cố định �Y: �X2 và �β1 : �β2 β3 : ,

i i

3.1 Mô hình hồi quy 3 biến Các giả thiết của mô hình t t bằng 0 n g á

Ýnghĩahệsốhồiquyriêng:chobiếtảnh hưởngcủatừngbiếnđộclậplêngiátrịtrung bìnhcủabiếnphụthuộckhicácbiếncònlại đượcgiữkhôngđổi.

P n ô h n n à

+β 3 X3i + ui

2 X2i

t g g u 3. Khôn có hiện tượng tự tươn quan giữa ợn g n n ơ ư an gi g q �Mô hình hồi quy tổng thể ngẫu nhiên: c 1. Giá trị trung bình của U g U c a b E(Ui /X2i, X3i)=0 / E U X 0 = 3 2 á 2. Phương sai của các Ui là không đổi đ c đ a g ổ s c c á ủ ) r( a V Var(Ui)=σ2 U n K g g ệ h c ô á các Ui c c

Yi = β1 + β

n

h h

p

ẩ

ố

σ

â

0

5.Ui có phân phối chuẩn: Ui N (0, σ2 ) c

6

5

1

n U ệ ữ ữ i≠j Cov(Ui ,Uj )=0; i≠ ≠ C g n c y u v o h ) 0 ợn c c 4. Khôn có hiện tượng cộng tuyến giữa X2 a X2 g ui: sai số ngẫu nhiên của tổng thể g ô g K à và X3 v X U ó

09/09/2014

3.1.1 Ước lượng các tham số

→ min

Q=

)2

∑e2

i

i

1

2i

2

3

3i

+ β

=

βˆ ˆYi = + β

Hàm hồi quy mẫu:

+ ei

1

ˆ X2 2i

1

3

2i

= 0

3.1.1 Ước lượng các tham số = ∑(Y ­ βˆ ­ βˆ X X ­ βˆ ­2∑ (Yi ­

ˆ X3 3i sai số của mẫu ứng với quan sát

=

βˆ ­ X 3i) dQ ˆ dβ1 βˆ ­ βˆ X 2 thứ i

2∑ (Yi

ˆ ei = Yi ­Yi

3

­ X 3i)(­ X2i) = 0

βˆ βˆ ­ ­ 1 βˆ X2 2i dQ ˆ dβ 2

=

2∑ (Yi

1

2

3

­ βˆ X )(­ X ) = 0 3 3i 3i

7

8

Sản lượng Giá bán (X2) Chi phí quảng

Năm

QD(Y)

cáo (X3)

phương pháp bình phương để ước lượng các tham số βˆ ­ ­ 1 βˆ X2 2i Sử dụng nhỏ nhất βˆ , βˆ , βˆ dQ ˆ dβ 3

i

i

i

i

ˆ β =

2

2

2

i x

3.1.1 Ước lượng các tham số ∑y x 2 ∑x3 ­∑y x3 ∑x 2 x3 2 i ∑ 2i∑ 3i ∑ ) 2 x

i x x2i 3i

2

2

)2

βˆ = 3 ∑ 2i∑ ∑ x

x x 2i 3i

2 x 3i

­ ( ∑yix3i∑x2i ­∑ yi x2i∑x2i x3i ­ (

2002 100 80 40 2003 80 100 30 2004 70 120 25 2005 69 140 20 2006 58 160 19

βˆ

βˆ

βˆ ­

2 X

3X

1

2i

3i

yi = Yi ­ Y

= Y ­ Xi

xi

=X ­

9

3.1.2 Phương sai của các ước lượng

Hệ số xác định

2

2

2

2

Hệ số xác định R2

2

2

)σ

n∑ ei

)2

1 ˆ Var(β1) = ( +

x x2i 3i

2 =

R

i=1 n

X2 ∑x3i +X 3 ∑x2i ­ X2 X 3∑x2i x3i ­ (

ESS TSS

RSS TSS

= 1 ­

= 1 ­

2 i

∑

2

2yi

ˆ

σ

i =1

) 2

x 2

x x2i 3i

Var (β 2 ) =

2

2

Mô hình hồi quy 3 biến R2 =

σ

Var

2

i

x

2007 49 180 15 2008 43 200 14 2009 41 220 10 2010 38 240 11 2011 36 260 10

)2

∑ 2i∑ ∑

2 ∑ 2i∑ 3i ∑ x 2 x 2 n ∑x3 ∑ 2i∑ 3i ∑ ­ x 2 ( ∑ x2i x ­ ( 2 3i

x x 2i 3i

( n ­ k )

2R =

Hệ số xác định hiệu chỉnh Với k là tham số của mô hình, kể cả hệ số tự do

ˆ (β 3 ) =

( n ­ 1)

y2

=

2σˆ =

(1 ­

11

12

β2∑yix2i +β3∑yi ˆ ˆ ∑y2 x3i e2∑ i y2∑ i

∑ i R2 ) n ­ 3

2

σ2 là phương sai của ui chưa biết nên dùng ước lượng không chệch: ∑ i 2 e n ­ 3

09/09/2014

3.1.4 Khoảng tin cậy

Hệ số xác định hiệu chỉnh

2

R2

n­ 1 n­ k

βˆ

βˆ

­ ε

+ ε

(

;

)

β ∈ i

i

i

i

i

R2

α α Với mức ý nghĩa hay độ tin cậy 1-

= 1 ­ (1 ­ R ) Dùng để xét việc đưa thêm 1 biến vào mô hình. Biến mới đưa vào mô hình phải thỏa 2 điều kiện:

βˆ

ε = SE (

i

i

/ 2 )

) t( n ­ 3 ,α

R2

Với

tăng

13

14

3.1.5 Kiểm định giả thiết

*

3.1.5 Kiểm định giả thiết 1. Kiểm định giả thiết H0: βi = βi

- Làm - Hệ số hồi quy biến mới thêm vào mô hình khác 0 có ý nghĩa

i i

t = i

βˆ β*­ SE (βˆ )i

F =

R (1 ­

B1. Tính 0; tham số khác 0) thiết đồng thời bằng không: = β3 = nhất 1 2. Kiểm định giả H0: β2 (H1: ít B1. Tính

2 ( n ­ 3 ) 2 R ) 2 B2. Nguyên tắc quyết định �F > Fα(2, n-3): Bác bỏ H0: Mô hình phù hợp �F ≤ Fα(2, n-3): Chấp nhận H0: Mô hình không phù hợp

15

16

> ≤ | | B2. Nguyên tắc quyết định bỏ H0 �Nếu �Nếu |ti |ti t(n-3,α/2): bác t(n-3,α/2) : chấp nhận H0

n

3.2 Mô hình hồi quy k biến

1

2 2i

3 3i

k ki

i

i

i =1

i =1 n

E (Y / X2 ,... Xk ) = β 1 + β

β kXki

2 X2i

i

+ ... +

­

βˆ

βˆ2

X

X

0

Mô hình hồi quy tổng thể 3.2.1 Ước lượng các tham số ) n (Y ­βˆ ­βˆ X ­βˆ X ­...­βˆ 2 →min

∑ ∑ e2 = X (i n∑ βˆ Y

­ ­ 1

2i

X 3 3i

βˆ k

ki

i=1

1

­ ...­

= ­2

βˆ ˆYi = +

i

+ ei

1

ki

­

­

=

(Y ­

) = X )X 2

βˆ

0

n∑ βˆ1 βˆ2 X 2

βˆ 3

i

i

X 3 i

k ki,

i

+ ... + βˆ X

i=1

2

k

­ ...­

= ­2

Mô hình hồi quy mẫu ngẫu nhiên: βˆ X2 2i

n

ˆ

ˆ

ˆ

ˆ

i

­

­

=

(Y ­

βˆ

X ) X

0

n∑ βˆ1 βˆ2 X 2

βˆ 3

i

i

X 3 i

k ki

ki

∂∑e2 i= 1 ∂β n ∂∑e2 i= 1 ∂ β ... ∂∑e2 i= 1 ∂β

i

k

ˆ ei =Yi ­Yi =Yi ­β1 ­β2X2i ­β3X3i ­...­βkX ki

­ ...­

= ­2

= 1

17

18

3

sai số của mẫu ứng với quan sát thứ i

09/09/2014

Hệ số xác định

3.2.2 Khoảng tin cậy

βˆ

βˆ

...

yx

yx

R 2 =

(βˆ

2∑ i 2i + 3∑ i 3i + + k∑ i ki βˆ yx ∑y 2

β ∈ i

i

βˆ ­ ε ; + ε ) i

i

i

i

Với mức ý nghĩa α 1- α hay độ tin cậy

Hệ số xác định hiệu chỉnh

ε i

i).t (n ­k ,α/ 2)

2 =1­ (1­ R

R

= SE (βˆ

2 )

Với

n ­1 n ­k Với klà tham số của mô hình, tự do

19

20

Hệ số xác định hiệu chỉnh

3.2.3 Kiểm định các giả thiết hồi quy

kể cả hệ số

R2

n­ 1 n­ k

*

= 1 ­

(1 ­ R 2 )

KiểmđịnhgiảthiếtH0:

β i = β i

1. Kiểm định giả thiết về hệ số hồi quy

R2

*

t =i

βˆ ­ i i β SE(βˆ )i

để xem xét việc đưa thêm biến vào B1.Tính Dùng mô hình. Biến mới đưa vào mô hình phải thỏa 2 điều kiện:

R2 - Làm tăng - Biến mới có hình mới

21

22

ý nghĩa thống kê trong mô B2. Nguyên tắc quyết định �Nếu |ti | > t(n-k,α/2) : bác bỏ H0 �Nếu |ti | ≤ : chấp nhận H0 t(n-k,α/2)

3.2.4 Kiểm định các giả thiết hồi quy 2. Kiểm định sự phù hợp của mô hình: kiểm định giả thiết đồng thời bằng không:

3.3 DỰ BÁO

ˆYi =

2

k

1

+ X 2 + .... +

βˆ ⎡

R2 (n ­ k)

F =

)( k ­ 1)

1⎥ 0X 2⎥0 =X

Mô hình hồi quy βˆ βˆ = β3 =…= βk = 0; nhất 1 trong k tham số khác 0) H0: β2 (H1: ít

(1 ­

X k ⎤ ⎥ ⎥ ⎥ ⎥

Cho trước giá trị

0 k

Dự báo giá trị trung bình và giá trị cá biệt của

Mô hình

1 - α.

Y với mức ý nghĩa α hay độ tin cậy

F > Fα(k-1, n-k): Bác bỏ H0: Mô hình phù

F ≤ Fα(k-1, n-k): Chấp nhận H0: phù hợp

⎥.. .. ⎥ ⎥ ⎣ X

23

24

4

B1. Tính R2 B2. Nguyên tắc quyết định: �Nếu hợp �Nếu không

09/09/2014

* Dự báo giá trị cá biệt

của Y

0

0

ˆ

'

* Ước lượng điểm ˆ Y 0

ˆ βk Xk

(Yˆ

∈

+ ε

­ ε

Y

)

0 ;Yˆ

' 0

0

0

0

X 2 + ... + * Dự báo giá trị trung bình của Y

3.3 DỰ BÁO 3.3 DỰ BÁO

ˆ

)

E(Y / X

0

0

0

+ε 0

0

'ε0 =SE(Y0 ­ Y0 )t ( n­ k,α / 2 )

ˆ = β + 1 β2 ) ∈ (Yˆ ­ ε ;Yˆ ˆ ε0 = SE (Y 0 )t ( n­ k ,α / 2 )

Yˆ

Với:

Yˆ Var(Y ­ ) 0 0

SE(Y ­ ) 0 0 =

SE (Yˆ

Var (Yˆ )

=)0

0

2

ˆ

ˆ

0T

2

0

ˆ

σˆ=

X

T ( X .X )

.X

Var (Y 0 )

­ 1

Var(Y0 ­Y0) =Var(Y0) +σˆ

25

26

5

Với: