Bài giảng Dự báo kinh doanh - Chương 5: Hồi quy bội

Chia sẻ: Bfgh Bfgh | Ngày: | Loại File: PDF | Số trang:56

Thêm vào BST

Báo xấu

109
lượt xem 21
download

Download Vui lòng tải xuống để xem tài liệu đầy đủ

Bài giảng Dự báo kinh doanh Chương 5: Hồi quy bội trình bày về mô hình hồi quy bội, phương pháp bình phương bé nhất, hệ số xác định bội, các giả định của mô hình, kiểm định ý nghĩa, phân tích phần dư, biến độc lập tính, sử dụng phương trình hồi quy ước lượng.

Chủ đề:

Bình luận(0) Đăng nhập để gửi bình luận!

Lưu

Nội dung Text: Bài giảng Dự báo kinh doanh - Chương 5: Hồi quy bội

Chöông 5 Hoài quy boäi Moâ hình hoài quy boäi Phöông phaùp bình phöông beù nhaát Heä soá xaùc ñònh boäi Caùc giaû ñònh cuûa moâ hình Kieåm ñònh yù nghóa Söû duïng phöông trình hoài quy öôùc löôïng ñeå öôùc löôïng vaø döï baùo Bieán ñoäc laäp ñònh tính Phaân tích phaàn dö GV: Th.S Traàn Kim Ngoïc Ñaïi hoïc Coâng ngheä Saøi Goøn 1
Moâ hình hoài quy boäi Moâ hình hoài quy boäi y = β0 + β1x1 + β2x2 + . . . + βpxp + ε Phöông trình hoài quy boäi E(y) = β0 + β1x1 + β2x2 + . . . + βpxp Phöông trình hoài quy boäi öôùc löôïng ^ y = b0 + b1x1 + b2x2 + . . . + bpxp GV: Th.S Traàn Kim Ngoïc Ñaïi hoïc Coâng ngheä Saøi Goøn 2
Quy trình ước lượng Mô hình hồi quy bội E(y) = β0 + β1x1 + β2x2 +. . .+ βpxp + ε Dữ liệu mẫu: x1 x2 . . . xp y Phương trình hồi quy bội . . . . E(y) = β0 + β1x1 + β2x2 +. . .+ βpxp . . . . Các tham số không biết là β0, β1, β2, . . . , βp Phương trình hồi quy b0, b1, b2, . . . , bp bội ước lượng đưa ra các ước lượng cho ˆ y = b0 + b1 x1 + b2 x2 + ... + bp x p β0, β1, β2, . . . , βp Các số thống kê mẫu là b0, b1, b2, . . . , bp GV: Th.S Traàn Kim Ngoïc Ñaïi hoïc Coâng ngheä Saøi Goøn 3
Phöông phaùp bình phöông beù nhaát Tieâu chuaån bình phöông beù nhaát ^ min ∑ ( y i − y i )2 Tính toaùn giaù trò cuûa caùc heä soá Caùc coâng thöùc tính caùc heä soá hoài quy b0, b1, b2, . . . bp lieân quan ñeán vieäc söû duïng ñaïi soá ma traän. Chuùng ta seõ döïa vaøo caùc goùi phaàn meàm maùy tính ñeå thöïc hieän caùc tính toaùn. Löu yù veà vieäc giaûi thích caùc heä soá bi laø öôùc löôïng cuûa söï thay ñoåi trong y töông öùng vôùi moät ñôn vò thay ñoåi trong xi khi taát caû caùc bieán ñoäc laäp khaùc ñöôïc giöõ khoâng thay ñoåi. GV: Th.S Traàn Kim Ngoïc Ñaïi hoïc Coâng ngheä Saøi Goøn 4
Heä soá xaùc ñònh boäi Moái lieân heä giöõa SST, SSR, SSE SST = SSR + SSE ∑ ( y i − y ) = ∑ (^ i − y ) + ∑ ( y i − ^ i ) 2 2 y y 2 Heä soá xaùc ñònh boäi R 2 = SSR/SST Heä soá xaùc ñònh boäi ñieàu chænh 2 2 n−1 Ra = 1 − (1 − R ) n−p−1 GV: Th.S Traàn Kim Ngoïc Ñaïi hoïc Coâng ngheä Saøi Goøn 5
Caùc giaû ñònh cuûa moâ hình Caùc giaû ñònh veà soá haïng sai soá ε Sai soá ε laø moät bieán ngaãu nhieân coù trung bình baèng 0. Phöông sai cuûa ε , kyù hieäu baèng σ 2, laø baèng nhau vôùi moïi giaù trò cuûa caùc bieán ñoäc laäp. Caùc giaù trò cuûa ε ñoäc laäp vôùi nhau. Sai soá ε laø moät bieán ngaãu nhieân coù phaân phoái chuaån phaûn aùnh ñoä leäch giöõa giaù trò y vaø giaù trò kyø voïng cuûa y ñöôïc cho bôûi β0 + β1x1 + β2x2 + . . . + βpxp GV: Th.S Traàn Kim Ngoïc Ñaïi hoïc Coâng ngheä Saøi Goøn 6
Kieåm ñònh yù nghóa: Kieåm ñònh F Caùc giaû thuyeát H0: β1 = β2 = . . . = βp = 0 Ha: Khoâng phaûi taát caû βj = 0 (coù ít nhaát moät βj ≠ 0). Thoáng keâ kieåm ñònh F = MSR/MSE Quy taéc baùc boû Söû duïng thoáng keâ kieåm ñònh: Baùc boû H0 neáu F > Fα Söû duïng giaù trò p: Baùc boû H0 neáu giaù trò p < α trong ñoù Fα döïa vaøo phaân phoái F vôùi p baäc töï do ôû töû soá vaø n - p - 1 baäc töï do ôû maãu soá GV: Th.S Traàn Kim Ngoïc Ñaïi hoïc Coâng ngheä Saøi Goøn 7
Kieåm ñònh yù nghóa: Kieåm ñònh F Baûng ANOVA (giaû söû coù p bieán ñoäc laäp) Source of Sum of Degrees of Mean Variation Squares Freedom Squares F SSR MSR Regression SSR p MSR = F= p MSE SSE Error SSE n- p - 1 MSE = n− p−1 Total SST n-1 GV: Th.S Traàn Kim Ngoïc Ñaïi hoïc Coâng ngheä Saøi Goøn 8
Kieåm ñònh yù nghóa: Kieåm ñònh t Caùc giaû thuyeát H0: βi = 0 Ha: βi = 0 Thoáng keâ kieåm ñònh bi t= sbi Quy taéc baùc boû Söû duïng thoáng keâ kieåm ñònh: Baùc boû H0 neáu ⎜t⎟ > tα/2 Söû duïng giaù trò p: Baùc boû H0 neáu giaù trò p < α trong ñoù tα/2 döïa vaøo phaân phoái t vôùi n - p - 1 baäc töï do GV: Th.S Traàn Kim Ngoïc Ñaïi hoïc Coâng ngheä Saøi Goøn 9
Ña coäng tuyeán Thuaät ngöõ ña coâng tuyeán (multicollinearity) noùi ñeán söï töông quan giöõa caùc bieán ñoäc laäp. Ví duï nhö caùc bieán x1 vaø x2 coäng tuyeán hoaøn haûo neáu x1 = b0 + b1x2 vôùi caùc soá thöïc b0 vaø b1 naøo ñoù. Hai bieán naøy naèm treân moät ñöôøng thaúng, vaø moät trong hai bieán hoaøn toaøn xaùc ñònh bieán khaùc. Khoâng coù thoâng tin môùi veà y thu ñöôïc baèng caùch theâm x2 vaøo phöông trình hoài quy ñaõ bao goàm x1 (hay ngöôïc laïi). GV: Th.S Traàn Kim Ngoïc Ñaïi hoïc Coâng ngheä Saøi Goøn 10
Moät ví duï soá cuï theå Haõy xem döõ lieäu coù tính giaû thuyeát sau: X1 10 15 18 24 30 X2 50 75 90 120 150 X2* 52 75 97 129 152 Coù theå thaáy roõ raøng laø x2i = 5x1i. Vì vaäy coù söï coäng tuyeán hoaøn haûo giöõa x1 vaø x2 bôûi vì heä soá töông quan rx1x2 = 1 . Bieán x2* ñöôïc taïo thaønh töø x2 ñôn giaûn baèng caùch coäng theâm caùc soá sau, nhöõng soá naøy ñöôïc laáy töø baûng soá ngaãu nhieân: 2, 0, 7, 9, 2. Baây giôø, khoâng coøn coù söï coäng tuyeán hoaøn haûo giöõa bieán x1 vaø x2*. Tuy nhieân, hai bieán naøy töông quan chaët bôûi vì rx1x2* = 0,9959 . GV: Th.S Traàn Kim Ngoïc Ñaïi hoïc Coâng ngheä Saøi Goøn 11
Haäu quaû cuûa ña coäng tuyeán Phöông sai cuûa caùc heä soá hoài quy bò phoùng ñaïi. Ñoä lôùn cuûa caùc heä soá hoài quy coù theå khaùc vôùi nhöõng gì ñöôïc kyø voïng. Daáu cuûa caùc heä soá hoài quy coù theå khoâng nhö kyø voïng. Theâm vaøo hay bôùt ñi caùc bieán coäng tuyeán vôùi caùc bieán khaùc taïo ra nhöõng thay ñoåi lôùn veà caùc heä soá. Boû moät ñieåm döõ lieäu coù theå gaây ra nhöõng thay ñoåi lôùn veà öôùc löôïng hay daáu cuûa caùc heä soá. Trong moät soá tröôøng hôïp, tyû soá F coù theå coù yù nghóa nhöng caùc tyû soá t thì khoâng. GV: Th.S Traàn Kim Ngoïc Ñaïi hoïc Coâng ngheä Saøi Goøn 12
Caùch phaùt hieän ña coäng tuyeán Heä soá xaùc ñònh R 2 cao nhöng tyû soá |t| thaáp Heä soá töông quan giöõa caùc caëp bieán ñoäc laäp cao. Quy taéc kinh nghieäm laø khi |r| > 0,7. Söû duïng hoài quy phuï Nhaân töû phoùng ñaïi phöông sai VIF. Quy taéc kinh nghieäm laø khi VIFj > 10 R 2 > 0,9 thì möùc ñoä coäng tuyeán j ñöôïc xem laø cao. GV: Th.S Traàn Kim Ngoïc Ñaïi hoïc Coâng ngheä Saøi Goøn 13
Caùch phaùt hieän ña coäng tuyeán: Nhaân töû phoùng ñaïi phöông sai Nhaân töû phoùng ñaïi phöông sai lieân heä vôùi xh: 1 VIF ( x h ) = 1 − Rh 2 vớiù Rh laø giaù trò R2 nhaän ñöôïc khi hoài quy x, nhö laø bieán 2 ñoäc laäp, theo caùc bieán ñoäc laäp coøn laïi. Moái lieân heä giöõa VIF vaø Rh2 VIF100 50 0 R h2 GV: Th.S Traàn Kim Ngoïc 0,0 0,5 1,0 14 Ñaïi hoïc Coâng ngheä Saøi Goøn
Caùch giaûi quyeát vaán ñeà ña coäng tuyeán Boû moät bieán coäng tuyeán khoûi moâ hình Thay ñoåi keá hoaïch laáy maãu ñeå ñöa vaøo nhöõng phaàn töû ngoaøi phaïm vi ña coäng tuyeán Bieán ñoåi caùc bieán (transformations of variables) Hoài quy daïng soùng (ridge regression) GV: Th.S Traàn Kim Ngoïc Ñaïi hoïc Coâng ngheä Saøi Goøn 15
Ña coäng tuyeán vaø döï baùo Khi xaûy ra ña coäng tuyeán ta khoâng theå xaùc ñònh ñöôïc taùc ñoäng rieâng bieät cuûa baát cöù bieán ñoäc laäp cuï theå naøo leân bieán phuï thuoäc. Tuy nhieân, neáu phöông trình hoài quy öôùc löôïng seõ ñöôïc söû duïng chæ cho caùc muïc ñích döï baùo, thì ña coäng tuyeán thöôøng khoâng phaûi laø moät vaán ñeà quan troïng. GV: Th.S Traàn Kim Ngoïc Ñaïi hoïc Coâng ngheä Saøi Goøn 16
Söû duïng phöông trình hoài quy öôùc löôïng ñeå öôùc löôïng vaø tieân ñoaùn Thuû tuïc ñeå öôùc löôïng giaù trò trung bình cuûa y vaø tieân ñoaùn moät giaù trò caù bieät cuûa y trong hoài quy boäi töông töï vôùi caùc thuû tuïc trong hoài quy ñôn. Chuùng ta thay caùc giaù trò ñaõ cho cuûa x1, x2, . . . , xp vaøo phöông trình hoài quy öôùc löôïng vaø söû duïng caùc giaù trò töông öùng cuûa y laøm öôùc löôïng ñieåm. Caùc coâng thöùc caàn thieát ñeå xaây döïng caùc öôùc löôïng khoaûng cho giaù trò trung bình cuûa y vaø cho moät giaù trò caù bieät cuûa y vöôït ngoaøi phaïm vi cuûa baøi giaûng naøy. Caùc goùi phaàn meàm cho hoài quy boäi thöôøng seõ cung caáp caùc öôùc löôïng khoaûng naøy. GV: Th.S Traàn Kim Ngoïc Ñaïi hoïc Coâng ngheä Saøi Goøn 17
Ví duï: Khaûo saùt tieàn löông cuûa laäp trình vieân Moät coâng ty phaàn meàm ñaõ thu thaäp soá lieäu cho moät maãu goàm 20 laäp trình vieân maùy tính. Moät ñeà xuaát ñöôïc ñöa ra laø phaân tích hoài quy coù theå ñöôïc söû duïng ñeå xaùc ñònh xem tieàn löông (Salary) coù lieân heä vôùi soá naêm kinh nghieäm (Exper.) vaø soá ñieåm ñaït ñöôïc döïa treân traéc nghieäm naêng khieáu laäp trình vieân cuûa coâng ty (Score). Soá naêm kinh nghieäm, soá ñieåm ñaït ñöôïc döïa treân traéc nghieäm naêng khieáu vaø tieàn löông theo naêm töông öùng (1.000$) cho moät maãu goàm 20 laäp trình vieân ñöôïc cho ôû slide keá tieáp. GV: Th.S Traàn Kim Ngoïc Ñaïi hoïc Coâng ngheä Saøi Goøn 18
Ví duï: Khaûo saùt tieàn löông cuûa laäp trình vieân Exper. Score Salary Exper. Score Salary 4 78 24 9 88 38 7 100 43 2 73 26,6 1 86 23,7 10 75 36,2 5 82 34,3 5 81 31,6 8 86 35,8 6 74 29 10 84 38 8 87 34 0 75 22,2 4 79 30,1 1 80 23,1 6 94 33,9 6 83 30 3 70 28,2 6 91 33 3 89 30 GV: Th.S Traàn Kim Ngoïc Ñaïi hoïc Coâng ngheä Saøi Goøn 19
Ví duï: Khaûo saùt tieàn löông cuûa laäp trình vieân Moâ hình hoài quy boäi Giaû söû ta tin laø tieàn löông (y) coù lieân quan vôùi soá naêm kinh nghieäm (x1) vaø soá ñieåm ñaït ñöôïc döïa treân traéc nghieäm naêng khieáu laäp trình vieân (x2) theo moâ hình hoài quy sau: y = β0 + β1x1 + β2x2 + ε trong ñoù y = tieàn löông haøng naêm (000$) x1 = soá naêm kinh nghieäm x2 = soá ñieåm ñaït ñöôïc döïa treân traéc nghieäm naêng khieáu laäp trình vieân GV: Th.S Traàn Kim Ngoïc Ñaïi hoïc Coâng ngheä Saøi Goøn 20