Bài giảng "Xác suất thống kê và ứng dụng - Phần 13: Hồi quy tuyến tính đa biến" cung cấp cho người học các kiến thức: Mô hình hồi quy tuyến tính đa biến, ước lượng bằng phương pháp bình phương bé nhất, dự báo trong mô hình hồi quy,... Mời các bạn cùng tham khảo.
AMBIENT/
Chủ đề:
Nội dung Text: Bài giảng Xác suất thống kê và ứng dụng: Phần 13 - Phan Thanh Hồng
- Ph¦n XIII
Hçi quy tuy¸n t½nh a bi¸n
Phan Thanh Hçng ( HDL THNG LONG) B i gi£ng X¡c su§t Thèng k¶ v ùng döng Ng y 10 th¡ng 7 n«m 2009 1 / 32
- Ph¦n XIII
1 Mæ h¼nh hçi quy tuy¸n t½nh a bi¸n
2 ×îc l÷ñng b¬ng ph÷ìng ph¡p b¼nh ph÷ìng b² nh§t
3 Dü b¡o trong mæ h¼nh hçi quy
4 Kiºm ành v· mæ h¼nh hçi quy
5 Kho£ng tin cªy v kho£ng dü b¡o
Phan Thanh Hçng ( HDL THNG LONG) B i gi£ng X¡c su§t Thèng k¶ v ùng döng Ng y 10 th¡ng 7 n«m 2009 2 / 32
- Ph¦n XIII
1 Mæ h¼nh hçi quy tuy¸n t½nh a bi¸n
2 ×îc l÷ñng b¬ng ph÷ìng ph¡p b¼nh ph÷ìng b² nh§t
3 Dü b¡o trong mæ h¼nh hçi quy
4 Kiºm ành v· mæ h¼nh hçi quy
5 Kho£ng tin cªy v kho£ng dü b¡o
Phan Thanh Hçng ( HDL THNG LONG) B i gi£ng X¡c su§t Thèng k¶ v ùng döng Ng y 10 th¡ng 7 n«m 2009 2 / 32
- Ph¦n XIII
1 Mæ h¼nh hçi quy tuy¸n t½nh a bi¸n
2 ×îc l÷ñng b¬ng ph÷ìng ph¡p b¼nh ph÷ìng b² nh§t
3 Dü b¡o trong mæ h¼nh hçi quy
4 Kiºm ành v· mæ h¼nh hçi quy
5 Kho£ng tin cªy v kho£ng dü b¡o
Phan Thanh Hçng ( HDL THNG LONG) B i gi£ng X¡c su§t Thèng k¶ v ùng döng Ng y 10 th¡ng 7 n«m 2009 2 / 32
- Ph¦n XIII
1 Mæ h¼nh hçi quy tuy¸n t½nh a bi¸n
2 ×îc l÷ñng b¬ng ph÷ìng ph¡p b¼nh ph÷ìng b² nh§t
3 Dü b¡o trong mæ h¼nh hçi quy
4 Kiºm ành v· mæ h¼nh hçi quy
5 Kho£ng tin cªy v kho£ng dü b¡o
Phan Thanh Hçng ( HDL THNG LONG) B i gi£ng X¡c su§t Thèng k¶ v ùng döng Ng y 10 th¡ng 7 n«m 2009 2 / 32
- Ph¦n XIII
1 Mæ h¼nh hçi quy tuy¸n t½nh a bi¸n
2 ×îc l÷ñng b¬ng ph÷ìng ph¡p b¼nh ph÷ìng b² nh§t
3 Dü b¡o trong mæ h¼nh hçi quy
4 Kiºm ành v· mæ h¼nh hçi quy
5 Kho£ng tin cªy v kho£ng dü b¡o
Phan Thanh Hçng ( HDL THNG LONG) B i gi£ng X¡c su§t Thèng k¶ v ùng döng Ng y 10 th¡ng 7 n«m 2009 2 / 32
- Mæ h¼nh hçi quy tuy¸n t½nh a bi¸n
Mæ h¼nh hçi quy tuy¸n t½nh li¶n h» bi¸n phö thuëc Y theo c¡c bi¸n ëc
lªp X1 , X2 , . . . , Xk (gåi l mæ h¼nh hçi quy tuy¸n t½nh a bi¸n) câ d¤ng
Y = µY |x1 ,x2 ,...,xk + ε
= β0 + β1 x1 + β2 x2 + · · · + βk xk + ε
Trong â
µY |x1 ,x2 ,...,xk = β0 + β1 x1 + β2 x2 + · · · + βk xk l trung b¼nh cõa bi¸n
phö thuëc Y khi c¡c bi¸n ëc lªp nhªn gi¡ trà x1 , x2 , . . . , xk
β0 , β1 , . . . , βk (ch÷a bi¸t) l c¡c tham sè cõa mæ h¼nh hçi quy
β0 l trung b¼nh cõa Y khi c¡c bi¸n X1 , X2 , . . . , Xk nhªn gi¡ trà 0
βi (i = 1, . . . , k ) l ë thay êi trung b¼nh cõa Y khi bi¸n Xi t«ng l¶n
1 ìn và v nhúng bi¸n ëc lªp cán l¤i khæng thay êi
Phan Thanh Hçng ( HDL THNG LONG) B i gi£ng X¡c su§t Thèng k¶ v ùng döng Ng y 10 th¡ng 7 n«m 2009 3 / 32
- Mæ h¼nh hçi quy tuy¸n t½nh a bi¸n
ε l ph¦n d÷ hay y¸u tè nhi¹u mæ t£ £nh h÷ðng cõa c¡c y¸u tè kh¡c
vîi c¡c bi¸n ëc lªp ang xem x²t tîi bi¸n phö thuëc Y .
Phan Thanh Hçng ( HDL THNG LONG) B i gi£ng X¡c su§t Thèng k¶ v ùng döng Ng y 10 th¡ng 7 n«m 2009 4 / 32
- C¡c gi£ thi¸t cõa mæ h¼nh
1 Vîi måi gi¡ trà x1 , x2 , . . . , xk cõa c¡c bi¸n ëc lªp, ph¦n d÷ câ ph¥n
phèi chu©n, trung b¼nh b¬ng khæng v ph÷ìng sai khæng phö thuëc
v o c¡c gi¡ trà x1 , x2 , . . . , xk .
2 C¡c ph¦n d÷ ùng vîi c¡c bë gi¡ trà kh¡c nhau cõa c¡c bi¸n ëc lªp l
ëc lªp.
Phan Thanh Hçng ( HDL THNG LONG) B i gi£ng X¡c su§t Thèng k¶ v ùng döng Ng y 10 th¡ng 7 n«m 2009 5 / 32
- V½ dö
Tr÷îc ¥y mët cæng ty kiºm to¡n sû döng c¡c nh¥n vi¶n ¸n c¡c cì quan
º t¼m ra ph¦n thu¸ m cì quan â ch÷a tr£ h ng th¡ng. G¦n ¥y hå sû
döng th¶m h» thèng m¡y t½nh vîi hy vång k¸t qu£ s³ ch½nh x¡c hìn. B£ng
sau ¥y ghi l¤i sè gií lao ëng cõa c¡c nh¥n vi¶n (X1 ), sè gií dòng m¡y
t½nh (X2 ) v sè thu¸ ch÷a tr£ (Y ) t¼m th§y ÷ñc trong váng 10 th¡ng
Th¡ng 1 2 3 4 5 6 7 8 9 10
Sè gií lao 45 42 44 45 43 46 44 45 44 43
ëng cõa c¡c
nh¥n vi¶n
Sè gií dòng 16 14 15 13 13 14 16 16 15 15
m¡y t½nh
Sè thu¸ ch÷a 29 24 27 25 26 28 30 28 28 27
tr£
Ta muèn li¶n h» sè thu¸ ch÷a tr£ Y khi sè gií lao ëng cõa c¡c nh¥n vi¶n
b¬ng x1 , sè gií dòng m¡y t½nh b¬ng x2 bði mæ h¼nh tuy¸n t½nh:
Y = β0 + β1 x1 + β2 x2 + ε
Trong â
Phan Thanh Hçng ( HDL
µ THNG=LONG)
β +B iβgi£ng
x X¡c
+ su§t
β x l sè thu¸ ch÷a
Thèng k¶ v ùng döng Ng ytr£ trung
10 th¡ng 7 n«mb¼nh
2009 khi
6 / 32
- V½ dö
Tr÷îc ¥y mët cæng ty kiºm to¡n sû döng c¡c nh¥n vi¶n ¸n c¡c cì quan
º t¼m ra ph¦n thu¸ m cì quan â ch÷a tr£ h ng th¡ng. G¦n ¥y hå sû
döng th¶m h» thèng m¡y t½nh vîi hy vång k¸t qu£ s³ ch½nh x¡c hìn. B£ng
sau ¥y ghi l¤i sè gií lao ëng cõa c¡c nh¥n vi¶n (X1 ), sè gií dòng m¡y
t½nh (X2 ) v sè thu¸ ch÷a tr£ (Y ) t¼m th§y ÷ñc trong váng 10 th¡ng
Th¡ng 1 2 3 4 5 6 7 8 9 10
Sè gií lao 45 42 44 45 43 46 44 45 44 43
ëng cõa c¡c
nh¥n vi¶n
Sè gií dòng 16 14 15 13 13 14 16 16 15 15
m¡y t½nh
Sè thu¸ ch÷a 29 24 27 25 26 28 30 28 28 27
tr£
Ta muèn li¶n h» sè thu¸ ch÷a tr£ Y khi sè gií lao ëng cõa c¡c nh¥n vi¶n
b¬ng x1 , sè gií dòng m¡y t½nh b¬ng x2 bði mæ h¼nh tuy¸n t½nh:
Y = β 0 + β 1 x1 + β 2 x2 + ε
Trong â
Phan Thanh Hçng ( HDL
µ THNG=LONG)
β +B iβgi£ng
x X¡c
+ su§t
β x l sè thu¸ ch÷a
Thèng k¶ v ùng döng Ng ytr£ trung
10 th¡ng 7 n«mb¼nh
2009 khi
6 / 32
- ×îc l÷ñng b¬ng ph÷ìng ph¡p b¼nh ph÷ìng b² nh§t
C¡c tham sè cõa mæ h¼nh β0 , β1 , . . . , βk ch÷a bi¸t v ÷ñc ÷îc l÷ñng bði
c¡c sè b0 , b1 , . . . , bk x¡c ành tø dú li»u m¨u. Ph÷ìng tr¼nh
Y = β0 + β1 x1 + β2 x2 + · · · + βk xk + ε
gåi l ph÷ìng tr¼nh hçi quy têng thº.
Ph÷ìng tr¼nh
yˆ = b0 + b1 x1 + b2 x2 + · · · + bk xk
gåi l ph÷ìng tr¼nh hçi quy m¨u.
Khi c¡c bi¸n ëc lªp nhªn gi¡ trà x1 , x2 , . . . , xk th¼
yˆ = b0 + b1 x1 + b2 x2 + · · · + bk xk l mët iºm dü b¡o cho gi¡ trà thªt cõa
bi¸n phö thuëc Y .
Phan Thanh Hçng ( HDL THNG LONG) B i gi£ng X¡c su§t Thèng k¶ v ùng döng Ng y 10 th¡ng 7 n«m 2009 7 / 32
- ×îc l÷ñng b¬ng ph÷ìng ph¡p b¼nh ph÷ìng b² nh§t
Vîi mët m¨u ÷ñc chån ra, gåi yi v yˆi l gi¡ trà thªt v gi¡ trà dü b¡o cõa
Y ð quan s¡t thù i. °t ei = yi − yˆi l ph¦n d÷ cõa quan s¡t thù i. C¡c
gi¡ trà b0 , b1 , . . . , bk ÷ñc x¡c ành sao cho têng b¼nh ph÷ìng c¡c ph¦n d÷
k
X
SSE = e2i
i=1
nhä nh§t. Ph÷ìng ph¡p n y üoc gåi l ÷îc l÷ñng theo b¼nh ph÷ìng b²
nh§t.
Phan Thanh Hçng ( HDL THNG LONG) B i gi£ng X¡c su§t Thèng k¶ v ùng döng Ng y 10 th¡ng 7 n«m 2009 8 / 32
- ×îc l÷ñng b¬ng ph÷ìng ph¡p b¼nh ph÷ìng b² nh§t
●
30
●
29
●
●
●
28
● ●
thue
27
26
●
25
●
mt
16.0
15.0 15.5
● 14.0 14.5
13.0 13.5
24
42 43 44 45 46
nv
Phan Thanh Hçng ( HDL THNG LONG) B i gi£ng X¡c su§t Thèng k¶ v ùng döng Ng y 10 th¡ng 7 n«m 2009 9 / 32
- ×îc l÷ñng b¬ng ph÷ìng ph¡p b¼nh ph÷ìng b² nh§t
K¸t qu£ ph¥n t½ch hçi quy trong R cho v½ dö tr¶n nh÷ sau:
Call:
lm(formula = thue ∼ nv + mt )
Residuals:
Min 1Q Median 3Q Max
-1.24668 -0.74702 -0.02321 0.51956 1.42706
Coefficients:
Estimate Std. Error t value Pr(>|t|)
(Intercept) -13.8196 13.3233 -1.037 0.33411
nv 0.5637 0.3033 1.859 0.10543
mt 1.0995 0.3131 3.511 0.00984
-
Signif. codes: 0 '? ? ?' 0.001 '??' 0.01 '?' 0.05 '.' 0.1 ' '
1
Residual standard error: 1.071 on 7 degrees of freedom
Multiple R-Squared: 0.7289, Adjusted R-squared: 0.6515
F-statistic: 9.411 on 2 and 7 DF, p-value: 0.01037
Phan Thanh Hçng ( HDL THNG LONG) B i gi£ng X¡c su§t Thèng k¶ v ùng döng Ng y 10 th¡ng 7 n«m 2009 10 / 32
- ×îc l÷ñng b¬ng ph÷ìng ph¡p b¼nh ph÷ìng b² nh§t
Nh÷ vªy ÷îc l÷ñng iºm cho β0 , β1 , β2 l b0 = −13.8196, b1 = 0.5637,
b2 = 1.0995
V ÷íng hçi quy m¨u l
yˆ = b0 + b1 x1 + b2 x2
= −13.8196 + 0.5637x1 + 1.0995x2
Nh÷ vªy sû döng ph÷ìng tr¼nh tr¶n ta câ thº dü b¡o cho sè thu¸ ch÷a tr£
Y khi x1 = 45 v x2 = 16 l
yˆ1 = −13.8196 + 0.5637x1 + 1.0995x2 = 29.1389
Phan Thanh Hçng ( HDL THNG LONG) B i gi£ng X¡c su§t Thèng k¶ v ùng döng Ng y 10 th¡ng 7 n«m 2009 11 / 32
- ×îc l÷ñng b¬ng ph÷ìng ph¡p b¼nh ph÷ìng b² nh§t
Th¡ng NV MT Thu¸ Gi¡ trà dü Ph¦n d÷
ch÷a nëp b¡o
1 45 16 29 29.1389 -0.1389
2 42 14 24 25.2488 -1.2488
3 44 15 27 27.4757 -0.4757
4 45 13 25 25.8404 -0.8404
5 43 13 26 24.7130 1.2870
6 46 14 28 27.5036 0.4964
7 44 16 30 28.5752 1.4248
8 45 16 28 29.1389 -1.1389
9 44 15 28 27.4757 0.5243
10 43 15 27 26.9120 0.0880
B£ng: C¡c iºm dü b¡o v ph¦n d÷
Phan Thanh Hçng ( HDL THNG LONG) B i gi£ng X¡c su§t Thèng k¶ v ùng döng Ng y 10 th¡ng 7 n«m 2009 12 / 32
- ×îc l÷ñng iºm v iºm dü b¡o trong mæ h¼nh hçi quy a
tuy¸n t½nh
Gi£ sû b0 , b1 , . . . , bk l nhúng ÷îc l÷ñng iºm b¬ng ph÷ìng ph¡p b¼nh
ph÷ìng b² nh§t cho β0 , β1 , . . . , βk trong mæ h¼nh hçi quy. N¸u
x1 , x2 , . . . , xk l gi¡ trà cõa c¡c bi¸n ëc lªp X1 , X2 , . . . , Xk trong ph¤m
vi c¡c gi¡ trà trong m¨u c¡c quan s¡t th¼
yˆ = b0 + b1 x1 + b2 x2 + · · · + bk xk
l ÷îc l÷ñng iºm cho gi¡ trà trung b¼nh cõa Y khi gi¡ trà cõa c¡c bi¸n ëc
lªp l x1 , x2 , . . . , xk v công l iºm dü b¡o cho gi¡ trà thªt cõa Y khi gi¡
trà cõa c¡c bi¸n ëc lªp l x1 , x2 , . . . , xk .
Phan Thanh Hçng ( HDL THNG LONG) B i gi£ng X¡c su§t Thèng k¶ v ùng döng Ng y 10 th¡ng 7 n«m 2009 13 / 32
- ×îc l÷ñng iºm v iºm dü b¡o trong mæ h¼nh hçi quy a
tuy¸n t½nh
K¸t qu£ t½nh gi¡ trà dü b¡o trong R
fit lwr upr
1 29.13660 26.27922 31.99399
2 25.24668 22.19719 28.29618
3 27.47347 24.80691 30.14004
4 25.83820 22.78035 28.89604
5 24.71088 21.72903 27.69272
6 27.50133 24.42961 30.57304
7 28.57294 25.74321 31.40267
8 29.13660 26.27922 31.99399
9 27.47347 24.80691 30.14004
10 26.90981 24.11941 29.70022
Phan Thanh Hçng ( HDL THNG LONG) B i gi£ng X¡c su§t Thèng k¶ v ùng döng Ng y 10 th¡ng 7 n«m 2009 14 / 32
- Sai sè b¼nh ph÷ìng trung b¼nh v sai sè chu©n cõa ÷îc
l֖ng
X²t mæ h¼nh hçi quy tuy¸n t½nh têng thº
Y = β 0 + β 1 x1 + β 2 x2 + ε
vîi k bi¸n ëc lªp v k + 1 tham sè β0 , β1 , . . . , βk . N¸u c¡c gi£ thi¸t cho
mæ h¼nh ÷ñc thäa m¢n v SSE l têng b¼nh ph÷ìng c¡c ph¦n d÷ th¼:
1 Mët ÷îc l÷ñng iºm cho ph÷ìng sai chung cõa c¡c nhi¹u, σ 2 , l sai
sè b¼nh ph÷ìng trung b¼nh
SSE
s2 =
n − (k + 1)
2 Mët ÷îc l÷ñng iºm cho σ l sai sè chu©n
s
SSE
s=
n − (k + 1)
Trong v½ dö tr¶n sai sè chu©n cõa ÷îc l÷ñng l s = 1.071
Phan Thanh Hçng ( HDL THNG LONG) B i gi£ng X¡c su§t Thèng k¶ v ùng döng Ng y 10 th¡ng 7 n«m 2009 15 / 32
Thêm vào BST
Báo xấu
Download
Vui lòng tải xuống để xem tài liệu đầy đủ
