Chương 3: Phép ni suy và hi quy
CHƯƠNG 3
PHÉP NI SUY VÀ HI QUY
MC ĐÍCH, YÊU CU
Sau khi hc xong chương 3, yêu cu sinh viên:
1. Hiu được thế nào là bài toán ni suy và hi quy.
2. Nm được các phương pháp ni suy đa thc, biết cách tìm các đa thc ni suy theo các
phương pháp đó.
3. Biết được khp đường cong - Ni suy Spline là gì?
4. Nm và gii được các bài toán bng phương pháp bình phương ti thiu
5. Biết cách đánh giá sai s ca tng phương pháp.
3.1. M ĐẦU
Thông thường trong mt s lĩnh vc như kinh tế chng hn, các đại lượng kho sát thường
không được cho dưới dng hàm liên tc, mà là bng các giá tr ri rc. Các phương pháp gii tích
toán hc thường tính toán vi các hàm cho bi các công thc, do đó không th áp dng trc tiếp
để nghiên cu các hàm cho dưới dng ri rc như thế này. Cũng có khi ta biết rng đại lượng y
mt hàm ca đại lượng x, tc là y = f(x), nhưng ta không biết biu thc hàm f(x) mà ch biết mt
s giá tr yi tương ng vi các giá tr ca x ti các đim xi như trong bng sau:
x x
0
x
1
x
2
.
. .
x
n-1
x
n
y y
0
y
1
y
2
.
. .
y
n-1
y
n
Thông thường thì x0 < x1 < x2 < . . . < xn và các đim này có th phân b cách đều hoc
không. Mc du ta ch biết các giá tr ca y ti các đim mc xi, nhưng trong nhiu trường hp ta
cn tính toán vi các giá tr y ti các v trí khác ca x. Mt câu hi đặt ra là: cho mt đim x
không thuc các đim xi cho trên, làm thế nào chúng ta có th tính được giá tr y tương ng vi
nó, sao cho chúng ta có th tn dng ti đa các thông tin đã có?
Bài toán ni suy là bài toán tìm giá tr gn đúng ca y ti các đim nm gia các giá tr x
không có trong bng trên. Nếu cn tìm các giá tr gn đúng ca y ti các đim x nm ngoài khong
[x0,xn] thì bài toán được gi là bài toán ngoi suy. Mt b n+1 cp các giá tr đã biết ca x và y:
(x0,y0), (x1,y1), . . . ,(xn,yn) được gi là mt mu quan sát, còn x0, x1, ... , xn được gi là các đim
quan sát và y0, y1, ... , yn là các kết qu quan sát.
42
CuuDuongThanCong.com https://fb.com/tailieudientucntt
Chương 3: Phép ni suy và hi quy
Vì bài toán ca chúng ta không ch gii quyết vi mt giá tr x c th, mà là c mt mim
giá tr nào đó ca x. Do đó câu hi trên cũng tương đương vi vn đề sau: hãy tìm mt hàm g(x)
sao cho min giá tr ca nó cha các đim (x0, x1, ..., xn) và hàm này xp x tt nht tp s liu đã
có là các cp (x0,y0), (x1,y1), ..., (xn,yn) theo mt nghĩa nào đó. Chúng ta thy ngay là tp s liu là
hu hn, còn tp các giá tr cn ước lượng là vô hn, nên s có vô s hàm g(x) nếu chúng ta không
đưa ra mt s ràng buc nào đó v g(x). Điu đầu tiên chúng ta quan tâm là nên chn dng hàm
g(x) như thế nào.
Mt cách t nhiên, ta có th đặt điu kin v hàm g(x) như sau:
g(xi) i =0,1,2,...,n gn các đim yi nht theo mt nghĩa nào đó.
g(x) là duy nht theo mt s điu kin nào đó.
Hàm g(x) liên tc, không có đim gp khúc và ít thay đổi trong tng đon [xi,xi+1].
Các định lý v xp x sau đây ca Weierstrass s cho chúng ta gi ý v dng hàm ca g(x).
Định lý Weierstrass 1 v xp x hàm.
Cho f (x) là mt hàm thc liên tc xác định trên khong [a,b]. Khi đó vi mi ε>0 tn ti
mt đa thc p(x) bc m vi các h s thc sao cho vi mi giá tr x[a,b] ta có |f(x) - p(x)|<ε.
Định lý Weierstrass 2 v xp x hàm.
Cho f (x) là mt hàm thc liên tc xác định trên khong [-π,π] và f(-π) = f(π). Khi đó vi
mi ε>0 tn ti mt đa thc lượng giác
qm(x) = 2
0
a + [a
=
m
j1
j cos(jx) + bj sin(jx)]
vi các h s thc sao cho vi mi giá tr x[-π,π] ta có |f(x) - q(x)|<ε.
T các định lý trên đây ta thy rng chn đa thc là thích hp cho dng hàm g(x). Đa thc
là hàm quen thuc và ta đã biết nhiu tính cht ca nó.
Người ta thường dùng các phương pháp xp x sau để xác định đa thc p(x):
1. Nếu ta biết rng các cp giá tr (x0,y0), (x1,y1), ..., (xn,yn) là th hin ca mt hàm f(x) nào
đó, tc là ta biết rng y=f(x) và như vy ti các đim xi, i=0,1,...,n yi = f(xi). Trong trường
hp này ta đòi hi đa thc p(x) phi đi qua các đim (xi,yi), i=0,1,...,n.
Bài toán ni suy bây gi có th phát biu c th hơn như sau:
Cho mt mu quan sát gm n+1 cp các giá tr đã biết ca x và y : (x0,y0), (x1,y1), .
. . ,(xn,yn) . Hãyy dng mt đa thc bc m n
p
m(x) = a0 + a1x1 + . . . am-1xm-1 + amxm (3.1)
sao cho pm(xi) = yi , i = 0, 1,..., n (3.2)
Người ta gi bài toán trên đây là bài toán ni suy đa thc, và đa thc pm(x) được gi
đa thc ni suy.
Trong mt s ng dng vt lý ta gp các hin tượng có tính cht tun hoàn. Khi đó đa
thc lượng giác t ra thích hp hơn trong bài toán ni suy. Và trong bài toán trên đa thc
pm(x) được thay bng đa thc lượng giác
43
CuuDuongThanCong.com https://fb.com/tailieudientucntt
Chương 3: Phép ni suy và hi quy
q
m(x) = 2
0
a + [a
=
m
j1
j cos(jx) + bj sin(jx)]
2. Ni suy trong trường hp s đo không hoàn toàn chính xác:
Trong thc tế các giá tr yi ti các đim quan sát li thường ch là các giá tr gn đúng
ca các giá tr tht. Nói cách khác thc ra ta ch có yi f(xi) mà thôi. Trong trường hp này
nếu ta áp đặt điu kin v đa thc ni suy phi tha mãn pm(xi) = yi thì không hp lý. Thay
vì tìm mt đa thc tha mãn điu kin này, ta tìm đa thc pm(x) = a0 + a1x1 + . . . am-1xm-1
+ amxm, tc là xác định các h s a0, a1, . . ,am sao cho tng bình phương sai s là bé nht,
tc là
e =
(y
=
n
i0
i -a
=
m
j0
j xij )2
là bé nht. Phương pháp ni suy theo tiêu chun này được gi là phương pháp bình
phương bé nht hay là phương pháp bình phương cc tiu.
Ngoài hai phương pháp thông dng trên, người ta còn dùng phương pháp xp x Csebisev
da trên tiêu chun:
ni0
max |yi - p(xi)|
cc tiu.
3.2. NI SUY ĐA THC
3.2.1. S duy nht ca đa thc ni suy
Ta có định lý sau đây:
Định lý. Có duy nht mt đa thc có bc không quá n và đi qua n+1 đim cho trước (x0,y0),
(x1,y1), . . . ,(xn,yn) .
Chng minh. Ta xét đa thc có dng (3.1) trên đây và tha mãn (3.2). Kết hp (3.1) và
(3.2) ta có
n
y
y
y
.
1
0
= (3.3)
n
nnnn
n
n
xxxx
xxx
xxx
22
1
2
11
0
2
00
1
.......
...1
...1
n
a
a
a
.
1
0
Hay có th biu din gn hơn dưi dng ma trn
Y = V a
Trong đó
V =
n
nnnn
n
n
xxxx
xxx
xxx
22
1
2
11
0
2
00
1
.......
...1
...1
44
CuuDuongThanCong.com https://fb.com/tailieudientucntt
Chương 3: Phép ni suy và hi quy
chính là ma trn Vandermon, ta có
det V = (x
< nji0
j - xi)
Vì ta đã gi thiết các đim xi và xj khác nhau, do đó ma trn này khác 0 nên h phương trình
(3.3) có nghim duy nht cho các ai, và như vy đa thc pn(x) được xác định duy nht. (Nếu khi
gii phương trình (3.3) mà ta nhn đưc an 0 thì đa thc này có bc là n).
3.2.2. Tính giá tr đa thc bng phương pháp Horner
Trong bài toán ni suy đa thc ta s phi thường xuyên tính giá tr ca đa thc pm(x)= a0 +
a1x1 + . . . am-1xm-1 + amxm ti đim x. Nếu tính trc tiếp ta phi thc hin khá nhiu phép tính, và
khi tính các giá tr mũ ca x có th ta gp các giá tr ln, cho dù trong thc tế các thành phn ca
đa thc trit tiêu ln nhau và giá tr ca đa thc không ln. Horner đưa ra cách tính sau loi tr
được các nhược đim trên.
Ta viết li đa thc pm(x) dưi mt dng khác:
pm(x) = amxm + am-1xm-1 + . . . + a1x1 + a0 = (...((amx + am-1)x + am-2)x+...+a1)x+a0
T đây ta có cách tính pm(x) trên máy tính như sau:
Đặt Pm = am
P
m-1 = Pmx+am-1
...
P
i = Pi-1x + ai
Khi tính toán ta không cn lưu tr tt c các giá tr ca Pi, mà ch cn lưu tr các giá tr ca
Pi trong mt v trí b nh. Thut toán trên tr thành:
Đặt P = am
Cho i chy t m-1 đến 0, tc là i=m-1,m-2,...,0
Đặt P = Px + ai
P cui cùng tính được chính là giá tr ca đa thc ti x.
3.2.3. Sai s ca đa thc ni suy
Định lý Rolle: Cho f(x) là hàm s thc liên tc trên khong đóng [a,b] và kh vi trên
khong m (a,b) và f(a) = f(b). Khi đó tn ti đim ξ∈ (a,b) sao cho f'(ξ) = 0.
Định lý: Gi s hàm f(x) có đạo hàm liên tc đến cp n+1 trên đon [a,b] và pm(x) là đa thc
ni suy, tc là:pm(xi) = f(xi) = yi , i = 0, 1,..., n. Vi các mc ni suy là a = x0 < x1 <... < xn = b.
Đặt ωn+1(x) = và R(x) = f(x) - p
)(
0
i
n
i
xx
=
m(x)
Khi đó vi x [a,b] tn ti η∈ [a,b] (ph thuc vào x) sao cho
R(x) = )!1(
)(
)1(
+
+
n
fn
η
ωn+1(x) (3.4)
45
CuuDuongThanCong.com https://fb.com/tailieudientucntt
Chương 3: Phép ni suy và hi quy
H qu. Gi M = |f
bxa
sup (n+1) (x)| khi đó ta có
|R(x)| | f(x) - pm(x)| )!1( +n
M| ωn+1(x) | (3.5)
đây là công thc đánh giá sai s ca đa thc ni suy.
Ta có th áp dng h qu (3.5) để đánh giá sai s đa thc ni suy.
Ví d. Cho bng giá tr ca hàm s y = sinx
x 0
4
π
2
π
y 0 0.707 1
Hãy đánh giá sai s khi dùng đa thc ni suy để tính gn đúng sin 3
π
.
Gii. Bài ra không đặt vn đề tính xp x sin 3
π
mà ch yêu cu tính sai s.
Ta có n = 2 và như vy M = |sin
bxa
sup (n+1) (x)| =1, do đó
|R2(3
π
)| !3
1
3
π
12
π
6
π
= 0.024
Sau đây ta s xét mt s phương pháp tìm đa thc ni suy da vào các đim mc cách đều
và không cách đều.
3.2.4. Phương pháp ni suy Lagrange
Gi s ta có các đim quan sát x0, x1, ... xn vi khong chia đều hoc không đều và mt
dãy các giá tr quan sát y0, y1, ... yn .
Ý tưởng đơn gin đầu tiên là tìm mt đa thc ni suy có bc n (chính xác hơn là có bc
không quá n) sao cho trong đó các cp (xi,yi) i = 0,1, ..., n có vai trò bình đẳng. Thí d ta tìm
pn(x) có dng:
pn(x) = H0(x) + H1(x) + . . . + Hn(x)
Các hàm Hi(x) đều có bc không quá n và Hi(xi) = yi, Hki(xj) = 0 khi ji. Để Hi(xj) = 0 khi
ji thì Hi(x) có dng:
Hi(x) = K(x)(x-x0) (x-x1)... (x-xi-1) (x-xi+1)... (x-xn)
T điu kin Hi(xi) = yi ta có
K(x)(x-x0) (x-x1)... (x-xi-1) (x-xi+1)... (x-xn) = yi
Suy ra
K(x) =yi)x-(x )...x-)(xx-(x )...x-(x )x-(x
)x-(x )...x-)(xx-(x )...x-(x )x-(x
ni1ii1-ii2i1i
n1i1-i21
+
+
46
CuuDuongThanCong.com https://fb.com/tailieudientucntt