Xử lý ảnh số - Nhận dạng và nội suy part 3

Chia sẻ: Adfgajdshd Asjdaksdak | Ngày: | Loại File: PDF | Số trang:7

Thêm vào BST

Báo xấu

121
lượt xem 31
download

Download Vui lòng tải xuống để xem tài liệu đầy đủ

Mặt khác, với dạng JPEG, bức ảnh sẽ trải qua thêm vài công đoạn trong máy. Dữ liệu (tức các con số nói trên) được chuyển tới bộ (chip) xử lí của máy ảnh, và trải qua một quá trình phức tạp được gọi là demosaic. Trong quá trình này, các pixel sẽ được định màu. Ảnh màu cho ra sau đó được chỉnh sửa qua thêm nhiều công đoạn nữa (cân bằng trắng, làm sắc nét, nén và sau cùng là được ghi lên thẻ)....

Chủ đề:

Bình luận(0) Đăng nhập để gửi bình luận!

Lưu

Nội dung Text: Xử lý ảnh số - Nhận dạng và nội suy part 3

y . . .. ... ... . . . . . . . . . . . p(x|ω ) . . . . 2 . . .... . ......... .. ... . .... . . . .. .. . . .. . .. .. . ... .... . . . .. .... .. . . . . . .... . . .... . .. . . . . . . .. . . . .. . .. . .. . . . . . p(x|ω ) . . . . . . . . . 1 . . . . . . . .................... .. ....... .. ...... . .. ..... . . . . . . . . .... . .... .... .... . . . . . ... . ... ... . . .... . . .... . . ... .... . . .. ....... . . . ... . ...... .. . . . . . . .... ..... . . . .. . . .. . . . . . . . . . . .. . .. . . .. . .. . . . . . . .. . . .. . .. . . . . .. . . . . . . . . .. . .. . .. . . . .. . . . Mˆt d ˆ a ¯o .. . . . .. . . .. . . . . . . .. . . . .. . .. . . . . . .. . . . . . . . . . . . .. . .. . . .. . . . .. . . .. . . . .. .. . . .. . . .. . . . . .. . . . . . .. . . . .. . . . . .. . . ... . . . . . .. . . . . . .. . . . . . .... .. . . .. . . . . . . . ´ . . . .. . ... x´c suˆ t a a . . . .. .. . . . . . . .. . . . . . . . . . . . .. .. . . . . .. . . . . .. . . . . . . . . .. . .. . . . . . .. . . . . . . . . . . . .. . . . . .. . .. . . . . . . . .. . . . . .. . .. . . .. . . . . . .. . . .. . . .. .. . . .. . . . . .. . . . . . . . . .. . .. . .. . . .. . . . . . . .. . ... . . .. . . . .. . . .. . . . . . . . . .. .. . . . ... . . ... . . .. . . .. .. . .. .. .. . . .. . . . . . .. . .. . .. . ... . . . .. . . . . .. ... .. .. . . . . .. ... . . .. ... . .. . .. .... . .... .. ... . . . . .... . . . .. . . . . . . . . ... . . ..... . . . ... . . . . . ......... . . . . . . . . ... . . . . . . . . ... . . . . . . . . . ... . . . . . . . . ... . . . . . . . . ... . . . . . . . . ... . . . . . . . . ... . . . . . . . . ........... . . . . ... . . . ... . .... x ........................................................................................................................................................................................................................................................... . . . . . . . . . .. . m2 x0 m1 H` 9.5: C´c h`m mˆt d o x´c suˆ t tu.o.ng u.ng hai l´.p mˆu 1D. Diˆ’m x0 l` biˆn gi˜.a -e ˙ ˜ ´ ınh aa a ¯ˆ a a ´ o a ae u .. .p v´.i x´c suˆ t xuˆ t hiˆn bˇ ng nhau. .` ´ ´ea hai l´ o a o a a v´.i E {.} l` k` vong. Xˆ p xı k` vong E {.} bˇ ng gi´ tri trung b`nh cua c´c d . i lu.o.ng ` ´’ a ˙y. ˙ a ¯a ’ o ay. a a. ı . .o.c ˜ ngˆu nhiˆn ta d u . a e ¯ 1 mj = x, Nj x∈ω j v` a 1 xxt − mj mt , Cj = j Nj x∈ωj trong d ´ Nj l` sˆ c´c vector mˆu thuˆc l´.p ωj . Trong phˆn sau ch´ng ta s˜ d .a v´ du ˜ ´ ` ¯o aoa a oo a u e ¯u ı . . c´ch su. dung c´c biˆ’u th´.c n`y. Ma trˆn hiˆp phu.o.ng sai l` d oi x´.ng v` nu.a x´c d .nh ˙ ´ ˙. ’ a ˙ a ¯i ’ a a e ua a e a ¯ˆ u . . du.o.ng. Phˆn tu. trˆn d u.`.ng ch´o ckk l` variance cua phˆn tu. th´. k trong mˆu. C´c ˜ ` ` a ˙ e ¯o ’ ˙’ a˙u ’ e a a a phˆn tu. ngo`i d u.`.ng ch´o cjk l` covariance cua xj v` xk . Khi c´c phˆn tu. xj v` xk ` ` a˙ ’ ˙ ’ a˙ ’ a¯o e a a a a . ngo`i d .`.ng ch´o cua ma trˆn hiˆp ´ ´ ` a˙ ’ e˙ ’ d ˆc lˆp (thˆng kˆ) th` cjk = 0. Nˆu c´c phˆn tu ¯o a o e ı ea a ¯u o a e .. . . .o.ng sai bˇ ng khˆng th` h`m mˆt d ˆ Gauss n chiˆu c´ thˆ’ d u.a vˆ dang t´ cua ˙ ` ` o e¯ `. ıch ˙’ phu a o ıa a ¯o e e . . ` c´c h`m mˆt d ˆ Gauss mˆt chiˆu. aa a ¯o o e . . . Theo Phu.o.ng tr` (9.11), h`m biˆt tˆp Bayes cua l´.p ωj l` p(x|ωj )P (ωj ). Tuy ˙o ’ ınh a ea a .. .a dang l˜y th`.a nˆn lˆ y logarithm tu. nhiˆn ta c´ thˆ’ ˙ ´ nhiˆn, h`m mˆt d o Gauss ch´ e a a ¯ˆ u u uea e oe . . . . chuyˆ’n h`m biˆt tˆp Bayes vˆ dang th´ ho.p ho.n. N´i c´ch kh´c, ˙ `. ea ea e ıch . oa a .. dj (x) = ln[p(x|ωj )P (ωj )] = ln p(x|ωj ) + ln P (ωj ). (9.16) Phˆn loai du.a v`o c´c h`m biˆt tˆp n`y tu.o.ng d .o.ng v´.i su. dung c´c h`m biˆt tˆp o˙. ’ a aaa ea a ¯u aa ea .. .. .. 299
trong Phu.o.ng tr`nh (9.11) do h`m ln d .n d eu tˇng. Thay Phu.o.ng tr`nh (9.13) v`o ı a ¯o ¯iˆ a ı a . .o.ng tr`nh (9.16) ta d .o.c Phu ı ¯u . n 1 1 dj (x) = ln P (ωj ) − ln 2π − ln det Cj − [(x − mj )t C−1 (x − mj )]. j 2 2 2 C´c h`m dj c`ng ch´.a sˆ hang n ln 2π nˆn bˇ ng c´ch khu. n´, ta d u.o.c e` ´ ˙o ’ aa u uo. a a ¯. 2 1 1 ln det Cj − [(x − mj )tC−1 (x − mj )], dj (x) = ln P (ωj ) − (9.17) j 2 2 v´.i j = 1, 2, . . . , M. Phu.o.ng tr` (9.17) x´c d .nh c´c h`m biˆt tˆp Bayes v´.i d iˆu o ¯` o ınh a ¯i aa ea e .. .p mˆu c´ h`m mˆt d ˆ x´c suˆ t Gauss v` h`m tˆ’n thˆ t nhˆn gi´ tri 0 hoˇc ˙ ˜ ´ ´ kiˆn c´c l´ eao a oa a ¯o a a aa o a a a. a . .. . . 1. C´c h`m biˆt tˆp d .nh ngh˜ theo cˆng th´.c (9.17) l` c´c dang to`n phu.o.ng. aa e a ¯i ıa o u aa . a .. .a cˇp c´c l´.p Khi d ´ c´ch tˆt nhˆ t dˆ’ phˆn loai theo Bayes l` d at mˆt mˇt bˆc hai gi˜ a a o ´˙ ´ ¯o a o a ¯e a a ¯ˇ o aa u. . . . .. mˆu. Tuy nhiˆn, nˆu mˆt d o mˆu c´ dang Gauss th` khˆng c´ mˇt n`o kh´c c´ tˆ’n ˙ ˜ .˜ ´ a e e a ¯ˆ a o . ıo oaa a oo . . thˆ t trung b` khi phˆn loai ´ ho.n. ´ a ınh a . ıt Nˆu tˆ t ca c´c ma trˆn hiˆp phu.o.ng sai bˇ ng nhau, t´.c l` Cj = C v´.i j = ` ´´’ e a ˙a a e a ua o . . ´’ ´ ’´ a˙ ’ a ˙a o. ˙o 1, 2, . . . , M v` bo qua tˆ t ca c´c sˆ hang khˆng phu thuˆc v`o chı sˆ j th` c´c h`m o oa ıa a . . biˆt tˆp trong Phu.o.ng tr`nh (9.17) tro. th`nh c´c h`m tuyˆn t´´ ˙a ’ ea ı aa e ınh: .. 1 dj (x) = ln P (ωj ) + xt C−1 mj − mt C−1 mj , j = 1, 2, . . . , M. (9.18) j 2jj Nˆu ngo`i ra C l` ma trˆn d .n vi v` P (ωj ) = 1/M, j = 1, 2, . . . , M, th` c´ thˆ’ ˙ ´ e a a a ¯o .a ıo e . ´ lˆ y a 1 dj (x) = xtmj − mt mj , j = 1, 2, . . . , M. (9.19) 2j Phu.o.ng tr` (9.19) x´c d .nh c´c h`m biˆt tˆp theo phˆn loai khoang c´ch nho nhˆ t ´ ˙ ’ ˙ ’a ınh a ¯i aa ea a a .. . .o.ng tr`nh (9.2)). Do d ´ phˆn l´.p theo khoang c´ch nho nhˆ t tˆi u.u theo ´´ ˙ ’ ˙ ’ (xem Phu ı ¯o a o a ao ngh˜ Bayes nˆu (1) c´c l´.p mˆu c´ h`m mˆt d ˆ x´c suˆ t Gauss, (2) tˆ t ca c´c ma ˜ ´ ´ ´’ a ˙a ıa e ao a oa a ¯o a a . . .o.ng sai bˇ ng nhau v` bˇ ng ma trˆn d .n vi, v` (3) x´c suˆ t xuˆ t hiˆn ` a` ´ ´ trˆn hiˆp phu a e a a a ¯o .a a a a e . . . . .p bˇ ng nhau. C´c l´.p mˆu Gauss thoa m˜n d ` u kiˆn n`y c´ h`nh dang ` ˜ ´’ a ˙ao ˙ a ¯iˆ ’ tˆ t ca c´c l´ a ao a e e a oı . . .p theo khoang c´ch nho nhˆ t d ˇt mˆt siˆu ’` ` ´. ˙ cˆu trong khˆng gian n chiˆu. Phˆn l´ ˙ ’ ˙ a ¯a ’ qua a o e ao a oe . .a hai l´.p bˆ t k` sao cho mˆi siˆu phˇng vuˆng g´c v´.i d n thˇng nˆi tˆm ˙ ’ ˜ ˙ ’ ˙ ’ ´ ´ phˇng gi˜ a u oay oe a o o o ¯oa a oa . .`.ng ho.p hai chiˆu, c´c l´.p tao th`nh c´c v`ng h`nh tr`n, ˙` ` ˙ ’ ’a cua hai qua cˆu. Trong tru o e ao . a au ı o . .i d n nˆi tˆm cua hai d .`.ng tr`n. ˙ ’ ´ ˙ ’ v` biˆn l` c´c d . n thˇng vuˆng g´c v´ ¯oa o a a e a a ¯oa a o oo ¯u o o . V´ du 9.3.1 H` 9.6 minh hoa c´ch sˇp xˆp hai l´.p mˆu trong khˆng gian ba chiˆu. ´´ ˜ ` ı. ınh .a ae o a o e . dung c´c mˆu n`y dˆ’ minh hoa co. chˆ phˆn loai Bayes (gia thiˆt c´c l´.p ˙ ˜ ´ ´ ˙ ’ ˙ ’ Ch´ng ta su . u a a a ¯e ea eao . . ˜ ´ mˆu c´ h`m phˆn phˆi Gauss). a oa a o 300
Ap dung Phu.o.ng tr`nh (9.14) d oi v´.i c´c mˆu trong H` 9.6 ta d .o.c ´ ˜ ´ ı ¯ˆ o a a ınh ¯u . .   3 1 1  1  m1 = 1 , m2 = 3 . 4 4 1 3 Tu.o.ng tu., ´p dung Phu.o.ng tr`nh (9.15) d ˆi v´.i hai l´.p mˆu ta c´ ˜ ´ .a ı ¯o o o a o .   3 1 1 1  C1 = C2 = 3 −1 . 1 16 1 −1 3 Do c´c ma trˆn hiˆp phu.o.ng sai bˇ ng nhau nˆn c´c h`m Bayes x´c d inh theo Phu.o.ng ` a a e a eaa a ¯. . . . P (ω ) = P (ω ) = 1/2 th` sˆ hang ln P (ω ) c´ thˆ’ bo qua; v` ˙’ ´ ´ ˙˙ ’’ oe˙ tr` (9.18). Nˆu gia su ınh e ıo . a 1 1 j do d ´ ¯o 1 dj (x) = xtC−1 mj − mt C−1 mj , 2j trong d o ¯´   8 −4 −4   C−1 = −4 4 . 8 −4 4 8 Thay v`o ta d u.o.c a ¯. d1 (x) = 4x1 − 1.5, d2 (x) = −4x1 + 8x2 + 8x3 − 5.5. Suy ra phu.o.ng tr`nh x´c d inh siˆu phˇng t´ch hai l´.p l` ˙ ’ ı a ¯. e a a oa 1 d1 (x) − d2 (x) = (8x1 − 8x2 − 8x3 + 4). 32 Mˆt trong nh˜.ng u.ng dung th`nh cˆng nhˆ t cua phu.o.ng ph´p Bayes trong nhˆn ´’ a˙ o u´ a o a a . . . .o.c chup t`. m´y bay, vˆ tinh, v` tram khˆng gian. C´c anh dang c´c anh d phˆ’ d u .˙ a˙ ’ a˙’ ¯a o ¯ .ua e a. o . . n`y d u.o.c xˆp l´.p tu. d ˆng v` d .o.c phˆn t´ t`. xa. C´ nhiˆu u.ng dung kh´c nhau ´ `´ a¯. e o . ¯o a ¯u . a ıch u o e a . . . xa nhu.: thˇm d` t`i nguyˆn, t´ch v`ng ´ aaı˙ ’ liˆn quan dˆn nhˆn dang v` phˆn t´ch anh t` e ¯e a u a oa e a u . . r`.ng n´i, kiˆ’m tra chˆ t lu.o.ng khˆng kh´ v` nu.´.c, nghiˆn c´.u d .a chˆ t hoc, du. b´o ˙ ´ ´ u u e a o ıa o e u ¯i a. .a . .i tiˆt v` nh˜.ng u.ng dung liˆn quan d e n mˆi tru.`.ng. V´ du sau l` mˆt minh hoa o´ ´ th` e a u ´ e ¯ˆ o o ı. ao . . . ˙n h`nh. ’ı d iˆ ¯e V´ du 9.3.2 Mˆt m´y qu´t d a phˆ’ c´ thˆ’ nhˆn biˆt ´nh s´ng trong dai c´c bu.´.c ˙ ˙a ´ ˙a ’ ı. o a e¯ oo e ea a o . . .o.c chon; chˇng han: 0.40 − 0.44, 0.58 − 0.62, 0.66 − 0.72, v` 0.80 − 1.00 micro ˙ ’ s´ng d . o ¯u a a . . 301
y . . .. ... ... . . (0, 0, 1) . . . . . . . . . .......................................................................................................... .. .. . . . . ... . . . . . . . ... . . . . . . . . ... . . . . . . . ... . . . . . . . ... . . . ...... . .. . .. . .. . .. . .... . . .. . .... . . . .. . . .... . .. .... . . . .. . .. . . . .... .... . . . . .. .. ... . . ... ... ... . . . .. ... .... ... . ... . . . . . . .. . .. . ... . .... ... . . . . . . . . .. .... . .... ... . . . .. .. ..... ... . . ... ....... .... . ... . . . . . .. ... . . .... ... . ... .. .... ... .. ... . . . . . .... .. .... . ... ... ... .... ... . ... . . . . . . .. . .... .... .. . .. ... . . . ... . . . . . . .. .. . .... .... ... . . . . . . . .... . ... . . .... .. ... ... . . . . . . . . .. . .... ..... . . .... .. ..... . . . . . .. . . .. . ................................................. ...................................................... ... ..... . . . . ... . . . . . . . ... . . . . . ... .... . . . . . . . ... . . . . . . . ... . . . . ... . . . . . .. . .... . .. .... . . . . . . .... . . . . . .... . .... . . . . .. . . . . . . . . . . . ... ... ... . . . . . .. . . . . .... . . . . .. . . . .... . . . .... . . . . . . . . .... x2 .... ...... .... .... ..... .... ..... .... ..... .... ..... .... ..... ........................ . .. . . . .. . .. .. . .. . .. . . .. . . . .... . . .. . . . .. . . . ..... . . . . . . .. . . . .. . . . . . . . . . . . ... .... .. . . . ... ...... . ... . . . .... . . .. . ... . . . .. . . .. . . .... . .... .... .. . . . . .. (0, 1, 0) . . . . .. . . .... .... . ... . . .. .. . . . . . . . .. ... .... . . . .... . .. ...... . .... . . .. ... . . ... . ................. ... . . ......... . .......... .. ....... ... . ....... . . . .. . . ... . . . . . ......... . ...... . .. . . .. . . .. . . .. . . .... . . .... .. . . .... . .. . . . .... .. . . .... . . .. . .. . . .... . . . . .. .... ... ... . . . . .. ... . . . ... . ... ... . . ... . . . ....... . . . . .. . .... . . . .. . . .... . . ..... . . . . . ... . . . . . . . . ... . . . . . . . ... . . . . . . . ... . . . . . . . . ... . . . ..... (1, 0, 0) . .......................................................................................................... . . . .. ... ... ... .. ... .. . .... .... x1 H` 9.6: Hai l´.p mˆu v` siˆu phˇng (biˆn) t´ch hai l´.p. ˜ ˙ ’ ınh o a ae a e a o (10−6 m). C´c v`ng n`y tu.o.ng u.ng v´.i dai m`u t´m (violet), xanh l´ cˆy (green), d ˙ o˙ ’aı ’ au a ´ aa ¯o (red) v` tia hˆng ngoai. H` anh d .o.c qu´t s˜ tao ra bˆn anh sˆ, mˆi anh u.ng v´.i ´ ˜’ ´ ` ´’ ınh ˙ ’ o˙ o o˙ a o ¯u . e e. o . mˆt dai. Sˇp xˆp bˆn anh n`y bˇ ng c´ch chˆng lˆn nhau nhu. trong H` 9.7. Khi ´ a` ´ o˙ ´’ ` o˙ ’ ae a a o e ınh . .o.ng u.ng v´.i vector mˆu x = (x , x , x , x )t , trong d o x l` sˇc d ´ mˆi d e’m anh s˜ tu ˙’ ˜ ˜ ´ ¯o o ¯iˆ ˙ e ´ o a ¯´ 1 a a 1 2 3 4 ´ ´ a˙ ’ a˙ ’ e a˙ ’ th´i cua m`u t´m, x2 l` sˇc th´i cua m`u xanh l´ cˆy, vˆn vˆn. Nˆu c´c anh c´ d o aı aa a aa aa o ¯ˆ. phˆn giai 512 × 512 th` chˆng bˆn anh d phˆ’ c´ thˆ’ biˆ’u diˆn bˇ ng 262, 144 vector ˙ ˙˙ ˜a e` ı` ´’ ˙ ’ o˙ a o ¯a o o e e ˜ mˆu. a Phˆn loai mˆu Bayes v´.i h`m mˆt d ˆ Gauss cˆn x´c d inh vector trung b`nh v` ˜ ` a a oa a ¯o a a ¯. ı a . .. ma trˆn phu.o.ng sai d ˆi v´.i mˆi l´.p. Ch´ng ta c´ thˆ’ t´nh c´c gi´ tri n`y bˇ ng c´ch ˙ ˜ ` ´ a ¯o o oo u o eı a a.a a a . .p c´c d˜. liˆu anh d phˆ’ d ˆi v´.i nh˜.ng v`ng quan tˆm v` sau d o su. dung c´c tˆ’ ho a u e ˙ ˙ ˙´ .’ ¯´ ˙ . ’ o. ¯a o ¯o o u u a a a mˆu n`y nhu. trong v´ du tru.´.c. ˜ aa ı. o 9.3.3 Mang neuron . Co. so. ˙’ C´c phu.o.ng ph´p tr`nh b`y trong hai phˆn tru.´.c su. dung c´c vector mˆu cho tru.´.c ˜ ` o˙. ’ a a ı a a a a o dˆ’ xˆy du.ng c´c tham sˆ cua mˆi l´.p mˆu. Phu.o.ng ph´p khoang c´ch nho nhˆ t ho`n ˙ ˜ ˜ ´’ ´ o˙ ˙ ’ ˙a ’ ¯e a a oo a a a a . .o.c x´c d inh bo.i vector trung b` cua mˆi l´.p. Tu.o.ng tu., phu.o.ng ph´p Bayes ˜ ˙ ’ ınh ˙ ’ to`n d . a ¯. a ¯u oo a . . dung phˆn phˆi Gauss d e’ x´c d inh vector trung b`nh v` ma trˆn hiˆp phu.o.ng sai ˙ ´ ˙ ’ su . a o ¯ˆ a ¯. ı a a e . . .p. C´c mˆu (biˆt tru.´.c) cua c´c l´.p d .o.c su. dung d e’ x´c d inh c´c tham ˙ a ¯. ˜ ˜ ´ ˙ ’ ˙ a o ¯u . ˙ . ’ ’ cua mˆi l´ oo a a e o ¯ˆ a 302
... .. .. .. ... ... . .. .. ... . ... ... .. .. . . . . . . . . . . ... ... . . . . . . . . . . . . . . . . ... . . . . . . . . . . . . . . . ... . . . . . . . . ..................................................................................................................... . . . . . . . . . . . . . . . . ••• . . . . . .. . . . . . ... . . . .... . . . . .... . .. . . . .. . . . . . . ... . ..... . . . . . . . . . . . . ... . . . . . . . . . . . . . . . ... . . . . . . . . . . . . . . . . . ..................................................................................................................... . . . . . . . . . . . . . . . . . . . . . . . . . . ••• . . . . . . . . . . .. . . . . . . . . .. . ... . . . . . . . .. . . . . . ... . . . . . . . .... . . . . . ... . . . . . . . . . . . . . . . . ... . . . . . . . . . . . . . . . ... . . . . ............................................................................................. . . . . . ... . . . . . . . ...................... . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ••• . . . . . . . . . . . . . . . ... . . . . . . . . . .... . . . . . . . . . . . . .... . . . . . . . ... . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ••• . . . . . . ...  . . . . . . . ... . . . ... . . . . . . . . . .. .. . . . . . . .. . . . .. . . . x1 . . . .. . . . .. . . . . . . . .. . . . .. . . .   ............... . . . . . . . . . . . . . . . . . . x2 ....... . . . . . . . . . . . . . . . x =  ..... . . . . . ........................ Phˆ’ th´. nhˆ t . . . . . ˙ ´ . . . . ... . . . . . . . . . ou a . . x  . . . . . . . . .  3 . . . . . . . . . . . . . . . . . . . . . . . . . . Phˆ’ th´. nhˆ t . . x4 ......................... ˙ ´ .. . . . . . . . . . . . ou a . . . . . . . . . . . . . . . . . . . . Phˆ’ th´. nhˆ t . . . . . . . . . ... .. ˙ . ´ ........................ ou a Phˆ’ th´. nhˆ t ˙ ´ oua H` 9.7: Xˆy du.ng vector mˆu t`. c´c pixel tu.o.ng u.ng bˆn anh sˆ tu.o.ng u.ng anh d ˜ ´’ ´ o˙ ˙ ’ ınh a a ua ´ o ´ ¯a . phˆ’. ˙ o sˆ thu.`.ng goi l` c´c mˆu huˆ n luyˆn (training pattern) v` tˆp c´c mˆu n`y goi l` tˆp ˜ ˜ ´ ´ o o .aa a a e aa a a a . aa . . . . dung mˆt tˆp huˆ n luyˆn d e’ t`m c´c h`m quyˆt d nh goi l` ˙ı ´ ´ ´. a ınh ˙ ’ huˆ n luyˆn. Qu´ tr` su . a e oa a e ¯ˆ aa e ¯i .a . .. . ´ huˆ n luyˆn hoˇc hoc. a e a. . . Trong hai c´ch tiˆp cˆn d` u, huˆ n luyˆn l` mˆt vˆ n d` d o.n gian. C´c mˆu huˆ n ˜ ´. ´ .´e ´ ˙ ’ a e a ¯ˆ a a e a o a ¯ˆ ¯ a a a . .p d u.o.c su. dung tru.c tiˆp dˆ’ t´nh c´c tham sˆ cua h`m biˆt tˆp tu.o.ng ˙ ˜ ´ ´’ luyˆn cua mˆi l´ ¯ . ˙ . e˙ ’ ’ o˙ a oo e ¯e ı a ea . . .. .ng v´.i l´.p d ´. Sau khi c´c tham sˆ d oi hoi d .o.c x´c d nh, cˆ u tr´c cua bˆ phˆn loai ´ ´ o ¯` ˙ ¯u . a ¯i ’ u˙oa ’. u ´ o o ¯o a a . . .c nˇng thu.c hiˆn cua n´ phu thuˆc v`o c´c mˆu d u.a v`o c´ thoa ˜ ´ ˙ ’o ˙ ’ s˜ cˆ d inh v` ch´ a e o ¯. au e oaa a¯ ao . . . . ´. ˙ ’ m˜n c´c gia thiˆt d at ra khˆng. aa e ¯ˇ o C´c t´ chˆ t thˆng kˆ cua c´c l´.p mˆu trong mˆt b`i to´n thu.`.ng khˆng biˆt ˜ ´ ´ ´ e˙ ao ’ a ınh a o a oaa o o e . hoˇc kh´ c´ thˆ’ x´c d .nh. Trong thu.c tˆ, c´ch tˆt nhˆ t dˆ’ giai quyˆt c´c vˆ n d` l´ ˙ ˙’ ´ ´ ´ ´ ´e a ¯e ˙ a o o e a ¯i .ea o e a a ¯ˆ y . . thˆ l` xˆy du.ng c´c h`m biˆt tˆp tru.c tiˆp thˆng qua huˆ n ´ ´ ´ ´ ´ thuyˆt-quyˆt d .nh nhu e a a e e ¯i aa ea e o a . .. . ` e`a a ´e ˙ ¯ˇ ’. ˙’ luyˆn. Sau d o ch´ng ta khˆng cˆn phai d at ra c´c gia thiˆt vˆ c´c h`m mˆt d ˆ x´c e ¯´ u o a a a ¯o a . . . .p mˆu. Du.´.i d ay tr`nh b`y c´c c´ch tiˆp cˆn theo ˜ ´ a `o ´e ´a suˆ t hoˇc thˆng tin x´c suˆ t vˆ l´ a a o a a o ¯ˆ ı aaa e. . tiˆu chuˆ’n n`y. ˙ e aa Co. so. cua kiˆn th´.c d` cˆp du.´.i d ay du.a trˆn c´c d .n vi c´ ch´.c nˇng thu.c ´ ˙˙ ’’ e u ¯ˆ a e. o ¯ˆ e a ¯o .o u a . . 303
hiˆn c´c ph´p to´n so. cˆ p (goi l` c´c neuron) d u.o.c tˆ’ ch´.c nhu. c´c mang hˆi u.c theo ˙ ´ `´ ea e a a . aa ¯. o u a o . . .o.ng tu. nhu. c´c neuron thˆn kinh nˆi v´.i nhau trong n˜o ngu.`.i. C´c mˆ h`nh ` ´ c´ch tu a a a oo a o a oı . .`.ng d .o.c goi du.´.i nhiˆu tˆn kh´c nhau: mang neuron, m´y t´nh neuron, mˆ `e n`y thu o a ¯u . o e a aı o . . . l´ phˆn t´n song song (PDL-parallel distributed processing model), hˆ thˆng .´ ˙ ’ h`nh xu y a a ı eo neuron, mang tu. th´ nghi v` mˆ h`nh liˆn kˆt. Dˆ’ gian tiˆn, ch´ng ta d`ng kh´i e e -e ˙ ˙’ ´ ıch a oı e u u a . . . . dung c´c mang n`y nhu. c´c phu.o.ng tiˆn d e’ thay d o’i liˆn tuc ˙ ˙ a˙ ’ niˆm mang neuron v` su . e a a a e ¯ˆ ¯ˆ e . . . . . c´c hˆ sˆ cua h`m biˆt tˆp thˆng qua tˆp huˆ n luyˆn cho tru.´.c. .´’ ´ a eo ˙ a ea o a a e o .. . . Mang neuron d u.o.c quan tˆm bˇt d` u v`o nˇm 1943 khi McCulloch v` Pitts ´a ¯. a a ¯ˆ aa a . ` ´ ˙˙ ’’ minh hoa c´c kˆt qua cua ho bˇ ng kh´i niˆm n`y. Ho d a xem c´c mˆ h`nh neuron .ae .a ae a . ¯˜ a oı . nhu. c´c thiˆt bi ngu.˜.ng nhi phˆn v` xˆy du.ng c´c thuˆt to´n ngˆu nhiˆn d ˆt biˆn 0-1 ˜ ´ ´ a e. o . a aa a a a a e ¯o e . . . v` 1-0 cua c´c trang th´i tˆ b`o thˆn kinh dˆ’ l`m co. so. cho c´c hˆ thˆng thˆn kinh. ˙ ´ ` .´ ` ˙a ’ ˙ ’ a aea a ¯e a aeo a . Tiˆp theo d o, Hebb du.a trˆn c´c mˆ h`nh to´n hoc d ˜ thu. nghiˆm kha nˇng hoc cua ´ . ¯a ˙ ’ ˙a ’ ˙ ’ e ¯´ ea oı a e . . . mang neuron. . Gi˜.a nh˜.ng nˇm 1950 d e n d` u nˇm 1960, Reosenblatt d ˜ d .a ra mˆt l´.p c´c ´a u u a ¯ˆ ¯ˆ a ¯a ¯u oo a . . ch´ y cua nhiˆu nh` nghiˆn c´.u trong l˜ vu.c nhˆn dang mˆu. L´ ˜ ` m´y hoc thu h´t su u ´ ˙ ’ a. u. e a eu ınh . a. a y . do thu h´t quan tˆm l` du.a trˆn co. so. to´n hoc, c´c m´y n`y, goi l` m´y perceptron, ˙a ’ u a a. e a aa .aa . .ng minh kha nˇng nhˆn th´.c khi d u.o.c huˆ n luyˆn v´.i c´c tˆp huˆ n luyˆn kh´c ´ ´ ˙a ’ d ˜ ch´ ¯a u a u ¯. a eoaa a e a . . . . nhau s˜ hˆi tu vˆ mˆt l`.i giai sau h˜.u han bu.´.c lˇp. L`.i giai s˜ cho c´c hˆ sˆ cua c´c eo .` oo .´’ ˙ ’ ˙e ’ a eo ˙ a e. u oa o . . . siˆu phˇng c´ kha nˇng t´ch c´c l´.p biˆ’u diˆn c´c mˆu cua tˆp huˆ n luyˆn. ˙ ˙’ ˜a ˜ ´ ˙a ’ ˙a ’. e a o a ao e e a a e . Tuy nhiˆn, triˆ’n vong ph´t triˆ’n cua c´c m´y perceptron d a gˇp phai mˆt can ˙. ˙˙a ’ ˙ ’ o˙ .’ e e a e a ¯˜ a . . ngay sau d o. M´y perceptron v` mˆt v`i tˆ’ng qu´t ho´ cua n´ khˆng giai quyˆt ˙ ´ ˙ ’ a˙ o o ’ ˙ ’ tro ¯´ a aoao a e . thoa d ang hˆu hˆt c´c tiˆn tr` nhˆn dang mˆu quan trong. Nh˜.ng cˆ gˇng sau d ´ ˜ ´´ ` ´ ´ ˙ ¯´ ’ aeae ınh a a u oa ¯o . . . . rˆng kha nˇng cua m´y perceptron bˇ ng c´ch gh´p c´c m´y n`y lai nhu.ng ` ` ˙. ’ ˙a ’ ˙ ’ nhˇ m mo o a a a a ea aa. vˆn c`n mˆt tro. ngai l` thiˆu nh˜.ng thuˆt to´n huˆ n luyˆn hiˆu qua. Gi˜.a nˇm 1960, ˜ ´ ´ ˙ ’ ˙ ’ ao o .a e u a a a e e ua . . . . Nilsson d ˜ tˆ’ng kˆt c´c vˆ n d` vˆ m´y hoc trong cˆng tr` ˙ e a a ¯ˆ ` a ´ ´ ee ¯a o o ınh. Mˆt v`i nˇm sau d o, oaa ¯´ . . Minsky v` Papert d ˜ l`m nan l`ng c´c nh` nghiˆn c´.u khi phˆn t´ch c´c han chˆ cua ´’ ˙o ’ e˙ a ¯a a a a eu aı a. .i tiˆu d` m´y hoc. Nˇm 1984, Simon d ˜ cˆng bˆ b`i b´o vˆ vˆ n d` n`y tai Ph´p v´ e ¯ˆ o a a ` a ¯ˆ a . ´ e´ e a a ¯a o ao e . “Su. xuˆ t hiˆn v` kˆt th´c cua mˆt huyˆn thoai”. ´ e ae ´ ` u˙ ’ a o e . . . . Nˇm 1986, Rumelhart, Hilton v` Williams d a d u.a ra c´c thuˆt to´n m´.i huˆ n ´ a a ¯˜ ¯ a a a o a . -` luyˆn cho c´c m´y perceptron nhiˆu tˆng. Diˆu n`y l`m thay d ˆ’i d ang kˆ’ quan niˆm ˙ ˙ `` e a a ea eaa ¯o ¯´ e e . . .o.ng ph´p co. ban cua ho, thu.`.ng goi l` nguyˆn tˇc delta d e’ ˙ ´ `a ˙ ’ ˙’ vˆ m´y perceptron. Phu e a o .a ea ¯ˆ . hoc bˇ ng c´ch lan truyˆn ngu.o.c, cung cˆ p mˆt phu.o.ng ph´p huˆ n luyˆn hiˆu qua cho .` ` ´ ´ ˙ ’ a a e a o a a e e . . . . .p. Mˇc d` thuˆt to´n huˆ n luyˆn n`y khˆng chı ra su. hˆi tu cua l`.i giai ´ ˙ ’ .o.˙o ’ ˙ ’ c´c m´y d a l´ a a¯o au a a a ea o . . . . nhu.ng d .nh luˆt delta d ˜ d .o.c su. dung th`nh cˆng trong nhiˆu b`i to´n quan trong ` ¯a ¯u . ˙ . ’ ¯i a a o eaa . . 304
v` nhˆn dang. Th`nh cˆng n`y d ˜ ch´ th´.c d u.a c´c m´y dang perceptron l` mˆt ˆa e a o a ¯a ınh u ¯ a a ao . . . . ınh ˙’ trong c´c mˆ h`nh ch´ cua mang neuron. a oı . Su. ph´t triˆ’n cua nh˜.ng nguyˆn tˇc huˆ n luyˆn m´.i ´p dung cho c´c m´y nhiˆu ˙’ ´ ´ ` e˙ a u ea a e oa a a e . . . . th`.a nhˆn cua nh˜.ng mˆ h`nh neuron m´.i v` nh˜.ng u.ng dung mang lai ` ˙ ’ tˆng, su u a a u oı oa u ´ . . . . . lai b`i to´n nhˆn dang mˆu bˇ ng c´c m´y hoc. Tuy vˆy, ˜` ´ ´. ˙ ¯a ’ ˙ ’ kˆt qua d ˜ khuˆ y d ong tro . a a e a ¯ˆ a aa a a a . . . . .u trong l˜ vu.c n`y vˆn d . th`.i k´ phˆi thai. N˜o ngu.`.i c´ trˆn 100 tı ˜ ¯ang o o y o ˙ ’ ˙ ’ nghiˆn c´ eu ınh . a a a ooe neuron d .o.c tˆ’ ch´.c rˆ t ph´.c tap, trong d o mˆi neuron d .o.c liˆn kˆt v´.i h`ng ng`n ˙ ˜ ´ ´ ¯u . o u a u. ¯´ o ¯u . e e o a a .`.i ta vˆn chu.a l´ giai d .o.c v´.i mang song song rˆ t l´.n nhu. thˆ, ˜ ´ ´ y ˙ ¯u . o ’ neuron kh´c. Ngu o a a ao e . m` trong d ´ mˆi neuron d u.o.c k´ch hoat v´.i tˆc d ˆ khoang mˆt phˆn ngh`n giˆy, lai ˜ ´. ` ˙ ’ a ¯o o ¯. ı . o o ¯o o a ı a. . c´ thˆ’ thu.c hiˆn rˆ t nhanh nh˜.ng tiˆn tr`nh nhu. thu nhˆn, lu.u tr˜., phuc hˆi v` phˆn ˙ .´ ´ .`aa oe. ea u e ı a u o . . liˆu rˆ t ph´.c tap. H˜y h`nh dung kha nˇng xu. l´ d˜. liˆu cua n˜o ngu.`.i v` ıch u . ´ ˙a ’ ˙yue ’ ˙a ’ t´ d˜ e a u. aı oa . c´ch th´.c n´ gi´p ch´ng ta xˆy du.ng lai c´c anh (trong tr´ ´c) con ngu.`.i, d .a danh, .a˙ ’ a uou u a ıo o ¯i . . kiˆn du.a trˆn nh˜.ng thˆng tin bi phˆn manh nhu. ˆm thanh quen thuˆc ˙ ’ hoˇc c´c su e aa.. e u o .a a o . . . .n gian l` tˆ’ ho.p cua nh˜.ng mˆc th`.i gian n`o d ´. ˙ ´ ˙ ao . ’ ˙ ’ hay d o ¯ u o o a ¯o Trong ng˜. canh d ´, kh´ c´ thˆ’ so s´nh ch´.c nˇng cua mang neuron nhˆn tao ˙ u˙ ’ ˙ ’ ¯o oo e a ua a. . v´.i mang neuron cua n˜o ngu.`.i. Do d ´ c`n rˆ t nhiˆu th´ch th´.c v´.i nh˜.ng ngu.`.i ´ ` ˙ ’a o o ¯o o a e a uo u o . .u trong l˜ vu.c n`y. Muc d ıch cua ch´ng ta o. d ay l` gi´.i thiˆu mˆt v`i kh´a ˙ ’ ˙ ¯ˆ a o ’ nghiˆn c´ eu ınh . a . ¯´ u e oa ı . . canh vˆ mang neuron nhiˆu tˆng. Kho.i d` u v´.i mang neuron co. so.: m´y perceptron. `. `` ˙ ¯ˆ o ’a ˙’ e ea a . . .i d ` u kiˆn c´c l´.p Tiˆp d e n thao luˆn mˆt sˆ vˆ n d` huˆ n luyˆn m´y perceptron v´ ¯iˆ ´´ . ´´ e ´ ˙ ’ e ¯ˆ a o o a ¯ˆ a e a o e eao . . . .o.c v` khˆng t´ch d .o.c tuyˆn t´ - ˆy l` nh˜.ng kiˆn th´.c co. so. dˆ’ c´ thˆ’ ’˙ ˙ ´ ´ ˙ ¯e o e t´ch d . a o a ¯u a ¯u . e ınh. Da a u e u ph´t triˆ’n v` minh hoa nguyˆn tˇc delta tˆ’ng qu´t nhˇ m huˆ n luyˆn c´c mang neuron ˙ ˙ ´ ` ´ a ea ea o a a a ea . . . `` nhiˆu tˆng. ea M´y perceptron d ˆi v´.i hai l´.p mˆu ˜ ´ a ¯o o o a Tru.`.ng ho.p d .n gian nhˆ t cua m´y hoc l` x´c d .nh c´c tham sˆ cua h`m biˆt tˆp ´’ ´’ ˙ ’ a˙ o˙ a o . ¯o a . a a ¯i a ea .. . d` mˆ h`nh perceptron d oi ´ ´ ´ dang tuyˆn t´ t´ch hai tˆp huˆ n luyˆn. H` 9.8 l` so ¯ˆ o ı e ınh a a a e ınh a o ¯ˆ . . . .i hai l´.p mˆu. D´p u.ng cua thiˆt bi co. so. n`y du.a v`o tˆ’ng c´ trong lu.o.ng cua c´c a -a ´ ˙ ˜ ´ ˙ ’ ˙a ’ ˙a ’ v´o o e. .ao o. . t´n hiˆu d .a v`o (input); t´.c l` ı e ¯u a ua . n d(x) = wi xi + wn+1 i=1 Trong d o c´c hˆ sˆ wi , i = 1, 2, . . . , n + 1, goi l` c´c trong lu.o.ng, tu.o.ng tu. su. d iˆu tiˆt .´ . . ¯` ´ ¯´ a e o .aa e e . . hˆ thˆng thˆn kinh trong n˜o ngu.`.i. Bˆ phˆn du.a v`o gi´ tri d(x) dˆ’ x´c d .nh t´n˙ .´ ` eo a a o oa a a. ¯e a ¯i ı . . . .n vi k´ch hoat (activation function). hiˆu ra goi l` d o . ı e . a¯ . . 305