Luận văn:Nghiên cứu nhận dạng vân tay dùng mạng neural

Chia sẻ: Nguyen Vang | Ngày: | Loại File: PDF | Số trang:25

Thêm vào BST

Báo xấu

236
lượt xem 60
download

Download Vui lòng tải xuống để xem tài liệu đầy đủ

Nhận dạng chữ là một lĩnh vực đã được quan tâm nghiên cứu và ứng dụng từ nhiều năm nay theo hai hướng chính: ã Nhận dạng chữ in: phục vụ cho công việc tự động hóa đọc tài liệu, tăng tốc độ và hiệu quả nhập thông tin vào máy tính trực tiếp từ các nguồn tài liệu. ã Nhận dạng chữ viết tay: với những mức độ ràng buộc khác nhau về cách viết, kiểu chữ . phục vụ cho các ứng dụng đọc và xử lý chứng từ, hóa đơn, phiếu ghi, bản thảo viết tay ....

Chủ đề:

Bình luận(0) Đăng nhập để gửi bình luận!

Lưu

Nội dung Text: Luận văn:Nghiên cứu nhận dạng vân tay dùng mạng neural

1 B GIÁO D C VÀ ĐÀO T O Đ I H C ĐÀ N NG NGUY N MINH M N NGHIÊN C U NH N D NG VÂN TAY DÙNG M NG NEURAL Chuyên ngành : K THU T ĐI N T Mã s : 60.52.70 TÓM T T LU N VĂN TH C SĨ K THU T Đà N ng - Năm 2011
2 Công trình ñư c hoàn thành t i Đ I H C ĐÀ N NG Ngư i hư ng d n khoa h c: TS. NGUY N VĂN CƯ NG Ph n bi n 1 : TS. NGUY N VĂN S Ph n bi n 2 : TS. LƯƠNG H NG KHANH Lu n văn ñư c b o v t i H i ñ ng ch m Lu n văn t t nghi p th c sĩ k thu t t i Đ i h c Đà N ng vào ngày 21 tháng 05 năm 2011. Có th tìm hi u lu n văn t i: • Trung tâm Thông tin - H c li u, Đ i h c Đà N ng • Trung tâm H c li u, Đ i h c Đà N ng.
1 M Đ U 1. TÍNH C P THI T C A Đ TÀI Ngày nay, các k thu t sinh tr c h c ngày càng ñư c ng d ng r ng rãi. Trong ñó, nh n d ng vân tay ñư c xem là m t trong nh ng k thu t tương ñ i hoàn thi n và ñáng tin c y nh t ñ xác nh n 1 ngư i. Hi n nay, k thu t này ñư c chú ý nhi u và ngư i ta th y r ng nó thích h p v i nh ng ng d ng có cơ s d li u nh . Đa s các h th ng b o m t hi n nay ñư c b o v b ng Password hay mã PIN nhưng không hi u qu vì khó nh , d quên và d b ñánh c p. N u s d ng vân tay thì vi c xác nh n m t ngư i nào ñó b ng vi c th c hi n nh n d ng vân tay là an toàn và hi u qu cao. Vì v y, ñ tài “Nghiên c u nh n d ng vân tay dùng m ng Neural” có tính khoa h c và th c ti n. 2. M C ĐÍCH NGHIÊN C U H th ng hóa nh ng v n ñ lý thuy t cơ b n v vân tay và m ng neural. X lý d li u ñ u vào là vân tay, sau ñó ñưa qua m ng neural và cu i cùng là so sánh v i d li u ñã có s n ñ xem có ñúng vân tay c n nh n d ng hay không. 3. Đ I TƯ NG VÀ PH M VI NGHIÊN C U 3.1. Đ i tư ng nghiên c u Nghiên c u các ñ c tính trên vân tay ñ l y thông tin c n thi t. Nghiên c u v m ng neural nhân t o. 3.2. Ph m vi nghiên c u Đ tài t p trung nghiên c u phương pháp tìm ñi m ñ c trưng trên vân tay, sau ñó trích các ñi m ñ c trưng này ñ làm m u hu n luy n trên các m ng neural.
2 Đánh giá k t qu ñ t ñư c sau quá trình ki m tra, ñ i sánh. 4. PHƯƠNG PHÁP NGHIÊN C U Thu th p tài li u và phân tích các thông tin liên quan ñ n ñ tài. Xây d ng chương trình và th c thi ñ ñánh giá k t qu th c hi n. 5. Ý NGHĨA KHOA H C VÀ TH C TI N C A Đ TÀI Khai thác ñư c k thu t nh n d ng vân tay dùng m ng neural. Vi c nh n d ng vân tay dùng m ng neural trong b o m t cho ta hi u qu t t hơn so v i các phương pháp b o m t khác như password ho c mã PIN. 6. K T C U LU N VĂN Lu n văn d ki n g m các ph n chính sau ñây Chương 1: Gi i thi u chung Chương 2: T ng quan v nh n d ng vân tay Chương 3: Lý thuy t v m ng Neural nhân t o Chương 4: Vi t chương trình th c thi vi c nh n d ng vân tay dùng m ng neural. CHƯƠNG 1 - GI I THI U CHUNG 1.1. HI U QU NG D NG SINH TR C H C TRONG NH N D NG 1.2. H TH NG NH N D NG VÂN TAY VÀ CÁCH ĐÁNH GIÁ H TH NG Hình 1.1. C u trúc t ng quát c a m t h th ng nh n d ng vân tay
3 K t qu th hai ñư c g i là "l i t ch i nh m" (False Accept Rate - FAR), k t qu th ba ñư c g i là "l i ch p nh n nh m" (False Reject Rate - FRR). Cho m t phân b th t là pg , và phân b m o danh là pi, thì M t h th ng thư ng có hai cách ñánh giá như sau: T l l i c c ti u SUMmin = (FAR + FRR)min : là h s l i nh nh t mà h th ng có th ñ t ñư c. T l l i cân b ng (Equal Error Rate- EER): là ñi m mà FAR và FRR b ng nhau. Hình 1.2. M i quan h gi a FAR, FRR, SUM và EER theo ngư ng th 1.3. K T LU N CHƯƠNG Chương này ñã gi i thi u ưu ñi m c a vi c s d ng sinh tr c h c trong nh n d ng, c u trúc t ng quát c a h th ng nh n d ng vân tay, các bư c ñánh giá kh năng nh n d ng c a h th ng vân tay.
4 CHƯƠNG 2 - T NG QUAN V NH N D NG VÂN TAY 2.1. C U T O VÂN TAY Hình 2.1. Hình d ng các ñư ng vân và ñư ng rãnh 2.2 CÁC ĐI M Đ C TRƯNG C A VÂN TAY Singularity Hình 2.2. Các ñi m core và delta Core thư ng có m t s d ng như sau Hình 2.3. M t s lo i core thư ng g p
5 Minutiae Hình 2.4. Các ñi m minutiae k t thúc (Ridge Ending) và ñi m r nhánh (Bifurcation) 2.3. PHÂN LO I VÂN TAY 2.4. QUÁ TRÌNH NH N D NG D U VÂN TAY Xác nh n d u vân tay (fingerprint verification). Nh n di n d u vân tay (finger identification ). Vi c ñ i sánh nh vân tay c n nh n d ng 2.5. CÁC PHƯƠNG PHÁP NH N D NG D U VÂN TAY Th nh t là d a vào các ñ c tính c th c a d u vân tay, như ñi m cu i, ñi m r nhánh c a các vân trên tay. Th hai là so sánh toàn b ñ c tính c a d u vân tay. 2.6. TRÍCH CÁC ĐI M Đ C TRƯNG D U VÂN TAY 2.6.1.Trích các ñi m singularity Trư ng ñ nh hư ng (orientation field) Hình 2.5. nh vân tay và trư ng ñ nh hư ng c a nó
6 Phương pháp xác ñ nh trư ng ñ nh hư ng như sau: − Chia nh vân tay thành các kh i nh hơn kích thư c WxW − Tính gradient theo hai hư ng x, y là Gx, Gy t i m i ñi m (pixel) trong kh i − Khi ñó hư ng c a ñi m chính gi a c a kh i ñư c xác ñ nh theo công th c:  w w   ∑∑ 2G x (i, j )G y (i, j )  1 −1  i −1 j −1  ϕ = tan  w w  (2.1) 2  ( 2 )  ∑∑ G x2 (i, j ) − G y (i, j )    i −1 j −1  Xác ñ nh các ñi m singularity b ng ch s Poincare Gi s (i,j) là m t ñi m b t kỳ trên nh vân tay, C là m t ñư ng cong khép kính xung quanh (i,j) thì ch s Poincare t i (i,j) là t ng ñ i s các ñ sai l ch hư ng c a các ñi m li n k nhau trên ñư ng cong C, ch s Poincare gi ñ nh ch là m t trong nh ng giá tr r i r c: 0°, ± 180°, và ± 360° Hình 2.6. Đư ng cong C và các sai l ch hư ng c a ch s Poincare
7 Hình 2.7. Cách tính ch s Poincare t i ñi m (i,j) v i N=8 2.6.2.Trích các ñi m minutiae 2.6.2.1.Trích các ñi m minutiae t nh binary 7 (x, y) là ñi m k t thúc n u ∑N i =0 i =1 7 (x,y) là ñi m r nhánh n u ∑N i =0 i >2 Hình 2.8. Các ñi m r nhánh và ñi m k t thúc c a nh binary v i N=8 2.6.2.2. Dò theo ñư ng vân (Ridge line following) Hình 2.9. B m t c a nh vân tay v i các ñư ng vân (ridge) và các rãnh
8 (ravine) Hình 2.10. Thi t di n c a ñư ng vân tay Tóm l i vi c tìm các ñi m minutiae b ng thu t toán dò theo ñư ng vân ñư c th c hi n như sau + L y m t ñi m b t kì (is,js) trên nh I + Tìm hư ng ϕ s t i ñi m (is,js) + Tìm ñi m c c ñ i (ic, jc) g n (is, js) nh t + Tìm hư ng ϕ c t i ñi m (ic, jc) + D ch chuy n theo hư ng ϕ c m t ño n µ + Tinh ch nh l i ñi m c c ñ i (ic,jc) và hư ng ϕ c + Ti p t c quá trình này ñ dò theo ñư ng vân (ridge following) cho ñ n khi không phát hi n ñư c ñi m c c ñ i (ic,jc) thì ñó là ñi m Ridge Ending ho c ch m vào m t ñư ng vân khác thì ñó là ñi m Bifurcation (m i ñư ng vân sau khi ñư c dò s ñư c gán nhãn) + Ti p theo ch n m t ñi m (is,js) khác và th c hi n l i quá trình trên cho ñ n khi dò h t t t c các ñư ng vân.
9 Hình 2.11. Đi m c c ñ i (ic,jc) tương ng v i (is,js) 2.7. Đ I SÁNH Đ i sánh d u vân tay ch t lư ng cao v i các thay ñ i nh trong l p n i không ph i là khó khăn và m i thu t toán h p lý có th làm ñi u ñó. Nh ng thách th c th c s là s ñ i sánh các m u (ñôi khi ch t lư ng kém) b nh hư ng b i + D ch chuy n và (ho c) quay + Bi n d ng phi tuy n tính + Các l c áp khác nhau và tình tr ng da + L i trích xu t các ñ c tính 2.7.1. K thu t d a trên s tương quan 2.7.2. K thu t d a trên các minutiae 2.7.3. K thu t d a trên ñ c tính ñư ng vân CHƯƠNG 3 - LÝ THUY T V M NG NEURAL NHÂN T O 3.1. SƠ LƯ C V M NG NEURAL 3.1.1. L ch s phát tri n 3.1.2. Neural sinh h c 3.1.2.1. Ch c năng, t ch c và ho t ñ ng c a b não con ngư i 3.1.2.2. M ng neural sinh h c C u t o: Neural là ph n t cơ b n t o nên b não con ngư i. Sơ ñ c u t o c a m t neural sinh h c ñư c ch ra như trong hình 3.1.
10 Hình 3.1. Mô hình 2 neural sinh h c M t neural ñi n hình có 3 ph n chính: - Thân neural (so ma) - Các nhánh (dendrite) - S i tr c (Axon) Ho t ñ ng: Các tín hi u ñưa ra b i m t synapte và ñư c nh n b i các dendrite là các kích thích ñi n t . Neural nh n tín hi u s kích ho t (fire) n u ñi n th vư t kh i m t ngư ng nào ñó và m t xung (ho c ñi n th ho t ñ ng) v i ñ m nh (cư ng ñ ) và th i gian t n t i c ñ nh ñư c g i ra ngoài thông qua axon t i ph n nhánh c a nó r i t i các ch n i synapte v i các neural khác. Sau khi kích ho t, neural s ch trong m t kho ng th i gian ñư c g i là chu kỳ. 3.2. M NG NEURAL NHÂN T O 3.2.1. Khái ni m Hình 3.2. Mô hình toán h c c a m ng neural
11 S thay th nh ng tính ch t này b ng m t mô hình toán h c tương ñương g i là m ng neural nhân t o. Mô hình bi u di n m t m ng neural nhân t o g m m ñ u vào và 1 ñ u ra. Các ñ u vào có hàm tr ng Wm và b t ng. Đ u ra c a b t ng ñư c s d ng ñ quy t ñ nh m t giá tr c a ñ u ra thông qua hàm chuy n. M t m ng neural g m 3 l p: l p vào, l p n và l p ra. Các neural l p vào tr c ti p nh n tín hi u ñ u vào, ñó m i neural ch có m t tín hi u vào. M i neural l p n ñư c n i v i t t c các neural l p vào và l p ra. Các neural l p ra có ñ u vào ñư c n i v i t t c các neural l p n, chúng là ñ u ra c a m ng. Hình 3.3. C u trúc hu n luy n m ng neural 3.2.2 M ng neural nhân t o Hình 3.4. Neural nhân t o Các thông s c u trúc m ng neural bao g m - S tín hi u vào, s tín hi u ra.
12 - S l p neural - S neural trên m i l p n - S lư ng liên k t c a m i neural (ñ y ñ , b ph n, ng u nhiên) - Các tr ng s liên k t - Hàm truy n (Transfer function) - Các tr ng s liên k t - B t ng (Summing function) - Ngư ng (còn g i là m t ñ l ch -bias) 3.2.2.1. Phân lo i m ng neural Phân lo i theo ki u liên k t neural Phân lo i theo s l p 3.2.2.2. Cách nhìn v m ng neural H c có th y Hình 3.5. Mô hình h c có th y H c không có th y Hình 3.6. Mô hình h c không có th y
13 H c tăng cư ng (Reinforced learning) Hình 3.7. Mô hình h c tăng cư ng 3.3. M T S MÔ HÌNH M NG NEURAL 3.3.1. M ng truy n th ng m t l p 3.3.1.1. M ng m t l p Hình 3.8. C u trúc m ng neural 1 l p 3.3.1.2. M ng Perceptron m t l p Hình 3.9. M ng perceptron m t l p
14 3.3.1.3. Lu t h c h i Perceptron Trong lu t h c h i perceptron, tín hi u h c h i là s khác nhau gi a ñáp ng ngõ ra mong mu n và ngõ ra th c. 3.3.1.4. Adaline M ng v i các neural có quan h vào ra là tuy n tính g i là Adaline (Adaptive Linear Element). 3.3.2. M ng truy n th ng nhi u l p 3.3.2.1. Thu t toán lan truy n ngư c Hình 3.10. M ng lan truy n ngư c Bư c 0 (kh i ñ ng) Ch n η >0 và Emax (sai s t i ña) kh i ñ ng tr ng s v i nh ng giá tr ng u nhiên ñ nh cho E = 0 và k = 1. Bư c 1 (l p vòng hu n luy n): Đưa m u nh p th i vào ngõ vào (q = 1). Bư c 2 (lan truy n ti n): Lan truy n ti n tín hi u qua m ng s d ng. q yi = a ( q neti ) a ∑ q w ij q −1 yi (3.7) Bư c 3 (ño sai s ngõ ra): Tính giá tr sai s và tín hi u sai s c a l p ra:
15 E= 1 n (( ∑ d i − Q yi 2 i =1 (k ) ) 2 +E ) (3.8) Q ( ) ( δi = d i − Q y i .q ' Q net i (k) ) (3.9) Bư c 4 (lan truy n ngư c sai s ): Lan truy n ngư c sai s ñ c p nh t các tr ng s và tính tín hi u sai s q-1 δi cho các l p trư c. q −1 ∆ wij = η δ i = wij + ∆q wij q q q new old y i và wij (3.10) Bư c 5: Ki m tra xem t p h p hu n luy n ñã l p ñ m t vòng chưa. N u k < p thì k = k + 1 và nh y ñ n bư c 1, ngư c l i nh y ñ n bư c 6. Bư c 6: Ki m tra sai s t ng: Ki m tra sai s t ng hi n t i ch p nh n ñư c không. N u E < Emax thì k t thúc quá trình hu n luy n và xu t các tr ng s cu i cùng, ngư c l i E = 0, k = 1 và nh y ñ n bư c 1 ñ l p l i chu kỳ m i. K t thúc. 3.3.2.2. Các h s h c h i c a m ng lan truy n ngư c H ng s h c h i Hàm sai s Đ ng lư ng (Momentary) Lu t c p nh t D li u hu n luy n và s t ng quát hóa 3.3.2.3. M t s bi n th c a thu t toán lan truy n ngư c S d ng tham s bư c ñà (Momentum) S d ng h s h c bi n ñ i S d ng phương pháp Gradient k t h p 3.3.3. M ng h i qui (Recurrent/feedback neural networks) 3.3.3.1. M ng h i ti p ñơn l p (Single-layer feedback networks) 3.3.3.2. M ng h i qui lan truy n ngư c (Recurrent back - propagation networks - RBP)
16 3.3.4. Nh n xét Như c ñi m l n nh t c a thu t toán lan truy n ngư c truy n th ng ñó là b nh hư ng r t l n c a gradient ñ a phương, không c n thi t ph i ñi ñư ng th ng, khi ñó thu t toán lan truy n ngư c s th c hi n m t bư c theo hư ng mà gradient l n nh t, vư t qua vùng lõm. M t khi phát hi n các c nh khác c a vùng lõm, nó s ch y theo ñư ng zic z c ti n, lùi t o ra các bư c nh t i ñích. Đư ng này s l n g p hàng nghìn l n so v i ñư ng ng n nh t, và do ñó, th i gian h c cũng s l n r t nhi u l n. Thu t toán lan truy n ngư c chu n có th ñư c tăng cư ng b ng cách thêm tham s bư c ñà (momentum) vào phương trình. 3.4. CÁC THU T TOÁN T I ƯU KHÁC C c tr ñ a phương có th x y ra trong trư ng h p m ng không ñư c hu n luy n m t cách t i ưu, trong nhi u trư ng h p, các c c tr này là ch p nh n ñư c. N u ngư c l i, m ng c n ñư c hu n luy n l i cho ñ n khi hi u năng t t nh t có th ñư c tìm ra. M c dù v y, có các k thu t ñã ñư c thi t k nh m làm tăng hi u qu quá trình h c c a m ng, trong ñó bao g m Thu t toán gi luy n kim ho c thu t gi i di truy n. Các phương pháp này có th giúp vư t qua ñư c c c tr ñ a phương ñã ñư c ng d ng thành công trong m t s v n ñ . 3.4.1. Thu t toán gi luy n kim (Simulated annealing) 3.4.2. Thu t gi i di truy n (Genetic Algorithm) CHƯƠNG 4 - TH C HI N NH N D NG VÂN TAY DÙNG M NG NEURAL 4.1 Ý TƯ NG Lưu L ym u Trích Hu n m ng vân tay ch n các luy n neural ñã c n hu n Ti n x lý ñi m ñ c m ng hu n luy n trưng neural luy n
17 Đ i sánh L ym u Trích m ng K t qu vân tay ch n các Ti n x lý neural ñã ñ i sánh c n hu n ñi m ñ c hu n luy n trưng luy n Hình 4.1. Lưu ñ th c hi n Xây d ng t p m u ngõ vào Ngõ vào c a m ng là v trí c a các ñi m ñ c trưng. Đ xác ñ nh v trí c a m t ñi m ta c n có m t ñi m g c “tương ñ i” c ñ nh. ñây, tôi ch n ñi m core làm g c, b i vì ñi m core luôn t n t i và tương ñ i c ñ nh trong nh vân tay. Vi c ñ i sánh b ng m ng neural có m t như c ñi m ñó là th t các ñi m ñ c trưng khi ñưa vào m ng ph i chính xác, ch c n sai l ch m t v trí s làm sai toàn b m ng. Đ làm t t ñi u này, tôi ñ ngh m t phương pháp ñó là: không ñưa tr c ti p v trí c a các ñi m minutiae vào m ng mà s d ng v trí trung bình c ng c a các ñi m minutiae. C th như sau: Ch n ñi m core làm g c t a ñ , d a vào ñi m core tôi chia m t ph ng nh thành tám ph n gi ng nhau. Trong m i ph n c a m t ph ng nh ta tìm v trí trung bình các ñi m minutiae trong ph n ñó. Tám v trí trung bình c a các ñi m minutiae tám ph n c a m t ph ng nh s ñư c ñưa vào 16 ngõ vào c a m ng (s d ng t a ñ decac). L a ch n m ng Vì các m ng có hơn hai l p n có th th hi n các hàm v i dáng ñi u b t kỳ, nên v m t lý thuy t, không s d ng các m ng có nhi u hơn hai l p n. Ngư i ta ñã xác ñ nh r ng ñ i v i ph n l n các bài toán c th , ch c n s d ng m t ho c hai l p n cho m ng là ñ . Các bài
18 toán s d ng hơn hai l p n hi m khi x y ra trong th c t . Vi c hu n luy n m ng thư ng r t ch m khi mà s l p n s d ng càng nhi u. Theo các lý lu n như v y, tôi ch n th nghi m trên m ng Perceptron m t l p và hai l p v i m t ngõ ra, m i m ng tương ng v i m t m u, s dĩ ch n như v y là vì vi c so m t m u qua các m ng ñơn gi n và nhanh hơn th i gian hu n luy n m t m ng l n. Hình 4.2: Mô hình m ng Perceptron m t l p Thu t toán hu n luy n m t l p Bư c 1: T o W(0), ch n h ng s h c η Bư c 2: Lan truy n thu n Tính: Y(k) = net(k) = WT.X(k) Bư c 3: Lan truy n ngư c ∂a ( net ( k ) ) Tính: W (k +1) = W (k) + η[D(k) −Y (k)] ∂net ( k ) V i a(.) là hàm kích ho t. Bư c 4: L p l i bư c 3 K l n (cho m t epoch), K là s m u d li u vào. Bư c 5: Tính J (K )= 1/2*[D(K ) −Y (K )]2 Bư c 6: Ki m tra n u J(K) ñ bé k t thúc (lưu W), n u chưa: