Luận văn Thạc sĩ Khoa học máy tính: Mạng Hopfield và ứng dụng trong nhận dạng hình ảnh

Chia sẻ: _ _ | Ngày: | Loại File: PDF | Số trang:65

Thêm vào BST

Báo xấu

29
lượt xem 4
download

Download Vui lòng tải xuống để xem tài liệu đầy đủ

Bố cục của luận văn được chia thành 3 chương: Chương 1 - Một số kiến thức cơ bản về nhận dạng ảnh; Chương 2 - Cơ sở lý thuyết về mạng Neural; Chương 3 - Ứng dụng mạng Hopfield trong bài toán nhận dạng hình ảnh. Mời các bạn cùng tham khảo!

Chủ đề:

Bình luận(0) Đăng nhập để gửi bình luận!

Lưu

Nội dung Text: Luận văn Thạc sĩ Khoa học máy tính: Mạng Hopfield và ứng dụng trong nhận dạng hình ảnh

ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC CÔNG NGHỆ THÔNG TIN VÀ TRUYỀN THÔNG HOÀNG CHÍ THÀNH MẠNG HOPFIELD VÀ ỨNG DỤNG TRONG NHẬN DẠNG HÌNH ẢNH LUẬN VĂN THẠC SĨ KHOA HỌC MÁY TÍNH THÁI NGUYÊN - 2016 Số hóa bởi Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn
ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC CÔNG NGHỆ THÔNG TIN VÀ TRUYỀN THÔNG HOÀNG CHÍ THÀNH MẠNG HOPFIELD VÀ ỨNG DỤNG TRONG NHẬN DẠNG HÌNH ẢNH Chuyên ngành: Khoa học máy tính Mã số: 60 48 01 01 LUẬN VĂN THẠC SĨ KHOA HỌC MÁY TÍNH Người hướng dẫn khoa học: TS. Vũ Vinh Quang THÁI NGUYÊN - 2016 Số hóa bởi Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn
i LỜI CẢM ƠN Xin chân thành cảm ơn Thầy TS. Vũ Vinh Quang đã tận tình chỉ dạy, hướng dẫn tôi trong suốt thời gian học tập và làm luận văn. Tôi cũng xin biết ơn chân thành đến các Thầy giáo Viện Công nghệ Thông tin đã giảng dạy, giúp đỡ trong suốt thời gian học tập. Xin cảm ơn tất cả các anh chị em học viên Cao học khóa 13, cảm ơn các cán bộ công chức, giảng viên Trường đại học Công nghệ Thông tin và Truyền thông - Đại học Thái Nguyên đã tạo điều kiện tốt cho tôi trong suốt hai năm học đã qua. Xin cảm ơn các bạn bè, đồng nghiệp đã chỉ bảo tôi rất nhiều trong thời gian thực hiện luận văn này. Cuối cùng, xin chân thành cảm ơn các thành viên trong gia đình đã động viên và tạo mọi điều kiện thuận lợi để tôi có được kết quả như ngày hôm nay. Thái Nguyên, tháng 06 năm 2016. Người viết luận văn Hoàng Chí Thành Số hóa bởi Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn
ii LỜI CAM ĐOAN Tên tôi là: Hoàng Chí Thành Sinh ngày: 14/10/1979 Học viên lớp cao học CK13A - Trường Đại học Công nghệ thông tin và Truyền thông - Đại học Thái Nguyên. Hiện đang công tác tại: Trường THPT Ngọc Hà - TP Hà Giang - Hà Giang. Tôi xin cam đoan đề tài luận văn “Mạng Hopfield và ứng dụng trong nhận dạng hình ảnh” là công trình nghiên cứu của bản thân tôi. Các số liệu, kết quả nghiên cứu trong luận văn này là trung thực và chưa từng được ai công bố trong một công trình nào khác. Tôi xin chịu trách nhiệm về luận văn của mình. Thái Nguyên, ngày 25 tháng 6 năm 2016 TÁC GIẢ LUẬN VĂN Hoàng Chí Thành Số hóa bởi Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn
iii MỤC LỤC LỜI CẢM ƠN .................................................................................................... i LỜI CAM ĐOAN ............................................................................................. ii DANH MỤC CÁC BIỂU ĐỒ, HÌNH VẼ ........................................................ v LỜI MỞ ĐẦU ................................................................................................... 1 CHƯƠNG I MỘT SỐ KIẾN THỨC CƠ BẢN VỀ NHẬN DẠNG ẢNH ....... 3 1.1 Không gian biểu diễn đối tượng.............................................................. 3 1.2 Không gian diễn dịch. ............................................................................. 4 1.3 Mô hình và bản chất quá trình nhận dạng. .............................................. 4 1.3.1 Mô hình. ................................................................................................................. 4 1.3.2 Bản chất của quá trình nhận dạng....................................................................... 6 1.4 Nhận dạng ảnh......................................................................................... 8 1.4.1 Nhận dạng dựa trên phân hoạch không gian. ................................................... 9 1.4.2 Nhận dạng dựa theo cấu trúc.............................................................................10 1.4.3 Nhận dạng dựa vào kỹ thuật mạng neural.......................................................12 CHƯƠNG II CƠ SỞ LÝ THUYẾT VỀ MẠNG NEURAL ........................... 13 2.1 Giới thiệu chung về mạng Neural. ........................................................ 13 2.1.1 Quá trình phát triển ............................................................................................13 2.1.2 Cấu trúc mạng neural nhân tạo. .......................................................................15 2.1.3 Cấu trúc mạng Neural sinh học . ......................................................................16 2.2 Khái niệm cơ bản. ................................................................................. 20 2.2.1 Neural nhân tạo và mạng Neural nhân tạo......................................................20 2.2.2 Khái niệm mạng Hopfield. ...............................................................................24 2.3 Phân loại mạng Hopfield...................................................................... 25 2.4 Mạng Hopfield rời rạc. .......................................................................... 28 2.5 Mạng Hopfield liên tục. .......................................................................................29 2.6 Một số đặc điểm của mạng Hopfield. ................................................... 32 2.7 Một số ứng dụng của mạng Hopfield.................................................... 32 Số hóa bởi Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn
iv 2.8 Khả năng nhớ mẫu của mạng Hopfield ................................................ 32 2.9 Ưu, nhược điểm của mạng Hopfield. .................................................... 34 2.9.1 Ưu điểm của mạng Hopfield.............................................................................34 2.9.2 Nhược điểm của mạng Hopfield. .....................................................................34 CHƯƠNG 3 ỨNG DỤNG MẠNG HOPFIELDTRONG BÀI TOÁN NHẬN DẠNG HÌNH ẢNH......................................................................................... 35 3.1 Mô tả hệ thống nhận dạng dựa trên mạng Hopfield. ............................ 35 3.1.1 Mạng Hopfield với bài toán tối ưu ..................................................................35 3.1.2 Các bước thành lập mạng Hopfield: ................................................................36 3.2 Mạng Hopfield với bài toán nhận dạng hình ảnh. ................................ 37 3.2.1 Bài toán về nhận dạng hình ảnh........................................................................37 3.2.2 Mạng Hopfield trong nhận dạng hình ảnh. .....................................................37 3.2.3 Huấn luyện mạng Hopfield. .............................................................................39 3.2.4 Thuật toán mạng Neural Hopfield trong bài toán nhận dạng hình ảnh. ....40 3.3 Ứng dụng mạng Hopfield trong nhận dạng ảnh.................................... 41 3.4 Đánh giá kết quả nghiên cứu ứng dụng mạng Hopfield trong nhận dạng ảnh. ..................................................................................................... 49 3.4.1 Mục tiêu của chương trình.................................................................................49 3.4.2. Demo và hình ảnh..............................................................................................50 3.4.3 Đánh giá kết quả..................................................................................................55 KẾT LUẬN VÀ HƯỚNG PHÁT TRIỂN ...................................................... 56 TÀI LIỆU THAM KHẢO ............................................................................... 57 Số hóa bởi Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn
v DANH MỤC CÁC BIỂU ĐỒ, HÌNH VẼ Hình 1.1 Mô hình cấu trúc của đối tượng nhà. ................................................. 6 Hình 1.2 Sơ đồ tổng quát một hệ nhận dạng. .................................................... 8 Hình 2.1 Cấu trúc mạng neural. ...................................................................... 15 Hình 2.2 Mô hình tế bào thần kinh. ................................................................ 19 Hình 2.3 Mô hình xử lý của một neural nhân tạo. .......................................... 21 Hình 2.4 Mạng Hopfield ................................................................................. 26 Hình 2.5 Đồ thị hàm satlins............................................................................. 26 Hình 2.6 Mô hình mạng Hopfield. ................................................................. 30 Hình 2.7 Thí nghiệm mạng với ảnh nhiễu. ..................................................... 33 Hình 3.1: Mạng Hopfield một lớp với 16 neural vào và 16 neural ra. ........... 41 Hình 3.2 Thí nghiệm mạng với ảnh nhiễu. ..................................................... 49 Số hóa bởi Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn
1 LỜI MỞ ĐẦU Kỹ thuật nhận dạng hiện nay đã và đang được nhiều người quan tâm hiện nay, đặc biệt trong anh ninh quốc phòng: như nhận dạng hình ảnh, nhận dạng mẫu tóc, nhận dạng vân tay,… là một ngành khoa học có rất nhiều ứng dụng trong khoa học kỹ thuật, tin học, sinh học và cả trong lĩnh vực an ninh quốc gia. Nó là một bộ phận quan trọng trong các hệ thống thông minh; được sử dụng trong việc dò tìm, xử lý số liệu và hỗ trợ ra quyết định, … Nói một cách tổng quát thì nhận dạng là một bộ môn khoa học có liên quan một cách hữu cơ đến việc phân lớp, tính toán các độ đo. Trong lý thuyết nhận dạng nói chung và nhận dạng ảnh nói riêng có ba cách tiếp cận khác nhau: - Nhận dạng dựa vào phân hoạch không gian. - Nhận dạng theo cấu trúc. - Nhận dạng dựa vào kỹ thuật mạng neural. Hai cách tiếp cận đầu là các kỹ thuật kinh điển. Các đối tượng ảnh quan sát và thu nhận được phải trải qua giai đoạn tiền xử lý nhằm tăng cường chất lượng, làm nổi các chi tiết, tiếp theo là trích chọn và biểu diễn các đặc trưng, và cuối cùng mới qua giai đoạn nhận dạng. Cách tiếp cận thứ ba hoàn toàn khác. Nó dựa vào cơ chế đoán nhận, lưu trữ và phân biệt đối tượng mô phỏng theo hoạt động của hệ thần kinh con người. Do cơ chế đặc biệt, các đối tượng thu nhận bởi thị giác người không cần qua giai đoạn cải thiện mà chuyển ngay sang giai đoạn tổng hợp, đối sánh với các mẫu đã lưu trữ để nhận dạng. Đây là cách tiếp cận có nhiều hứa hẹn. Trong các mạng Neural thì mạng Hopfield thường được sử dụng trong lý thuyết nhận dạng do những ưu điểm riêng biệt cấu trúc mạng này. Hướng nghiên cứu mạng Hopfield sử dụng trong nhận dạng ảnh nói chung là một hướng phù hợp với chuyên ngành khoa học máy tính và có ứng dụng cao. Số hóa bởi Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn
2 Đối tượng -Mạng Hopfield. -Lý thuyết nhận dạng. -Ứng dụng cài đặt bài toán nhận dạng. Phạm vi nghiên cứu - Lý thuyết cơ bản về Bài toán nhận dạng ảnh. - Cấu trúc của mạng Hopfield. - Một số thuật toán học trên mạng Hopfield. Nội dung nghiên cứu chính của luận văn được trình bày trong ba chương như sau: Chương 1: Một số kiến thức cơ bản về nhận dạng ảnh. Chương 2: Cơ sở lý thuyết về mạng Neural. Chương 3: Ứng dụng mạng Hopfield trong bài toán nhận dạng hình ảnh. Số hóa bởi Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn
3 CHƯƠNG 1 MỘT SỐ KIẾN THỨC CƠ BẢN VỀ NHẬN DẠNG ẢNH Nhận dạng nói chung hay nhận dạng ảnh nói riêng là quá trình phân loại các đối tượng được biểu diễn theo một mô hình nào đó và gán cho chúng vào một lớp (gán cho đối tượng một tên gọi) dựa theo những quy luật và các mẫu chuẩn. Con người thu nhận thông tin qua các giác quan, trong đó thị giác đóng vai trò quan trọng nhất. Những năm trở lại đây với sự phát triển của phần cứng máy tính, xử lý ảnh và đồ họa phát triển một cách mạnh mẽ và có nhiều ứng dụng trong cuộc sống. Quá trình xử lý ảnh được xem như là quá trình thao tác ảnh đầu vào nhằm cho ra kết quả mong muốn. Kết quả đầu ra của một quá trình xử lý ảnh có thể là một ảnh “tốt hơn” hoặc một kết luận. Quá trình nhận dạng dựa vào những mẫu học biết trước gọi là nhận dạng có thầy hay học có thầy (supervised learning); trong trường hợp ngược lại gọi là học không có thầy (non supervised learning). Chúng ta sẽ lần lượt giới thiệu các khái niệm này. Các kiến thức dưới đây được tham khảo từ [1], [2], [3]. 1.1 Không gian biểu diễn đối tượng. Các đối tượng khi quan sát hay thu thập được, thường được biểu diễn bởi tập các đặc trưng hay đặc tính. Như trong trường hợp xử lý ảnh, ảnh sau khi được tăng cường để nâng cao chất lượng, phân vùng và trích chọn đặc tính, được biểu diễn bởi các đặc trưng như biên, miền đồng nhất, ... Người ta thường phân các đặc trưng này theo các loại như: đặc trưng tô pô, đặc trưng hình học và đặc trưng chức năng. Việc biểu diễn ảnh theo đặc trưng nào là phụ thuộc vào ứng dụng tiếp theo. Ở đây ta đưa ra một cách hình thức việc biểu diễn các đối tượng. Giả sử đối tượng X (ảnh, chữ viết, dấu vân tay, ...) được biểu diễn bởi n thành phần (n đặc trưng): X = {x1, x2,..., xn}; mỗi xi biểu diễn một đặc tính. Không gian biểu diễn đối tượng thường gọi tắt là không gian đối tượng X được định nghĩa: Số hóa bởi Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn
4 X = {X1, X2,..., Xm} trong đó mỗi Xi biểu diễn một đối tượng. Không gian này có thể là vô hạn. Để tiện xem xét chúng ta chỉ xét tập X là hữu hạn. 1.2 Không gian diễn dịch. Không gian diễn dịch là tập các tên gọi của đối tượng. Kết thúc quá trình nhận dạng ta xác định được tên gọi cho các đối tượng trong tập không gian đối tượng hay nói là đã nhận dạng được đối tượng. Một cách hình thức gọi  là tập tên đối tượng: = {w1, w2,...,wk} với wi, i = 1, 2,..., k là tên các đối tượng. Quá trình nhận dạng đối tượng f là một ánh xạ f: X ---> với f là tập các quy luật để định một phần tử trong X ứng với một phần tử trong . Nếu tập các quy luật và tập tên các đối tượng là biết trước như trong nhận dạng chữ viết (có 26 lớp từ A đến Z), người ta gọi là nhận dạng có thầy. Trường hợp thứ hai là nhận dạng không có thầy. Đương nhiên trong trường hợp này việc nhận dạng có khó khăn hơn. 1.3 Mô hình và bản chất quá trình nhận dạng. 1.3.1 Mô hình. Việc chọn lựa một quá trình nhận dạng có liên quan mật thiết đến kiểu mô tả mà người ta sử dụng để đặc tả đối tượng. Trong nhận dạng, người ta phân chia làm hai họ lớn: - Họ mô tả theo tham số. - Họ mô tả theo cấu trúc. Cách mô tả được lựa chọn sẽ xác định mô hình của đối tượng. Như vậy, chúng ta sẽ có 2 loại mô hình: mô hình theo tham số và mô hình cấu trúc.  Mô hình tham số: Sử dụng một véc tơ để đặc tả đối tượng. Mỗi phần tử của véc tơ mô tả một đặc tính của đối tượng. Thí dụ như trong các đặc trưng chức năng, người Số hóa bởi Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn
5 ta sử dụng các hàm cơ sở trực giao để biểu diễn. Và như vậy ảnh sẽ được biểu diễn bởi một chuỗi các hàm trực giao. Giả sử C là đường bao của ảnh và C(i,j) là điểm thứ i trên đường bao, i = 1, 2,..., N (đường bao gồm N điểm). Giả sử tiếp: N 1 x0 = N  i 1 xi N 1 y0 = N  i 1 yi là toạ độ tâm điểm. Như vậy, moment trung tâm bậc p, q của đường bao là: N 1 pq= N  i 1 (xi-x0)p(yi-y0)q (1.1) Véc tơ tham số trong trường hợp này chính là các moment ij với i=1, 2, ..., p và j = 1, 2, ..., q. Còn trong số các đặc trưng hình học, người ta hay sử dụng chu tuyến, đường bao, diện tích và tỉ lệ T = 4S/p2, với S là diện tích, p là chu tuyến. Việc lựa chọn phương pháp biểu diễn sẽ làm đơn giản cách xây dựng. Tuy nhiên, việc lựa chọn đặc trưng nào là hoàn toàn phụ thuộc vào ứng dụng.  Mô hình cấu trúc: Cách tiếp cận của mô hình này dựa vào việc mô tả đối tượng nhờ một số khái niệm biểu thị các đối tượng cơ sở trong ngôn ngữ tự nhiên. Để mô tả đối tượng, người ta dùng một số dạng nguyên thuỷ như đoạn thẳng, cung, ... Chẳng hạn một hình chữ nhật được định nghĩa gồm 4 đoạn thẳng vuông góc với nhau từng đôi một. Trong mô hình này người ta sử dụng một bộ kí hiệu kết thúc Vt, một bộ kí hiệu không kết thúc gọi là Vn. Ngoài ra có dùng một tập các luật sản xuất để mô tả cách xây dựng các đối tượng phù hợp dựa trên các đối Số hóa bởi Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn
6 tượng đơn giản hơn hoặc đối tượng nguyên thuỷ (tập Vt). Trong cách tiếp cận này, ta chấp nhận một khẳng định là: cấu trúc một dạng là kết quả của việc áp dụng luật sản xuất theo những nguyên tắc xác định bắt đầu từ một dạng gốc ban đầu. Một cách hình thức, ta có thể coi mô hình này tương đương một văn phạm G = (Vt, Vn, P, S) với: - Vt là bộ ký hiệu kết thúc. - Vn là bộ ký hiệu không kết thúc. - P là luật sản xuất. - S là dạng (ký hiệu bắt đầu). Thí dụ: đối tượng nhà gồm mái và tường, mái là một tam giác gồm 3 cạnh là 3 đoạn thẳng, tường là một hình chữ nhật gồm 4 cạnh vuông góc với nhau từng đôi một sẽ được mô tả thông qua cấu trúc mô tả dựa vào văn phạm sinh như chỉ trong hình dưới đây: Hình 1.1 Mô hình cấu trúc của đối tượng nhà. 1.3.2 Bản chất của quá trình nhận dạng. Quá trình nhận dạng gồm 3 giai đoạn chính: - Lựa chọn mô hình biểu diễn đối tượng. - Lựa chọn luật ra quyết định (phương pháp nhận dạng) và suy diễn quá trình học. - Học nhận dạng. Số hóa bởi Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn
7 Khi mô hình biểu diễn đối tượng đã được xác định, có thể là định lượng (mô hình tham số) hay định tính (mô hình cấu trúc), quá trình nhận dạng chuyển sang giai đoạn học. Học là giai đoạn rất quan trọng. Thao tác học nhằm cải thiện, điều chỉnh việc phân hoạch tập đối tượng thành các lớp. Việc nhận dạng chính là tìm ra quy luật và các thuật toán để có thể gán đối tượng vào một lớp hay nói một cách khác gán cho đối tượng một tên.  Học có thầy (supervised learning) Kỹ thuật phân loại nhờ kiến thức biết trước gọi là học có thầy. Đặc điểm cơ bản của kỹ thuật này là người ta có một thư viện các mẫu chuẩn. Mẫu cần nhận dạng sẽ được đem so sánh với mẫu chuẩn để xem nó thuộc loại nào. Thí dụ như trong một ảnh viễn thám, người ta muốn phân biệt một cánh đồng lúa, một cánh rừng hay một vùng đất hoang mà đã có các miêu tả về các đối tượng đó. Vấn đề chủ yếu là thiết kế một hệ thống để có thể đối sánh đối tượng trong ảnh với mẫu chuẩn và quyết định gán cho chúng vào một lớp. Việc đối sánh nhờ vào các thủ tục ra quyết định dựa trên một công cụ gọi là hàm phân lớp hay hàm ra quyết định.  Học không có thầy (non supervised learning) Kỹ thuật học này phải tự định ra các lớp khác nhau và xác định các tham số đặc trưng cho từng lớp. Học không có thầy đương nhiên là khó khăn hơn. Một mặt, do số lớp không được biết trước, mặt khác những đặc trưng của các lớp cũng không biết trước. Kỹ thuật này nhằm tiến hành mọi cách gộp nhóm có thể và chọn lựa cách tốt nhất. Bắt đầu từ tập dữ liệu, nhiều thủ tục xử lý khác nhau nhằm phân lớp và nâng cấp dần để đạt được một phương án phân loại. Số hóa bởi Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn
8 Nhìn chung, dù là mô hình nào và kỹ thuật nhận dạng ra sao, một hệ thống nhận dạng có thể tóm tắt theo sơ đồ sau: Trích chọn đặc điểm Phân lớp ra Trả lời biểu diễn đối tượng Đánh giá quyết định Quá trình tiền Khối nhận dạng xử lý Hình 1.2 Sơ đồ tổng quát một hệ nhận dạng. 1.4 Nhận dạng ảnh. Nhận dạng ảnh là giai đoạn cuối của các hệ thống xử lý ảnh. Nhận dạng dựa trên lý thuyết nhận dạng (Pattern Recognition) đã được đề cập trong nhiều sách về nhận dạng. Trong lý thuyết nhận dạng nói chung và nhận dạng ảnh nói riêng có ba cách tiếp cận khác nhau: - Nhận dạng dựa vào phân hoạch không gian. - Nhận dạng dựa vào cấu trúc. - Nhận dạng dựa vào kỹ thuật mạng neural. Nhận dạng ảnh là quá trình phân loại các đối tượng ảnh được biểu diễn theo một mô hình nào đó và gán cho chúng một tên (gán cho một đối tượng một tên gọi, tức là một dạng) Nhận dạng ảnh là quá trình liên quan đến các mô tả đối tượng mà người ta muốn đặc tả nó. Quá trình nhận dạng thường đi sau quá trình trích chọn các đặc tính chủ yếu của đối tượng. Có hai kiểu mô tả đối tượng: - Mô tả tham số (nhận dạng theo tham số). - Mô tả theo cấu trúc (nhận dạng theo cấu trúc). Số hóa bởi Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn
9 Trên thực tế, người ta đã áp dụng kỹ thuật nhận dạng khá thành công với nhiều đối tượng khác nhau như: nhận dạng ảnh vân tay, ảnh khuôn mặt, nhận dạng chữ (chữ cái, chữ số, chữ có dấu). Nhận dạng chữ in hoặc đánh máy phục vụ cho việc tự động hoá quá trình đọc tài liệu, tăng nhanh tốc độ và chất lượng thu nhận thông tin từ máy tính. Nhận dạng chữ viết tay (với mức độ ràng buộc khác nhau về cách viết, kiểu chữ, ...) phục vụ cho nhiều lĩnh vực. Ví dụ: Bạn đang có trong tay một số tài liệu giấy như sách, báo, tờ rơi quảng cáo, hợp đồng, …, máy quét chỉ có thể giúp bạn biến những tài liệu giấy này thành tài liệu dạng ảnh. Với các tài liệu dạng ảnh, bạn chỉ có thể đọc mà không thể biên tập lại chúng trên các hệ soạn thảo điện tử hiện nay; các hệ thống tìm kiếm cũng không thể tìm được các đoạn văn bản trên những tài liệu này. Với chương trình nhận dạng sẽ giúp ta nhận dạng các tài liệu đó dưới dạng file ảnh, rồi từ đó biên dịch nó sang các định dạng như: .doc, .text, … 1.4.1 Nhận dạng dựa trên phân hoạch không gian. Trong kỹ thuật này các đối tượng nhận dạng là các đối tượng định lượng. Mỗi đối tượng được biểu diễn bởi một véctơ nhiều chiều. Trước tiên ta xem xét một số khái niệm như: phân hoạch không gian, hàm phân biệt sau đó đi vào một số kỹ thuật cụ thể.  Phân hoạch không gian: Giả sử không gian đối tượng X được định nghĩa: X = {Xi, i=1, 2, …,m}, Xi là một véctơ. Người ta nói p là một phân hoạch không gian X thành các lớp Ci, Ci⊂ X nếu: Ci Cj  ví i i  j vµ Ci  X Nói chung đây là trường hợp lý tưởng: tập X tách được hoàn toàn. Trong thực tế, thường gặp không gian biểu diễn tách được từng phần. Như vậy phân Số hóa bởi Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn
10 loại là dựa vào việc xây dựng một ánh xạ f: X ---> p. Công cụ xây dựng ánh xạ này là các hàm phân biệt (Descriminant functions).  Hàm phân lớp Để chia đối tượng thành các lớp, cần xác định số lớp và ranh giới giữa các lớp đó. Gọi {gi} là lớp các hàm phân lớp hay hàm tách biệt. Lớp hàm này được định nghĩa như sau: Nếu ∀i ≠k, gk (X) > gi (X) thì ra quyết định X ∈lớp k. Như vậy để phân biệt k lớp ta cần k-1hàm phân biệt. Hàm phân biệt g(.) của một lớp nào đó thường được dùng trong thực tế do tính đơn giản, dễ xử lý là hàm tuyến tính. Hàm tuyến tính có dạng: g(X) = W0 + W1X1 + W2X2 + … + WkXk trong đó: -Wi là trọng số gán cho các thành phần Xi; - W0 là trọng số hằng. • Phân lớp dựa theo khoảng cách (Distance) làmột công cụ tốt đểxác định đối tượng có “gần nhau” về một đặc trưng nào đó hay không. Nếu khoảng cách nhỏ hơn một ngưỡng nào đấy thì ta coi hai đối tượng là giống nhau. Nếu chúng giống nhau ta gộp gộp chúng, nếu chúng khác nhau và ta tách thành hai hoặc nhiều lớp phân biệt. • Phân lớp dựa theo xác suất có điều kiện (Conditional Probability). Trong một số trường hợp, người ta dựa vào xác suất có điều kiện để phân lớp cho đối tượng. Lý thuyết xác suất có điều kiện được Bayes nghiên cứu khákỹ lưỡng và được dùng để phân biệt đối tượng. 1.4.2 Nhận dạng dựa theo cấu trúc. Ngoài cách biểu diễn định lượng (theo tham số) như đã mô tả ở trên, tồn tại nhiều kiểu đối tượng mạng tính định tính (theo cấu trúc). Phương pháp nhận Số hóa bởi Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn
11 dạng ở đây là nhận dạng logic, dựa vào hàm phân biệt là hàm Bool. Cách nhận dạng là nhận dạng các từ có cùng độ dài. Giả sử hàm phân biệt cho mọi ký hiệu là: ga(X), gb(X),… tương ứng với các ký hiệu a, b,…Để dễ dàng hình dung, ta giả sử có từ ‘abcd’ được biểu diễn bởi một dãy ký tự X  x1, x2, x3, x4 , khi đó hàm phân biệt tương ứng nhận được là: ga  x1 +gb  x2 +gc  x3 +gd  x4 Thủ tục phân loại và nhận dạng ở đây gồm hai giai đoạn: - Giai đoạn 1: xác định các quy tắc xây dựng, tương đương với việc nghiên cứu một văn phạm trong một ngôn ngữ chính thống. - Giai đoạn 2: xem xét tập các dạng trong không gian mẫu có được sinh ra hoàn toàn từcác dạng cơ bản đó không. Nếu nó thuộc tập đó thì coi như đã phân loại xong. Các đối tượng cần được nhận dạng theo phương pháp này được biểu diễn bởi một câu trong ngôn ngữ, gọi là L(G). Khi đó thao tác phân lớp chính là xem xét một đối tượng có thuộc văn phạm L(G) không. Nói cách khác, nó có được sinh ra bởi các luật của văn phạm G hay không. Như vậy các bước cần phải thực hiện là: + Xác định tập V1 chung cho tất cảmọi đối tượng. + Xác định các quy tắc P để sản sinh ra một câu và chúng khác nhau đối với mỗi lớp. + Thực hiện quá trình học với các câu biểu diễn các đối tượng mẫu l nhằm xác định văn phạm G. + Ra quyết định: xác định một đối tượng X được biểu diễn bởi một câu lx. Nếu lx nhận biết bởi L(Gk) thì ta nói rằng X là một đối tượng thuộc loại Ck. Số hóa bởi Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn
12 1.4.3 Nhận dạng dựa vào kỹ thuật mạng neural. Là kỹ thuật tái tạo mạng neural thần kinh của con người bằng máy tính. Nó bao gồm các phần tử đơn giản (còn gọi là neural) hoạt động song song được nối với nhau bằng các liên kết có trọng số để kích thích hoặc ức chế giữa các neural. Có nhiều cấu trúc mạng neural khác nhau như: mạng neural sinh học, mạng neural nhân tạo, mạng neural hồi quy, mạng neural hồi quy một lớp, mạng neural một lớp,… Trước tiên, cần xem xét một số khái niệm cơ bản về bộ não cũng như cơ chế hoạt động của mạng neural sinh học. Số hóa bởi Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn
13 CHƯƠNG 2 CƠ SỞ LÝ THUYẾT VỀ MẠNG NEURAL Mạng Neuron nhân tạo (Artificial Neural Network- ANN) là mô hình xử lý thông tin được mô phỏng dựa trên hoạt động của hệ thống thần kinh của sinh vật, bao gồm số lượng lớn các Neural được gắn kết để xử lý thông tin. ANN giống như bộ não con người, được học bởi kinh nghiệm (thông qua huấn luyện), có khả năng lưu giữ những kinh nghiệm hiểu biết (tri thức) và sử dụng những tri thức đó trong việc dự đoán các dữ liệu chưa biết (unseen data). Các ứng dụng của mạng Neural được sử dụng trong rất nhiều lĩnh vực như điện, điện tử, kinh tế, quân sự,… để giải quyết các bài toán có độ phức tạp và đòi hỏi có độ chính xác cao như điều khiển tự động, khai phá dữ liệu, nhận dạng,… Các kiến thức về mạng neural được tham khảo từ [4], [6], [7]. 2.1 Giới thiệu chung về mạng Neural. 2.1.1 Quá trình phát triển Mạng neural nhân tạo được xây dựng từ những năm 1940 nhằm mô phỏng một số chức năng của bộ não người. Dựa trên quan điểm cho rằng bộ não người là bộ điều khiển. Mạng neural nhân tạo được thiết kế tương tự như neural sinh học sẽ có khả năng giải quyết hàng loạt các bài toán như tính toán tối ưu, điều khiển, công nghệ robot… Nghiên cứu về mạng neural nhân tạo người ta chia quá trình phát triển của nó làm bốn giai đoạn cơ bản sau: + Giai đoạn một: Là sự khởi nguồn của mạng neural, nó bắt đầu bằng nghiên cứu của William 1890 về tâm lý với sự liên kết các neural thần kinh. Cho đến năm 1940 Meculloch và Pitts đã đưa ra: neural có thể được mô hình hóa như là thiết bị ngưỡng (có giới hạn) để thực hiện phép biến đổi logic, tiếp sau đó là sự ra đời mô hình mạng neural của Culloch-Pitts. Đến năm 1943 thì giải thuật huấn luyện mạng đầu tiên của Hebb được công bố. Số hóa bởi Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn