Bài giảng Mạng nơron và ứng dụng trong xử lý tín hiệu: Kết hợp mẫu - Nguyễn Công Phương

Chia sẻ: Năm Tháng Tĩnh Lặng | Ngày: | Loại File: PDF | Số trang:36

Thêm vào BST

Báo xấu

92
lượt xem 6
download

Download Vui lòng tải xuống để xem tài liệu đầy đủ

Bài giảng Mạng nơron và ứng dụng trong xử lý tín hiệu: Kết hợp mẫu trình bày những nội dung sau đây: Các thuật toán huấn luyện, mạng ký ức dị kết, mạng ký ức tự kết, mạng tự kết lặp, mạng ký ức kết hợp lưỡng hướng. Mời các bạn cùng tham khảo để nắm bắt các nội dung chi tiết.

Chủ đề:

Bình luận(0) Đăng nhập để gửi bình luận!

Lưu

Nội dung Text: Bài giảng Mạng nơron và ứng dụng trong xử lý tín hiệu: Kết hợp mẫu - Nguyễn Công Phương

Nguyễn g y Công g Phương g Mạng nơron và ứng dụng trong xử lý tín hiệu Kết hợp mẫu
Nội dung • Giới thiệu • Các mạng nơron đơn giản dùng cho phân loại mẫu • Kết hợp mẫu • Các mạng cạnh tranh • Lý thuyết cộng hưởng thích nghi • Mạng lan truyền ngược • Lô í h mờ Lôgích ờ vàà mạng nơron ơ lô í h mờ lôgích ờ • Một số ứng dụng trong xử lý tín hiệu Kết hợp mẫu 2
Nội dung • Giới thiệu • Các thuật toán huấn luyện • Mạng ký ức dị kết • Mạng ký ức tự kết • Mạng tự kết lặp • Mạng ký ức kết hợp lưỡng hướng Kết hợp mẫu 3
Giới thiệu • Học: thiết lập sự kết hợp giữa các mẫu có liên quan • VD: nhận ra một người • Mạng ký ức: mạng một lớp có khả năng ghi nhớ sự kết hợp của các mẫu • Đồng kết: véctơ được kết hợp giống với véctơ mục đích • Dị kết: véctơ được kết hợp khác với véctơ mục đích • Khả năng ghi nhớ của mạng Kết hợp mẫu 4
Nội dung • Giới thiệu • Các thuật toán huấn luyện • Mạng ký ức dị kết • Mạng ký ức tự kết • Mạng tự kết lặp • Mạng ký ức kết hợp lưỡng hướng Kết hợp mẫu 5
Các thuật toán huấn ấ luyện (1) Bước 1 Khởi tạo tất cả các trọng số wi = 0 (i = 1 tới n) Bước 2 Đặt giá trị cho các nơron đầu vào xi = si Bước 3 Đặt giá trị cho nơron đầu ra yj = tj Bước 4 Chỉnh trọng số wi(mới) = wi(cũ) + xiyj (i = 1 tới n) Bước 5 Lặp lại các bước 2, 3, 4 cho tất cả cặp đầu vào & đầu ra của bộ huấn luyện P P wijj   si ( p )t j ( p ) W   sT ( p ) t ( p ) p1 p1 Kết hợp mẫu 6
Các thuật toán huấn ấ luyện (2) y j   wij xi i wij ( míi )  wij ( cò )   (t j  y j ) xi wij   (t j  y j ) xi Kết hợp mẫu 7
Các thuật toán huấn ấ luyện (3) n y J  f ( y _ vaoJ ); y _ vaoJ   wiJ xi i 1 i m e   (t j  y j ) 2 j1 e y _ vaoJ  2(t J  y J )  2(t J  y J ) xI f '(( y _ vaoJ ) wIJ wIJ wIJ   (t J  y J ) xI f '(( y _ vaoJ ) Kết hợp mẫu 8
Nội dung • Giới thiệu • Các thuật toán huấn luyện • Mạng ký ức dị kết • Mạng ký ức tự kết • Mạng tự kết lặp • Mạng ký ức kết hợp lưỡng hướng Kết hợp mẫu 9
Mạng ký ức dị kết ế (2) w11 X1 Y1  1 nÕu y _ vao j  0 w1j  wi11 y j   0 nÕu y _ vao j  0  wn1   1 nÕu y _ vao  0  j Xi wij Yj  wim w1m  yj   1 nÕu y _ vao j  0 0 nÕu y _ vao j  0 Xn wnm Ym Kết hợp mẫu 10
VD1 ế (3) Mạng ký ức dị kết s1 s2 s3 s4 t1 t2 4 y _ vao j   wij xi 1 0 0 0 1 0 X1 i 1 1 1 0 0 1 0 w11 0 0 0 1 0 1 w12 0 0 1 1 0 1 X2 w21 Y1 (1,0,0,0) : (1,0) w22 y1  1; y2  0 w31 w11 ( míi )  w11 ( cò )  x1 y1  0  1  1 X3 w32 Y2 (1 1 0 0) : (1,0) (1,1,0,0) (1 0) w41 y1  1; y2  0 w42 w11 ( míi )  w11 ( cò )  x1 y1  1  1  2 X4 1 nÕu y _ vao j  0 yj   w21 ( míi )  w21 ( cò )  x2 y1  0  1  1 0 nÕu y _ vao j  0 Kết hợp mẫu 11
VD1 Mạng ký ức dị kết ế (4) Cách 1 s1 s2 s3 s4 t1 t2 2 0 1 0 0 0 1 0 1 0 1 1 0 0 1 0 w  0 1 0 0 0 1 0 1   0 2 0 0 1 1 0 1 (1,0,0,0) : (1,0) (0,0,0,1) : (0,1) y1  1; y2  0 y1  0; y2  1 w11 ( míi )  w11 ( cò )  x1 y1  0  1  1 w42 ( míi )  w42 ( cò )  x4 y2  0  1  1 (1 1 0 0) : (1,0) (1,1,0,0) (1 0) (0 0 1 1) : (0 (0,0,1,1) (0,1) 1) y1  1; y2  0 y1  0; y2  1 w11 ( míi )  w11 ( cò )  x1 y1  1  1  2 w32 ( míi )  w32 ( cò )  x3 y2  0  1  1 w21 ( míi )  w21 ( cò )  x2 y1  0  1  1 w42 ( míi )  w42 ( cò )  x4 y2  1  1  2 Kết hợp mẫu 12
VD1 ế (5) Mạng ký ức dị kết s1 s2 s3 s4 t1 t2 4 y _ vao j   wij xi 1 0 0 0 1 0 X1 i 1 1 1 0 0 1 0 w11 0 0 0 1 0 1 w12 0 0 1 1 0 1 X2 w21 Y1 w22 2 0 1 0 w31 w  0 1 X3 w32 Y2   w41 0 2 w42 y _ vao1  2 x1  x2 X4 1 nÕu y _ vao j  0 y _ vao2  x3  2 x4 yj   0 nÕu y _ vao j  0 Kết hợp mẫu 13
VD1 Mạng ký ức dị kết ế (6) Cách 2 s1 s2 s3 s4 t1 t2 1 0  1 0  0 0 0 0  2 0 1 0 0 0 1 0 0 0  1 0 0 0 0 0  1 0 1 1 0 0 1 0 w      0 0 0 0 0 0 0 1  0 1 0 0 0 1 0 1           0 0 1 1 0 1 0 0 0 0 0 1 0 1  0 2 (1,0,0,0) : (1,0)  1 1 0 (0,0,0,1) : (0,1) 0 0 0 0 0 0 0 0 0 w (1)    1 0    w (3)     0 1    0 0 0 0 0 0         0   0 0 1   0 1 (1 1 0 0) : (1,0) (1,1,0,0) (1 0) (0 0 1 1) : (0 (0,0,1,1) (0,1) 1)  1 1 0 0 0 0  1 1 0 0 0 0 w (2)    1 0    w (4)     0 1    0 0 0  1 0 1         0   0 0 1   0 1 Kết hợp mẫu 14
VD1 ế (7) Mạng ký ức dị kết s1 s2 s3 s4 t1 t2 1 0 0 0 1 0 X1 1 1 0 0 1 0 w11 0 0 0 1 0 1 w12 0 0 1 1 0 1 X2 w21 Y1 w22 2 0 1 0 w31 w  0 1 X3 w32 Y2   w41 0 2 2 0 w42 1 0  y _ vao1 y _ vao2    x1 x2 x3 x4    X4 1 nÕu y _ vao j  0 0 1 yj     0 nÕu y _ vao j  0 0 2 Kết hợp mẫu 15
VD2 Mạng ký ức dị kết ế (8) s1 s2 s3 s4 t1 t2  4 4  1 –1 –1 –1 1 –1  2 2  1 1 –1 –1 1 –1 w   2 2 –1 –1 –1 1 –1 1   –1 –1 1 1 –1 1  4 4 (1, 1, 1, 1) : (1, 1)  1  1 1 ( 1, 1, 1,1) : ( 1,1)  1  1 1  1  1 1  1  1 1 w (1)    1 1    w (3)     1 1     1  1 1  1  1 1            1   1 1  ( 1  1  1 1 (1 1 11, 1) : (1 (1,1, (1, 1) 1,  1 1,1,1) 1 1) : (  1,1) 1 1)  1  1 1  1  1 1  1  1 1  1  1 1 w (2)    1 1    w (4)     1 1     1  1 1  1  1 1           1  1 1  1  1 1 Kết hợp mẫu 16
VD3 Mạng ký ức dị kết ế (9) s1 s2 s3 s4 t1 t2 2 0 y vao  xx.w y_vao w 1 0 0 0 1 0 1 0 1 1 0 0 1 0 w  1 nÕu y _ vao j  0 0 1 yj   0 0 0 1 0 1   0 nÕu y _ vao j  0 0 2 0 0 1 1 0 1 Kiểm tra: x1 = (0,1,0,0) & x2 = (0,1,1,0)? 2 0 2 0 1 0 1 0 y vao1   0 1 0 0  y_vao   1 0 y vao2   0 1 1 0  y_vao   1 1 0 1 0 1     0 2 0 2  y1  1 0  y 2  1 1 Kết hợp mẫu 17
VD4 Mạng ký ức dị kết ế (10) s1 s2 s3 s4 t1 t2  4 4  y vao  xx.w y_vao w 1 –1 –1 –1 1 –1  2 2  1 1 –1 –1 1 –1 w   1 nÕu y _ vao j  0  2 2  yj   –1 –1 –1 1 –1 1    1 nÕu y _ vao j  0  4 4  –1 –1 1 1 –1 1 Kiểm tra x = (0,1,0,–1)?  4 4   2 2  y_vao   0 1 0 1     6 6  y  1 1  2 2    4 4  Kết hợp mẫu 18
Nội dung • Giới thiệu • Các thuật toán huấn luyện • Mạng ký ức dị kết • Mạng ký ức tự kết • Mạng tự kết lặp • Mạng ký ức kết hợp lưỡng hướng Kết hợp mẫu 19
Mạng ký ức tự kết ế (2) w11 X1 Y1 w1j wi11  wn1   1 nÕu y _ vao j  0 Xi wij Yj yj    1 nÕu y _ vao j  0  win w1n  Xn wnn Yn Kết hợp mẫu 20