Bài giảng Mạng nơron và ứng dụng trong xử lý tín hiệu: Giới thiệu - Nguyễn Công Phương

Chia sẻ: Năm Tháng Tĩnh Lặng | Ngày: | Loại File: PDF | Số trang:27

Thêm vào BST

Báo xấu

237
lượt xem 24
download

Download Vui lòng tải xuống để xem tài liệu đầy đủ

Bài giảng Mạng nơron và ứng dụng trong xử lý tín hiệu sau đây giới thiệu những nội dung tổng quan về mạng nơron như: Phân loại mạng nơron, thiết lập trọng số (Huấn luyện có giám sát, huấn luyện không giám sát, trọng số cố định), hàm kích hoạt, nơron MCP. Mời các bạn cùng tham khảo.

Chủ đề:

Bình luận(0) Đăng nhập để gửi bình luận!

Lưu

Nội dung Text: Bài giảng Mạng nơron và ứng dụng trong xử lý tín hiệu: Giới thiệu - Nguyễn Công Phương

Nguyễn g y Công g Phương g Mạng nơron và ứng dụng trong xử lý tín hiệu Giới thiệu
Nội dung • Giới thiệu • Các mạng nơron đơn giản dùng cho phân loại mẫu • Kết hợp mẫu • Các mạng cạnh tranh • Lý thuyết cộng hưởng thích nghi • Mạng lan truyền ngược • Lô í h mờ Lôgích ờ vàà mạng nơron ơ lô í h mờ lôgích ờ • Một số ứng dụng trong xử lý tín hiệu Giới thiệu 2
Tài liệu tham khảo • L. Fausett. Fundamentals of Neural Networks – Architectures, Algorithms, and Applications. Prentice Hall,1994 • J. Freeman, D. Skapura. Neural Networks – Algorithms, Applications, and Programming Techniques. Addison- Wesley, 1991 • A. Galushkin. Neural Network Theory. Springer, 2007 • N. Kasabov. Foundations of Neural Networks, Fuzzy Systems, and Knowledge Engineering. MIT Press, 1998 • https://sites.google.com/site/ncpdhbkhn/ Giới thiệu 3
Nội dung • Giới thiệu • Phân loại mạng nơron • Thiết lập trọng số • Hàm kích hoạt • Nơron MCP Giới thiệu 4
Giới thiệu (1) • Mạng ạ g nơron nhân tạo ạ ((MNN):) hệệ thốngg xử lýý thôngg tin có một ộ số tính chất giống với mạng nơron sinh học • Tính chất: – Thông tin được xử lý ở các phần ầ tử đơn giản gọi là nơron – Tín hiệu lan truyền giữa các nơron thông qua các kết nối – Mỗi kết nối có một trọng số (được nhân với tín hiệu lan truyền) – Mỗi nơron có một hàm kích hoạt (thường là phi tuyến) tác động lên đầu vào để tạo thành đầu ra • Đặc trưng: – Kiểu kết nối giữa các nơron (gọi là cấu trúc) – Phương pháp xác định các trọng số (gọi là thuật toán học/huấn luyện) – Hàm kích hoạt Giới thiệu 5
Giới thiệu (2) X1 Z1 w1 v1 X2 w2 Y w3 v2 Lớp ẩn X3 Z2 Đầu vào Đầu ra y  f ( w1 x1  w2 x2  w3 x3 ) Giới thiệu 6
Giới thiệu (3) • Các ứng dụng chính: – Xử lý tín hiệu – Điều khiển – Nhận dạng mẫu – Y học – Tổng hợp tiếng nói – Nhận dạng tiếng nói – Ki h doanh Kinh d h Giới thiệu 7
Nội dung • Giới thiệu • Phân loại mạng nơron – Mạng một lớp – Mạng nhiều lớp – Mạng cạnh tranh • Thiết lập trọng số • Hàm kích hoạtạ • Nơron MCP Giới thiệu 8
Mạng một lớp w11 X1 Y1 w1j wi11  wn1  Xi wij Yj  wim w1m  Xn wnm Ym Giới thiệu 9
Mạng nhiều ề lớp w11 w11 X1 Z1 Y1 w1j wi11 w1j wi1  wn1  wn1  Xi wij Zj wij Yi  wim w1m  wim w1m  Xn wnm Zp wnm Ym Giới thiệu 10
Mạng cạnh tranh 1 1  A1 Am     1 A1 A1 1  Giới thiệu 11
Nội dung • Giới thiệu • Phân loại mạng nơron • Thiết lập trọng số – Huấn luyện có giám sát – Huấn luyện yệ khôngg ggiám sát – Trọng số cố định • Hàm kích hoạt ạ • Nơron MCP Giới thiệu 12
Huấn ấ luyện có giám sát • Véctơ huấn luyện (mẫu) được kèm theo véctơ mục tiêu • Các trọng số được điều chỉnh theo một thuật toán huấn luyện yệ • Thường dùng cho các bài toán phân loại • VD: mạng lan truyền ngược Giới thiệu 13
Huấn ấ luyện không giám sát • Mạng tự tổ chức • Nhóm các véctơ đầu vào với nhau, không cần biết đặc điểm của ((mỗi)) nhóm • Không có véctơ mục tiêu • Mạng tự tạo ra véctơ đặc trưng của từng nhóm • VD: mạng Kohonen Giới thiệu 14
Trọng số ố cố ố định • Dùng khi khó huấn luyện • VD: mạng Boltzmann, mạng Hopfield liên tục Giới thiệu 15
Nội dung • Giới thiệu • Phân loại mạng nơron • Thiết lập trọng số • Hàm kích hoạt – Đồng nhất – Bước nhị phân – Sigmoid g nhịị p phân – Sigmoid lưỡng cực • Nơron MCP Giới thiệu 16
Hàm đồng ồ nhất ấ f ( x) x f ( x)  x Giới thiệu 17
Hàm bước nhị phân f ( x) 1  x 1 nÕu x   f ( x)   0 nÕu x   Giới thiệu 18
Hàm sigmoid nhị phân f ( x)  3 1  1 0 x 1 f ( x)  1  e  x f '( x )   f ( x )[1  f ( x )] Giới thiệu 19
Hàm sigmoid lưỡng cực f ( x) 1  1 0 x 1 2 1  e  x g ( x)  2 f ( x)  1   x 1  1 e 1  e  x  g '( x )  [1  g ( x )][1  f ( x )] 2 Giới thiệu 20