Ch
ươ
ng 12 Neural NLP
H c sâu
ọ
Word2vec
Phân lo i c m xúc d a trên CNN
ạ ả
ự
IT4772 X lý ngôn ng t
ữ ự
ử
nhiên
ự D ch máy d a trên RNN
ị
Vi n CNTT-TT, ĐHBKHN
ệ
2
Ch ng 12 Neural NLP ươ ọ H c sâu Neuron nhân t oạ
INFORMATION EXTRACTION
NATURAL LANGUAGE UNDERSTANDING
END-TO-END APPLICATIONS
NATURAL LANGUAGE GENERATION
DATA + LINGUISTICS + MACHINE LEARNING
3
4
https://adeshpande3.github.io/A-Beginner%27s-Guide-To-Understanding-Convolutional-Neural- Networks/
6
5
Ch Ch ươ ng 12 Neural NLP ọ H c sâu ươ ng 12 Neural NLP ọ H c sâu M ng neuron ti n ạ ế M ng nhân ch p ạ ậ
● Lan truy n ng
Ch Ch ng 12 Neural NLP ươ ọ H c sâu M ng neuron h i quy ồ ạ ng 12 Neural NLP ươ ọ H c sâu Ướ ượ c l ng tham s ố
ượ c – Pha ti n: tính toán đ o hàm c a hàm l
ạ
ủ
ỗ ự
i d a trên
tham s c a m ng neuron
ạ
ề ế ố ủ
ố ủ
ự
ậ
ạ
– Pha lùi: c p nh t tham s c a m ng neuron d a ượ c
ậ trên đ o hàm tính đ
ạ
8
7
●
Ch Ch ng 12 Neural NLP ươ ng 12 Neural NLP ọ H c sâu ươ Word2vec M t s ng d ng ộ ố ứ ụ
ạ
ậ
ụ Ứ ng d ng m ng nhân ch p cho bài toán phân ạ ả lo i nh
●
ồ
Ứ nh n di n ti ng nói
ng d ng m ng neuron h i quy cho bài toán ậ
ụ ệ
ạ ế
9
10
11
12
Ch ng 12 Neural NLP Ch ươ Word2vec ươ Phân lo i c m xúc d a trên CNN ng 12 Neural NLP ả ự ạ
● T o ra trào l u “
Ch ng 12 Neural NLP Ch ươ ự D ch máy d a trên RNN ị ươ Nh n xét ng 12 Neural NLP ậ
ư end-to-end NLP”
ạ
●
Ư ể u đi m: ễ – Bi u di n văn b n t ể
ả
ố ơ
t h n
– Đ t đ chính xác cao h n khi có nhi u d li u
ữ ệ
ơ
ộ
ề
ạ
● Nh
ể c đi m ượ ả ộ ễ – Đ di n gi
i th pKhó tuning mô hình
ấ
14
13
Q&A
hieunk@soict.hust.edu.vn
15
