IT4772 X lý ngôn ng t nhiênử ữ ự
Vi n CNTT-TT, ĐHBKHNệ
2
Ch ng 12 Neural NLPươ
H c sâuọ
Word2vec
Phân lo i c m xúc d a trên CNNạ ả ự
D ch máy d a trên RNNị ự
3
INFORMATION EXTRACTION
NATURAL LANGUAGE UNDERSTANDING
NATURAL LANGUAGE GENERATION
DATA + LINGUISTICS + MACHINE LEARNING
END-TO-END
APPLICATIONS
4
Ch ng 12 Neural NLPươ
H c sâuọ
Neuron nhân t oạ
5
Ch ng 12 Neural NLPươ
H c sâuọ
M ng neuron ti nạ ế
6
Ch ng 12 Neural NLPươ
H c sâuọ
M ng nhân ch pạ ậ
https://adeshpande3.github.io/A-Beginner%27s-Guide-To-Understanding-Convolutional-Neural-
Networks/
7
Ch ng 12 Neural NLPươ
H c sâuọ
M ng neuron h i quyạ ồ
8
Ch ng 12 Neural NLPươ
H c sâuọ
c l ng tham sƯớ ượ ố
●Lan truy n ng cề ượ
–Pha ti n: tính toán đo hàm c a hàm l i d a trên ế ạ ủ ỗ ự
tham s c a m ng neuronố ủ ạ
–Pha lùi: c p nh t tham s c a m ng neuron d a ậ ậ ố ủ ạ ự
trên đo hàm tính đcạ ượ
9
Ch ng 12 Neural NLPươ
H c sâuọ
M t s ng d ngộ ố ứ ụ
●ng d ng m ng nhân ch p cho bài toán phân Ứ ụ ạ ậ
lo i nhạ ả
●ng d ng m ng neuron h i quy cho bài toán Ứ ụ ạ ồ
nh n di n ti ng nóiậ ệ ế
10
Ch ng 12 Neural NLPươ
Word2vec
11
Ch ng 12 Neural NLPươ
Word2vec
12
Ch ng 12 Neural NLPươ
Phân lo i c m xúc d a trên CNNạ ả ự
13
Ch ng 12 Neural NLPươ
D ch máy d a trên RNNị ự
14
Ch ng 12 Neural NLPươ
Nh n xétậ
●T o ra trào l u “ạ ư end-to-end NLP”
●u đi m:Ư ể
–Bi u di n văn b n t t h nể ễ ả ố ơ
–Đt đ chính xác cao h n khi có nhi u d li uạ ộ ơ ề ữ ệ
●Nh c đi mượ ể
–Đ di n gi i th pKhó tuning mô hìnhộ ễ ả ấ
15
Q&A
hieunk@soict.hust.edu.vn