1
Xử lý ngôn ngữ tự nhiên
(Natural Language Processing)
(Natural
Language
Processing)
Lê Thanh Hương
Bộ môn Hệ thống Thông tin
Viện CNTT &TT – Trường ĐHBKHN
Email:
huonglt
-
fit@mail hut edu vn
1
Email:
huonglt
fit@mail
.
hut
.
edu
.
vn
Mục đích môn học
zHiểu các nguyên tắc cơ bản và các cách tiếp cận trong XLNNTN
zH
ọc
các
k
ỹ
th
uậ
t v
à
cô
n
g
cụ
có
th
ể
dù
n
g
để
p
h
á
t tri
ể
n
các
h
ệ
th
ố
n
g
ọccác ỹuậàcô gcụcó ểdù g để pá ểcác ệ ố g
hiểu văn bản hoặc nói chuyện với con người
zThu được một số ý tưởng về các vấn đề mở trong XLNN
Tài liệu tham khảo
zChristopher Manning and Hinrich Schütze. 1999. Foundations of
Statistical Natural Language Processing. The MIT Press.
z
Dan Jurafsky and James Martin 2000
Speech and Language
2
z
Dan
Jurafsky
and
James
Martin
.
2000
.
Speech
and
Language
Processing. PrenticeHall.
zJames Allen. 1994. Natural Language Understanding. The
Benjamins/Cummings Publishing Company Inc.
Thông tin chung
zĐánh giá
zGiữa kỳ: 30%
z
zĐóng góp trong giờ học:10%
zBTL: 10%
zCuối kỳ: thi viết 70%
zĐiều kiện được thi cuối kỳ:
zVắng mặt ít hơn 30% số lần điểm danh
zCó tất cả các loại điểm giữa kỳ
3
zBài tập lớn:
zViết tiểu luận hoặc cài đặt chương trình theo nhóm (<= 4sv)
zBảo vệ kết quả trong 2 tuần cuối của học kỳ
zWebsite: http://is.hut.vn/~huonglt/UNLP
zhttp://is.hut.edu.vn/~huonglt/UNLP
Xử lý NNTN là gì?
Âm thanh Ý nghĩa
4
2
Xử lý NNTN = chuyển đổi âm
thanh thành ngữ nghĩa
5
NNTN là trung tâm của trí tuệ con người
Xử lý NNTN là gì?
6
zMục đích: hiểu được nhiều ngôn ngữ
zKhông chỉ đơn giản là xử lý xâu hoặc so khớp từ khoá
ELIZA
zhttp://en.wikipedia.org/wiki/ELIZA
zhttp://www.cs.bham.ac.uk/research/projects/c
ogaff/eliza/
7
Nói chuyện với Eliza
zE: how are you today?
zH: not so good
zE: why do you say not so good?
zH: i suffer from allergies?
zE: that’s interesting
zH: i come out in spots
zE: i’m not sure i know what you’re talking about
zH: spots on my face
z
E: your face
8
z
E:
your
face
zH: that’s right
zE: is it really that right?
3
Nói chuyện với Eliza
zH: you’re a program, aren’t you?
zE: does it please you to believe i am a program, am not i?
z
H: it sure does
H:
it
sure
does
zE: i see
zH: yup
zE: a while back you talk about your face
zH: what about your face?
zE: what is it you really want to know?
z
H: are you my kind of girl?
9
z
H:
are
you
my
kind
of
girl?
zE: perhaps in your fantasies i am your kind of girl
zH: in my fantasies you are blonde
Nói chuyện với Eliza
zE: what makes you think i am blonde?
Hid ’tk
z
H
:
i
d
on
’t
k
now
zE: don’t you really know?
zH: no
zE: are you saying no just to be negative?
zH: no
10
zE: you are being a bit negative
zH: no i’m not
zE: how long have you been not?
Tại sao nghiên cứu XLNNTN
zNghiên cứu cách con người xác định từ
zNghiên cứu cách con người phân tích câu
zNghiên cứu cách con người học một ngôn
ngữ
zNghiên cứu cách ngôn ngữ tiến hóa
11
Các chủ đề trong XLNNTN
zMức phân tích: cú pháp, ngữ nghĩa, diễn ngôn, thực
chứng, …
zCác bài toán con: gán nhãn từ loại, PTCP, phân giải
nhập nhằng từ, phânt ích cấu trúc diễn ngôn, …
zThuật toán và phương pháp: dựa trên tập ngữ liệu,
dựa trên tri thức, …
12
zCác ứng dụng: trích rút thông tin, phản hồi thông tin,
dịch máy, hỏi đáp, hiểu ngôn ngữ tự nhiên, …
4
Các mức phân tích
zMorphology (hình thái học): cách từ được xây dựng,
các tiềntốvà hậutốcủatừ
các
tiền
tố
và
hậu
tố
của
từ
zSyntax (cú pháp): mối liên hệ về cấu trúc ngữ pháp
giữa các từ và ngữ
zSemantics (ngữ nghĩa): nghĩa của từ, cụm từ, và
cách diễn đạt
zDiscourse (diễn ngôn): quan hệ giữa các ý hoặc các
câu
13
câu
zPragmatic (thực chứng): mục đích phát ngôn, cách
sử dụng ngôn ngữ trong giao tiếp
zWorld Knowledge (tri thức thế giới): các tri thức về
thế giới, các tri thức ngầm
Hình thái học
Tiếng Anh: ngôn ngữ biến hình, đa âm tiết
z
kick kicks kicked kicking
z
kick
,
kicks
,
kicked
,
kicking
zsit, sits, sat, sitting
zmurder, murders
Nhưng không phải luôn thêm và xóa đuôi.
zgorge, gorgeous
zarm, army
rực rỡ
v: nhồi nhét; n: những cái đã ăn, hẻm núi
14
Tiếng Việt: ngôn ngữ không biến hình, đơn âm tiết Æcần tách từ
Cánh tay Quân đội
Tách từ
zMột câu có thể có n khả năng tách từ, nhưng chỉ 1
thúlàđú
t
rong c
hú
ng
là
đú
ng
zGiải pháp đơn giản: lấy chuỗi âm tiết dài nhất bắt
đầu từ vị trí hiện tại và có trong từ điển từ
zVấn đề: chồng chéo từ
zHọc sinh | học sinh | học.
z
Họcsinh|học|sinhhọc
15
z
Học
sinh
|
học
|
sinh
học
.
)Liệt kê tất cả các khả năng có thể và thiết kế một
giải pháp để lựa chọn cái tốt nhất
Gán nhãn từ loại
The boy threw a ball to the brown dog.
zThe/DT boy/NN threw/VBD a/DT ball/NN to/IN
the/DT brown/JJ dog/NN./.
DT – determiner từ chỉ định
NN – noun, danh từ, số ít hoặc số nhiều
16
VBD
–
verb, past tense động từ, quá khứ
IN – preposition giới từ
JJ – adjective tính từ
. – dấu chấm câu
5
Gán nhãn từ loại
Con ngựa đá con ngựa đá.
zCon ngựa/DT đá/ĐgT con ngựa/DT đá/TT.
zÔng/ĐaT già/TT đi/Phó_từ nhanh/TT
quá/trạng_từ.
17
zÔng già/DT đi/ĐgT nhanh/TT quá/trạng_từ.
Ngữ pháp: nhập nhằng cấu
trúc (từ loại)
Time flies like an arrow.
Time // flies like an arrow.
VBZ giới từ so sánh (IN)
18
Time flies
/
/ like an arrow.
NNS VBP
Ngữ pháp: nhập nhằng cấu
trúc (từ loại)
Ông già // đi nhanh quá.
Ông // già đi nhanh quá.
19
Ngữ pháp: nhập nhằng cấu
trúc (liên kết)
S
S
VP
NP
20
NP V NP PP PP
I saw the man on the hill with a telescope.