1
Dịch máy
1
Lê Thanh Hương
Bộ môn Hệ thống Thông tin
Viện CNTT &TT – Trường ĐHBKHN
Email: huonglt-fit@mail.hut.edu.vn
Ví dụ
Au sortir de la saison 97/98 et surtout
au debut de cette saison 98
/
99…
2
/
With leaving season 97/98 and
especially at the beginning of this
season 98/99…
Các vấn đề
1. Xử lý sự giống và khác nhau giữa các ngôn ngữ
Hình vị: # số âm tiết/từ:
Ngôn ngữđơnâmtiết(tiếng Việt, Trung Quốc)
–
1
3
Ngôn
ngữ
đơn
âm
tiết
(
tiếng
Việt,
Trung
Quốc)
1
tiếng/từ
Ngôn ngữ đa âm tiết
(Siberian Yupik), 1 từ = cả 1 câu
Mức độ phân chia âm tiết
Các vấn đề
2. Cú pháp: trật tự từ trong câu
To Yukio; Yukio ne
Tiếng Anh – tiếng Việt:
The
(affix1)
red
(affix2)
flag
(head)
L
ácờ
(head)
đỏ
(affix2)
(affix1)
4
L
á
cờ
(head)
đỏ
(affix2)
(affix1)
3. Các nét riêng biệt
English brother Vietnamese anh
em
English wall German wand (inside)
mauer(outside)
German berg English hill
mountain
Không gian khái niệm
5
Khoảng trống từ vựng: tiếng Nhật không có từ nào nghĩa
privacy;
tiêgns Anh không có từ ứng với
yakoko
(lòng hiếu thảo)
Ba khối chính trong dịch máy
ngôn
ngữ
nguồn S
ngôn ngữ đích
T
hiểu
ngôn ngữ
dịch
ngôn ngữ
6
thông tin ánh xạ
ngôn ngữ
nguồn - đích
2
Hiểu ngôn ngữ
1. Nhập nhằng từ vựng:
English:
book -
Spanish
libro, reservar
⇒Sử dụng thông tin cú pháp
2. Nhập nhằng cú pháp:
I saw the guy on the hill with the telescope
7
I
saw
the
guy
on
the
hill
with
the
telescope
3. Nhập nhằng ngữ nghĩa:
E: While driving, John swerved & hit a tree
John’s car
S: Minetras que John estaba manejando, se desvio y
golpeop con un arbo
Các phương pháp dịch máy
cú
p
h
áp
mức trừu
tượng
cao
ngữ nghĩa
siêu ngôn ngữsiêu ngôn ngữ
dịch chuyển đổi
8
st
ag
từ-từ
cú p áp
thấp
a =
a(s)
g =
f(a(s)); f –
hàm chuyển đổi
t=g(f(a(s)))
dịch trực tiếp
Sơ đồ chuyển đổi
9
Luật chuyển đổi
10
Sơ đồ chuyển đổi
11
Cách tiếp cận siêu ngôn ngữ: sử dụng
nghĩa
Chuyển đổi: các luật chuyển đổi từ ngôn ngữ này
sang ngôn ngữ khác
ĐỐi tượng/sự kiện (ontology)
12
3
Dịch máy thống kê
13
Các kiểu dịch máy
mức độ
trừu tượng
cao
ngữnghĩa
siêu ngôn ngữ
}
chuy
ể
n đ
ổ
i
14
st
ag
từ-từ
cú pháp
thấp
ngữ
nghĩa
}
chuy
ể
n đ
ổ
i
ý tưởng
Coi việc dịch như bài toán kênh có nhiễu
Input (Nguồn) “Noisy” Output (đích)
The channel
E: English words... (adds “noise”) F: Les mots Anglais...
15
Mô hình dịch: P(E|F) = P(F|E) P(E) / P(F)
Khôi phục lại E khi biết F:
Sau khi đơn giản hóa (P(F) không đổi):
argmaxEP(E|F) = argmaxEP(F|E) P(E)
Dịch máy thống kê
16
Các yếu tố
Mô hình ngôn ngữ - Language Model (LM): xác suất thấy
1 câu tiếng Anh (E) (xác suất tiền nghiệm):
P(E)
Mô hình dịch - Translation Model (TM): câu đích trong
17
tiến
g
Pháp (F) khi có câu tiến
g
Anh:
P(F|E)
Thủ tục tìm kiếm:
Cho F, tìm E tốt nhất sử dụng mô hình ngôn ngữ LM và
mô hình dịch TM.
Vấn đề: thiếu dữ liệu!
Ta không thể tạo từ điển câu E ↔ F
Thậm thí bình thường ta không thấy 1 câu lặp lại 2 lần
Ý tưởng gióng hàng
Mô hình dịch TM không quan tâm đến chuỗi đúng các từ
tiếng Anh
Sử dụng cách tiếp cận gán nhãn:
18
•1 từ tiếng Anh(“tag”) ~ 1 từ tiếng Pháp (“word”)
→không thực tế: thậm chí số từ trong 2 câu không bằng
nhau
→sử dụng “gióng hàng”.
Gióng hàng câu: tìm các nhóm câu trong 1 ngôn ngữ tương
ứng với các nhóm câu khác trong ngôn ngữ khác
4
Gióng hàng câu
The old man is
happy. He has
fished many
El viejo está feliz
porque ha pescado
muchos veces Su
19
fished
many
times. His wife
talks to him. The
fish are jumping.
The sharks await.
muchos
veces
.
Su
mujer habla con él.
Los tiburones
esperan.
Gióng hàng câu
1. The old man is
happy.
2. He has fished many
times
1. El viejo está feliz
porque ha pescado
muchos veces.
20
times
.
3. His wife talks to him.
4. The fish are jumping.
5. The sharks await.
2. Su mujer habla
con él.
3. Los tiburones
esperan.
Gióng hàng câu
1. The old man is
happy.
2. He has fished many
times.
1. El viejo está feliz
porque ha pescado
muchos veces.
2. Su mujer habla con
21
3. His wife talks to him.
4. The fish are jumping.
5. The sharks await.
él.
3. Los tiburones
esperan.
Khó khăn:
Sự liên quan chéo: trật tự câu thay đổi khi dịch
Gióng hàng từ -Mức dễ
22
Gióng hàng từ - Khó hơn
23
Gióng hàng từ - Khó hơn
24
5
Gióng hàng từ -Khó
25
Gióng hàng từ - Mã hóa
0 1 2 3 4 5 6
e0And the program has been implemented
26
f0Le programme a été mis en application
0 1 2 3 4 5 6 7
Gán thông tin tuyến tính:
•f
0(1) Le(2) programme(3) a(4) été(5) mis(6) en(6)
application(6)
•e
0And(0) the(1) program(2) has(3) been(4)
implemented(5,6,7)
Học việc gióng hàng từ sử dụng
EM
27
Học việc gióng hàng từ sử dụng EM
28
Học việc gióng hàng từ sử dụng EM
29
Kênh nhiễu
Mô hình ngôn ngữ
P(e)
Mô hình dịch
P(f|e)
eGiải mã
Argmax
=
P(e|f)
f
e
30
P(e|f)
e
e