Học Máy
(IT 4862)
ễhậ
Nguy
ễ
n N
hậ
t Quang
quangnn-fit@mail.hut.edu.vn
Trường Đại học Bách Khoa Hà Nội
Viện Công nghệ thông tin và truyền thông
Năm học 2011-2012
Nội
d
ô
h
Nội
d
ung m
ô
n
h
ọc:
Giới thiệu chun
g
g
Đánh giá hiệunăng hệthống họcmáy
Các phương pháp họcdựatrênxácsuất
Các
phương
pháp
học
dựa
trên
xác
suất
Các phương pháp họccógiámsát
Học
cây
quyết
định
(Decision tree learning)
Học
cây
quyết
định
(Decision
tree
learning)
Các phương pháp học không giám sát
L
ộ
tá
L
ọcc
ộ
ng
tá
c
Họctăng cường
2
Học Máy – IT 4862
Học câ
y
q
u
y
ế
t định
–
Giớ
i
thiệu
yq y
Học cây quyết định (Decision tree –DT– learning)
•
Để học(xấpxỉ)một hàm mục tiêu có giá trịrờirạc(
discrete
-
•
Để
học
(xấp
xỉ)
một
hàm
mục
tiêu
có
giá
trị
rời
rạc
(
discrete
-
valued target function) – hàm phân lớp
•Hàm phân lớp được biểu diễn bởi một cây quyết định
Một cây quyết định có thể được biểu diễn (diễn giải) bằng một
tập các luật IF-THEN (dễ đọc và dễ hiểu)
H â ếtđị hóthểth hiệ ả ớiádữliệó
H
ọc c
â
y quy
ết
đị
n
h
c
ó
thể
th
ực
hiệ
n ngay c
ả
v
ới
c
á
c
dữ
liệ
u c
ó
chứa nhiễu/lỗi (noisy data)
Là m
ộ
t tron
g
các
p
hươn
g
p
há
p
h
ọ
c
q
u
y
n
ạp
(
inductive
ộgp gp p ọqy ạp(
learning) được dùng phổ biến nhất
Được áp dụng thành công trong rất nhiều các bài toán ứng
dth tế
3
Học Máy – IT 4862
d
ụng
th
ực
tế
Ví dụ về DT: Những tin tức nào mà tôi quan tâm?
is present
“sport”?
is absent
“football”?
is present
“player”?
is present is absent
is absent
is absent
Interested
UninterestedInterested “goal”?
is present
Interested Uninterested
•(…,“sport”,…,“player”,…) → Interested
•(…,“goal”,…) → Interested
•
(
“
sport
”
)
→
Uninterested
•
(
…,
sport
,…
)
→
Uninterested
4
Học Máy – IT 4862
Ví dụ về DT: Một người có chơi tennis không?
Sunny
Outlook=?
Rain
O
vercast
Wind=?
Strong
Humidity=?
High Weak
Normal
Yes
Yes
No Yes No
•(Outlook=Overcast, Temperature=Hot, Humidity=High,
Wind=Weak)→ Yes
•
(O
utlook=R
a
in
,
Tem
p
erature=
M
il
d
,
Humidit
y
=
H
i
g
h
,
Wind=
St
r
o
n
g
)
(O
a
,p
d
,y
g
,
Stog
)
→ No
•(Outlook=Sunny, Temperature=Hot, Humidity=High, Wind=Strong)
→
No
→
No
5
Học Máy – IT 4862