1
HC VIN CÔNG NGH BƯU CHÍNH VIN THÔNG
----------------------------
T MINH PHƯƠNG
BÀI GING
Nhp môn
trí tu nhân to
Hà ni 2010
2
LI NÓI ĐẦU
Trí tu nhân to là mt nhánh ca khoa hc máy tính vi mc tiêu nghiên cu y dng
và ng dng các h thng thông minh nhân to. Đây là mt trong nhng lĩnh vc được quan
tâm nghiên cu nhiu nht ca khoa hc máy nh hin nay vi nhiu kết qu được ng dng
rng rãi.
Môn hc Nhp n trí tu nhân to là n hc mang nh chuyên ngành trong chương
trình đào to ng ngh thông tin h đại hc. Mc tiêu ca môn hc nhm giúp sinh viên làm
quen vi khái nim ttu nhân to thông qua vic gii thiu mt s k thut ng dng c
th. Vi vic hc v ttu nhân to, mt mt, sinh viên s được làm quen vi nhng phương
pháp, cách gii quyết vn đề không thuc lĩnh vc toán ri rc hoc gii thut truyn thng,
chng hn c phương pháp da trên heuristics, các phương pháp da trên tri thc, d liu.
Mt khác, sinh viên s đưc làm quen vi kh năng ng dng tim ng các k thut trí tu
nhân to trong nhiu bài tn thc tế.
Do trí tu nhân to hin đã phát trin thành mt lĩnh vc rng vi khá nhiu lĩnh vc
chuyên sâu, vic la chn các ni dung đ gii thiu cho sinh viên vn đề không đơn gin.
Trong tài liu này, các ni dung được la chn hoc nhng ni dung nh tiêu biu, kinh
đin ca trí tu nhân to như ni dung v biu din tri thc bng logic, các phương pháp tìm
kiếm, hoc nhng ni dung tính ng dng đang có tính thi s hin nay, tiêu biu là
phương pháp suy din xác sut và các k thut hc máy.
Do khuôn kh hn ca tài liu vi tính cht bài ging, phn gii thiu v vic s
dng k thut trí tu nhân to trong ng dng c th không đưc trình bày nhiu. Chúng tôi
dành phn la chn ng dng c th cho ging viên trong quá trình lên lp và hướng dn sinh
viên. y điu kin, ging viên th la chn trong danh mc ng dng rt phong phú đ
gii thiu và minh ha cho các ni dung ca tài liu.
Ni dung tài liu được trình bày thành năm chương.
Chương 1 phn gii thiu tng quan v trí tu nhân to bao gm khái nim, lch s
hình thành, sơ lưc v nhng k thut và ng dng tiêu biu. Ni dung chương không đi quá
u o vic đnh nghĩa cnh xác trí tu nhân to là gì, thay vào đó, sinh viên được gii thiu
v nhng lĩnh vc nghiên cu chuyên sâu và lch s phát trin, trước khi m quen vi ni
dung c th trong các chương sau.
Chương 2 trình y cách gii quyết vn đ bng phương pháp tìm kiếm. Các phương
pháp tìm kiếm bao gm: tìm kiếm , tìm kiếm thông tin, m kiếm cc b. Khác vi
mt s tài liu khác v trí tu nhân to, ni dung v tìm kiếm có đi th không được đ cp
đến trong tài liu này.
Chương 3 tóm tt v vn đ s dng, biu din tri thc suy din, trưc khi đi sâu
trình bày v biu din tri thc suy din vi logic. Trong hai h thng logic được trình bày
là logic mnh đề và logic v t, ni dung chương được dành nhiu hơn cho logic v t. Do ni
dung v lp trình logic hin không còn ng dng nhiu, chúng i không gii thiu v vn đ
lp trình và xây dng ng dng c th đây.
Chương 4 là m rng ca biu din tri thc và suy din vi vic s dng nguyên tc suy
din xác sut và mng Bayes. Sau khi trình bày v s cn thiết ca lp lun trong điu kin
3
không ràng ng vi nguyên tc suy din xác sut, phn chính ca chương tp trung vào
khái nim cùng vi ng dng mng Bayes trong biu din tri thc và suy din.
Chương 5 là chương nhp môn v hc y. Trong chương y, sinh viên được làm
quen vi khái nim, nguyên tc và ng dng ca hc y. Trong phm vi chương cũng trình
y ba k thut hc y ng cho phân loi là y quyết đnh, phân loi Bayes phân loi
da trên ví d. Đâynhng phương pháp đơn gin, d gii thiu, đồng thinhng phương
pháp tiêu biu và có nguyên khác nhau, thun tin để trình bày vi tính cht nhp môn.
Tài liu đưc biên son t kinh nghim ging dy hc phn Nhp môn trí tu nhân to
ca tác gi ti Hc vin Công ngh bưu chính vin thông, trên cơ s tiếp thu phn hi t sinh
viên và đng nghip. Tài liu có th s dng làm tài liu hc tp cho sinh viên đi hc ngành
công ngh thông tin và các ngành liên quan, ngoài ra th s dng vi mc đích tham kho
nhanh cho nhng người quan tâm ti trí tu nhân to.
Trong quá trình biên son i liu, mc tác gi đã nhiu c gng song không th
tránh khi nhng thiếu sót. Ngoài ra, trí tu nhân to mt lĩnh vc rng, đang tiến b rt
nhanh ca khoa hc y nh đòi hi tài liu phi được cp nht thường xuyên. c gi rt
mong mun nhn được ý kiến phn hi, góp ý cho các thiếu t cũng như ý kiến v vic cp
nht, hoàn thin ni dung ca tài liu.
Hà ni 2010
Tác gi
4
Mc lc
CHƯƠNG 1: GII THIU CHUNG ................................................................................ 7
1.1. KHÁI NIM TRÍ TU NHÂN TO .......................................................................... 7
1.2. LCH S HÌNH THÀNH VÀ PHÁT TRIN ............................................................. 9
1.3. CÁC LĨNH VC NGHIÊN CU VÀ NG DNG CHÍNH.................................... 10
1.3.1. c lĩnh vc nghiên cu ....................................................................................... 10
1.3.2. Mt s ng dng................................................................................................... 11
CHƯƠNG 2: GII QUYT VN ĐỀ BNG M KIM ............................................. 13
2.1. GII QUYT VN ĐỀ VÀ KHOA HC TTNT ..................................................... 13
2.2. BÀI TOÁN TÌM KIM TRONG KHÔNG GIAN TRNG THÁI ............................ 13
2.2.1. Phát biu bài toán tìm kiếm .................................................................................. 13
2.2.2. Mt s ví d ......................................................................................................... 14
2.2.3. c tiêu chun đánh giá thut toán tìm kiếm ......................................................... 15
2.2.4. Thut toán tìm kiếm tng quát và cây tìm kiếm..................................................... 16
2.3. TÌM KIM KHÔNG CÓ THÔNG TIN (TÌM KIM MÙ) ........................................ 17
2.3.1. Tìm kiếm theo chiu rng (Breadth-first search – BFS) ........................................ 17
2.3.2. Tìm kiếm theo g thành thng nht (Uniform-Cost-Search) ................................. 19
2.3.3. Tìm kiếm theo chiu sâu (Depth-First-Search: DFS) ............................................. 19
2.3.4. Tìm theo hai hướng (Bidirectional Search) ........................................................... 23
2.4. TÌM KIM CÓ THÔNG TIN (INFORMED SEARCH) ........................................... 25
2.4.1. Tìm kiếm tham lam (Greedy Search) .................................................................... 25
2.4.2. Thut toán A* ....................................................................................................... 26
2.4.3. c hàm heuristic ................................................................................................. 27
2.4.4. Thut toán IDA* (thut toán A* sâu dn).............................................................. 28
2.5. TÌM KIM CC B ................................................................................................ 30
2.5.1. Thut toán leo đồi (Hill climbing) ......................................................................... 31
2.5.2. Thut toán tôi thép (Simulated Annealing) ............................................................ 33
2.5.3. Mt s thut toán tìm kiếm cc b khác ................................................................ 35
CHƯƠNG 3: BIU DIN TRI THCSUY DIN LOGIC ..................................... 36
3.1. S CN THIT S DNG TRI THC TRONG GII QUYT VN ĐỀ ............. 36
3.2. LOGIC MNH ĐỀ ................................................................................................... 37
3.2.1. Cú pháp ................................................................................................................ 37
3.2.2. Ng nghĩa............................................................................................................. 38
3.3. SUY DIN VI LOGIC MNH ĐỀ ........................................................................ 40
3.3.1. Suy din logic ....................................................................................................... 40
3.3.2. Suy din s dng bng chân lý ............................................................................. 40
3.3.3. S dng các quy tc suy din ................................................................................ 41
3.4. LOGIC V T (LOGIC BC 1) ............................................................................... 44
3.4.1. Đặc đim .............................................................................................................. 44
3.4.2. Cú pháp và ng nghĩa ........................................................................................... 44
5
3.5. SUY DIN VI LOGIC V T ............................................................................... 49
3.5.1. Quy tc suy din ................................................................................................... 49
3.5.2. Suy din tiến và suy din lùi ................................................................................. 51
3.5.3. Suy din s dng phép gii .................................................................................. 54
3.5.4. H thng suy din t động: lp trình logic ............................................................ 59
CHƯƠNG 4: SUY DIN XÁC SUT ........................................................................... 60
4.1. VN ĐỀ THÔNG TIN KHÔNG CHC CHN KHI SUY DIN ............................ 60
4.2. NGUYÊN TC SUY DIN XÁC SUT ................................................................. 61
4.3. MT S KHÁI NIM V XÁC SUT ................................................................... 62
4.3.1. c tiên đc sut .............................................................................................. 62
4.3.2. Xác sut đng thi ................................................................................................ 62
4.3.3. Xác sut điu kin ................................................................................................ 63
4.3.4. Tính đc lp xác sut ............................................................................................ 64
4.3.5. Quy tc Bayes ...................................................................................................... 65
4.4. MNG BAYES ........................................................................................................ 67
4.4.1. Khái nim mng Bayes ......................................................................................... 67
4.4.2. Tính đc lp xác sut trong mng Bayes ............................................................... 69
4.4.3. ch y dng mng Bayes .................................................................................. 70
4.5. SUY DIN VI MNG BAYES ............................................................................. 73
4.5.1. Suy din da trên xác sut đng thi..................................................................... 73
4.5.2. Độ phc tp ca suy din trên mng Bayes ........................................................... 74
4.5.3. Suy din cho trường hp riêng đơn gin ............................................................... 74
4.5.4. Suy din bng phương pháp ly mu .................................................................... 76
4.6. NG DNG SUY DIN XÁC SUT...................................................................... 78
CHƯƠNG 5: HC MÁY ............................................................................................... 81
5.1. KHÁI NIM HC MÁY .......................................................................................... 81
5.1.1. Hc máy là ....................................................................................................... 81
5.1.2. ng dng ca hc máy ......................................................................................... 81
5.1.3. Mt s khái nim .................................................................................................. 82
5.1.4. c dng hc máy ................................................................................................ 82
5.2. HC CÂY QUYT ĐỊNH ....................................................................................... 84
5.2.1. Khái nimy quyết định ..................................................................................... 84
5.2.2. Thut toán hc cây quyết đnh .............................................................................. 85
5.2.3. c đc đim thut toán hc cây quyết đnh.......................................................... 90
5.2.4. Vn đề quá va d liu ......................................................................................... 91
5.2.5. S dng thuc tính có giá tr liên tc..................................................................... 92
5.2.6. S dng cách đánh giá thuc tính khác ................................................................. 93
5.3. PHÂN LOI BAYES ĐƠN GIN ........................................................................... 94
5.3.1. Phương pháp phân loi Bayes đơn gin ................................................................ 94
5.3.2. Vn đề tính xác sut trên thc tế ........................................................................... 96
5.3.3. ng dng trong phân loi văn bn t động ........................................................... 96
5.4. HC DA TRÊN VÍ D: THUT TOÁN K HÀNG XÓM GN NHT ............... 97
5.4.1. Nguyên tc chung ................................................................................................. 97