Hiểu sâu về AI Agent
Nguyên lý thiết kế và thực hành kỹ thuật
Lý Bác Kiệt Tác giả
Bản v1.3 ·2026-7-25
Mục lục
Giới thiệu 1
Cấutrúccủacuốnsách ............................................ 3
Cáchđọccuốnsáchnày ............................................ 6
Kiếnthứctiênquyết.............................................. 7
Lờicảmơn ................................................... 8
Bảng thuật ngữ Anh - Việt 9
Chương 1 AI Agent Bắt đầu 12
1.1 Agent hiện đại = LLM + context + tools . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12
1.1.1Côngcụ:TaychânAgent..................................... 15
1.1.2LLM:BộnãocủaAgent ..................................... 16
1.1.3Ngữcảnh:ĐôimắtcủaAgent .................................. 19
Thí nghiệm 1.1 ★★: Vai trò quan trọng của ngữ cảnh . . . . . . . . . . . . . . . . . . . . . . . . 20
1.1.4VònglặpReAct .......................................... 21
1.2 Harness Engineering (kỹ thuật Harness): Năng lực vượt xa các mô hình . . . . . . . . . . . . . . . 26
1.2.1 Từ Prompt Engineering đến Loop Engineering (kỹ thuật vòng lặp): Sự phát triển của mô
hìnhkỹthuật........................................... 28
1.2.2 Nguyên tắc Harness cốt lõi của năm chức năng . . . . . . . . . . . . . . . . . . . . . . . . . 29
1.2.3 Nguyên tắc cốt lõi để xây dựng Agent hiệu quả . . . . . . . . . . . . . . . . . . . . . . . . 30
1.2.4Cáchchọnmôhình ........................................ 30
1.2.5 Chế độ điều phối: Quy trình làm việc và quyền tự chủ . . . . . . . . . . . . . . . . . . . . 31
1.2.6Guardrailsvàanninh....................................... 35
1.2.7 Cuốn sách này đóng vai trò là hướng dẫn thực tế về kỹ thuật Harness . . . . . . . . . . . . 37
1.3Tómtắtchươngnày............................................ 38
Câuhỏitưduy.............................................. 39
Chương 2 Context Engineering (kỹ thuật ngữ cảnh) 40
2.1 Ngữ cảnh: Chìa khóa để xác định giới hạn trên về khả năng của Agent . . . . . . . . . . . . . . . 40
2.2 Cách Agent gọi mô hình lớn: hiểu cấu trúc ngữ cảnh của API . . . . . . . . . . . . . . . . . . . . 42
2.2.1Bốnvaitròcủatinnhắn ..................................... 42
2.2.2 Đối thoại một vòng: lệnh gọi API đơn giản nhất . . . . . . . . . . . . . . . . . . . . . . . . 43
2.2.3 Tương tác nhiều vòng với lệnh gọi công cụ: vòng lặp cốt lõi của Agent . . . . . . . . . . . 44
2.2.4 Sử dụng mã để triển khai vòng lặp cốt lõi của Agent . . . . . . . . . . . . . . . . . . . . . 48
2.2.5 Nhìn vào bố cục ngữ cảnh dưới góc nhìn của API . . . . . . . . . . . . . . . . . . . . . . . 51
2.3 KV Cache Thiết kế theo ngữ cảnh thân thiện . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 53
2.3.1 Từ tin nhắn API đến mẫu Token: Chat Template . . . . . . . . . . . . . . . . . . . . . . . 57
2.3.2 Nguyên tắc và ràng buộc của KV Cache . . . . . . . . . . . . . . . . . . . . . . . . . . . . 59
2.3.3 KV Cache và Nhắc Cache: hai cấp độ bộ đệm . . . . . . . . . . . . . . . . . . . . . . . . . 62
2.3.4 Bộ nhớ đệm như một hạn chế về kiến trúc . . . . . . . . . . . . . . . . . . . . . . . . . . . 62
2.3.5 KV Cache Không nhất thiết phải dùng một lần: các“ghi chú”có thể chỉnh sửa, tổng hợp
được................................................ 63
MỤC LỤC
2.4 Dự án nhắc nhở: tối ưu hóa các từ nhắc nhở hệ thống . . . . . . . . . . . . . . . . . . . . . . . . . 65
2.4.1 Giọng điệu và phong cách: Tính “cá tính”của lời nhắc hệ thống . . . . . . . . . . . . . . 65
2.4.2 Lời nhắc có cấu trúc: “Định dạng”của từ nhắc nhở hệ thống . . . . . . . . . . . . . . . . 65
2.4.3 Điều khiển quy trình và xếp chồng quy tắc: “Phương thức tổ chức”của các system prompt 65
2.4.4 Tinh chỉnh quy tắc nghiệp vụ: “Nội dung”của các system prompt . . . . . . . . . . . . . 66
2.4.5 Few-shot Ví dụ: Khi nào hiển thị ví dụ cho mô hình . . . . . . . . . . . . . . . . . . . . . . 67
2.4.6Thiếtkếđịnhnghĩacôngcụ ................................... 68
2.4.7 Prompt injection nhở: Mối đe dọa cốt lõi đối với bảo mật theo ngữ cảnh . . . . . . . . . . 70
2.5LờinhắcđộngvàKỹnăngAgent .................................... 72
2.5.1 Kỹ năng: các đơn vị khả năng tổng hợp của miền . . . . . . . . . . . . . . . . . . . . . . . 72
2.5.2 Phương pháp thực hiện và đánh đổi Kỹ năng . . . . . . . . . . . . . . . . . . . . . . . . . . 74
2.5.3 Mối quan hệ giữa Kỹ năng và công cụ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 76
2.6 Thanh trạng thái Agent: quản lý trajectory Agent nâng cao với thông tin meta . . . . . . . . . . 77
2.6.1 Agent Cơ sở lý thuyết của thanh trạng thái . . . . . . . . . . . . . . . . . . . . . . . . . . . 78
2.6.2 Agent Thành phần thanh trạng thái . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 82
2.6.3 Agent Vị trí cụ thể của thanh trạng thái trong ngữ cảnh . . . . . . . . . . . . . . . . . . . 83
2.6.4 Hai cách triển khai cập nhật trạng thái và chi phí bộ đệm . . . . . . . . . . . . . . . . . . 84
2.6.5 Từ bài đọc đến chính sách: Nhận thức về thời gian vật lý cho Agent . . . . . . . . . . . . . 86
2.6.6Triếtlýthiếtkế .......................................... 87
2.7Policynénngữcảnh............................................ 87
2.7.1 Tại sao cần nén: Vấn đề không chỉ là độ dài . . . . . . . . . . . . . . . . . . . . . . . . . . 87
2.7.2 Hoạt động bên trong của In-Context Learning (học trong ngữ cảnh): truy hồi thay vì suy
luận ................................................ 88
2.7.3 Nén và KV Cache: tưởng chừng như mâu thuẫn nhưng thực chất lại bổ sung cho nhau . . 89
2.7.4 Cơ chế nén phân lớp cấp sản xuất . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 92
2.7.5 Nguyên tắc thiết kế chiến lược nén . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 93
2.7.6 Cảm hứng thiết kế kiến trúc Agent . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 93
2.7.7 Cách ly khi nén: cách ly ngữ cảnh phụ Agent . . . . . . . . . . . . . . . . . . . . . . . . . 94
2.8Tómtắtchươngnày............................................ 94
Câuhỏitưduy................................................. 95
Chương 3 Bộ nhớ người dùng và cơ sở kiến thức 97
3.1Hệthốngbộnhớngườidùng....................................... 97
3.1.1 Đánh giá khả năng ghi nhớ: khung ba cấp độ . . . . . . . . . . . . . . . . . . . . . . . . . 98
3.1.2Phâncấpbộnhớ .........................................100
3.1.3 Bốn định dạng lưu trữ cho bộ nhớ người dùng . . . . . . . . . . . . . . . . . . . . . . . . . 101
3.1.4 Biểu diễn nâng cao: từ mã thực thi đến bộ nhớ được tham số hóa . . . . . . . . . . . . . . 103
3.1.5 Cơ sở khoa học nhận thức của trí nhớ người dùng . . . . . . . . . . . . . . . . . . . . . . . 106
3.1.6Trườnghợpkhungbộnhớ ....................................107
3.1.7Cơchếtổchứcvànénbộnhớ ..................................109
3.1.8 Bảo vệ quyền riêng tư: Giải mẫn cảm nhật ký . . . . . . . . . . . . . . . . . . . . . . . . . 110
3.2 Thông tin cơ bản về RAG: Xây dựng quy trình tiếp thu kiến thức cho Agent . . . . . . . . . . . . 110
3.2.1 Phân đoạn tài liệu (Chunking) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 112
3.2.2 Khả năng nhúng dày đặc: từ liên kết từ vựng đến hiểu ngữ nghĩa . . . . . . . . . . . . . . 113
3.2.3 Nhúng thưa thớt: truy xuất từ khóa khớp chính xác . . . . . . . . . . . . . . . . . . . . . . 115
ii
MỤC LỤC
3.2.4 Tìm kiếm kết hợp: Nghệ thuật đỉnh cao của cả hai thế giới . . . . . . . . . . . . . . . . . . 118
3.2.5 Trích xuất thông tin đa phương thức: Vượt ra ngoài ranh giới của văn bản . . . . . . . . . 120
3.3 Ngoài văn bản phẳng: Tổ chức và truy xuất kiến thức . . . . . . . . . . . . . . . . . . . . . . . . . 121
3.3.1 Lập chỉ mục có cấu trúc: Từ truy xuất thông tin đến mô hình hóa kiến thức . . . . . . . . 123
3.3.2 Mô hình hệ thống tập tin: tổ chức kiến thức với cấu trúc thư mục . . . . . . . . . . . . . . 126
3.3.3 Tính kịp thời và quản trị cơ sở tri thức . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 127
3.3.4 RAG thông minh: Sự chuyển đổi mô hình biến việc truy xuất kiến thức thành một công cụ 128
3.3.5 Mẹo RAG: Truy xuất theo ngữ cảnh . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 132
3.3.6 Trích xuất tri thức sâu từ tập dữ liệu: từ truy xuất thông tin đến khám phá tri thức . . . 134
3.4Tómtắtchươngnày............................................136
Câuhỏitưduy.................................................137
Chương 4 công cụ 139
4.1Phânloạicôngcụ.............................................139
4.2 Nguyên tắc chung của thiết kế công cụ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 141
4.2.1 Lựa chọn hình thức biểu hiện khả năng: công cụ chuyên dụng hoặc Skill + người thực thi
chung ...............................................141
4.2.2 Sự cân bằng giữa độ chi tiết của công cụ: Tích hợp và Tách biệt . . . . . . . . . . . . . . . 141
4.2.3 Thiết kế phổ biến của các công cụ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 142
4.2.4Nghệthuậtmôtảcôngcụ ....................................142
4.2.5 Độ trung thực của việc truyền tham số . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 143
4.2.6 Sự phát triển của thiết kế công cụ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 144
4.3 Hệ sinh thái công cụ: MCP và thách thức của việc lựa chọn công cụ . . . . . . . . . . . . . . . . . 145
4.4Côngcụnhậnthức ............................................148
4.5Côngcụthựcthi..............................................149
4.6Côngcụcộngtác .............................................155
4.7 Agent không đồng bộ theo hướng sự kiện . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 157
4.7.1 Tại sao cần có tính năng không đồng bộ . . . . . . . . . . . . . . . . . . . . . . . . . . . . 157
4.7.2 Xem xét nhu cầu thực sự theo sự kiện từ OpenClaw . . . . . . . . . . . . . . . . . . . . . . 158
4.7.3Côngcụkíchhoạtsựkiện ....................................159
4.7.4 Công cụ giao tiếp với người dùng . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 160
4.7.5 Nhận dạng ảo và môi trường thực thi biệt lập . . . . . . . . . . . . . . . . . . . . . . . . . 161
4.7.6Cơchếxửlýsựkiện........................................162
4.7.7 Triển khai dự án: Làm thế nào để mô hình đồng bộ hỗ trợ gián đoạn không đồng bộ . . . 166
4.7.8 Mâu thuẫn sâu sắc và định hướng tương lai . . . . . . . . . . . . . . . . . . . . . . . . . . . 169
4.8Khámphácôngcụtíchcực........................................172
4.8.1 Các phương pháp khám phá công cụ hiện có . . . . . . . . . . . . . . . . . . . . . . . . . . 172
4.8.2 Kỹ năng: Biến việc khám phá công cụ thành “truy cập theo yêu cầu”..........176
4.9Tómtắtchươngnày............................................177
Câuhỏitưduy.................................................178
Chương 5 Coding Agent và tạo mã 180
5.1CodingAgent ...............................................180
5.1.1 Mã hóa là khả năng cơ bản của Agent . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 180
5.1.2 Case: Từ Manus đến OpenClaw - Coding kernel của General Agent . . . . . . . . . . . . . 182
iii
MỤC LỤC
5.1.3Thiếtkếkhôngphiên .......................................184
5.1.4AntoàncủaCodingAgent....................................185
5.1.5 Quy trình tổng thể của Coding Agent . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 189
5.1.6 Thực hành Harness Engineering (kỹ thuật Harness) ở Coding Agent . . . . . . . . . . . . . 191
5.1.7Sựcốvàkhôiphụclỗi.......................................194
5.1.8 Kỹ năng triển khai Coding Agent . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 196
5.1.9 Công cụ tìm kiếm trong Coding Agent . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 198
5.1.10 Công cụ chỉnh sửa file trong Coding Agent . . . . . . . . . . . . . . . . . . . . . . . . . . 200
5.2 Code: Meta-ability của generic Agent . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 202
5.2.1Codenhưmộtcôngcụtưduy ..................................203
5.2.2 Mã làm ràng buộc cho các quy tắc kinh doanh . . . . . . . . . . . . . . . . . . . . . . . . . 204
5.2.3 Tạo đa phương tiện dựa trên mã . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 208
5.2.4Mãlàmbộđiềuhợphệthống ..................................211
5.2.5 Mã dưới dạng giao diện người dùng tổng quát . . . . . . . . . . . . . . . . . . . . . . . . . 213
5.2.6Mãtạomã:AgentBootstrap...................................218
5.3Tómtắtchươngnày............................................221
Câuhỏitưduy.................................................222
Chương 6 Đánh giá Agent 224
6.1Vídụđánhgiácụthể...........................................225
6.2Tựđộngđánhgiámôitrường ......................................227
6.2.1 Các thành phần cơ bản của môi trường đánh giá . . . . . . . . . . . . . . . . . . . . . . . . 227
6.2.2 Môi trường đánh giá loại lệnh gọi công cụ . . . . . . . . . . . . . . . . . . . . . . . . . . . . 228
6.2.3 Môi trường đánh giá tương tác giữa người và máy tính . . . . . . . . . . . . . . . . . . . . 229
6.3 Thiết kế bộ dữ liệu nhiệm vụ đánh giá . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 232
6.3.1 Những thách thức cốt lõi trong thiết kế tập dữ liệu nhiệm vụ . . . . . . . . . . . . . . . . . 232
6.3.2 Thiết kế mô tả nhiệm vụ chính xác . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 233
6.3.3 Thiết kế phân cấp độ phức tạp của nhiệm vụ . . . . . . . . . . . . . . . . . . . . . . . . . . 234
6.3.4 Đảm bảo tính xác thực và khách quan . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 235
6.3.5 Thiết kế hệ thống phân bổ nhiệm vụ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 235
6.3.6 Kiểm soát chất lượng dữ liệu và cải tiến lặp lại . . . . . . . . . . . . . . . . . . . . . . . . . 236
6.4Hệthốngchỉsốđánhgiá.........................................237
6.5Phươngphápđánhgiátựđộng .....................................239
6.5.1 LLM-as-a-Judge: Cốt lõi của đánh giá tự động . . . . . . . . . . . . . . . . . . . . . . . . . 240
6.5.2 So sánh theo cặp và xếp hạng mô hình . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 245
6.6 Lựa chọn mô hình dựa trên đánh giá . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 246
6.6.1 Các khía cạnh chính của việc lựa chọn . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 246
6.6.2 Phân tích chi phí của hệ thống Agent . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 248
6.6.3 Lặp lại liên tục theo định hướng đánh giá . . . . . . . . . . . . . . . . . . . . . . . . . . . . 250
6.7 Đánh giá ý nghĩa thống kê của kết quả . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 251
6.8ObservabilitycủaAgent .........................................253
6.9 Từ báo cáo Điểm chuẩn đến cải tiến hệ thống . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 255
6.9.1 Hiểu báo cáo điểm chuẩn: Nghệ thuật tìm ra vấn đề . . . . . . . . . . . . . . . . . . . . . . 255
6.9.2 Từ dữ liệu đến giả thuyết: Xây dựng lộ trình cải tiến . . . . . . . . . . . . . . . . . . . . . 256
6.9.3 Từ kết quả đến quyết định: Sự đánh đổi dựa trên dữ liệu . . . . . . . . . . . . . . . . . . . 257
iv