NGÔN NGỮ HỌC TÍNH TOÁN: NHỮNG XU HƯỚNG MỚI, TRIỂN VỌNG VÀ THÁCH THỨC | 285
...................................................................................................................................................................................
ỨNG DỤNG PROMPT ENGINEERING
NHẰM KHAI THÁC HIỆU QUẢ KHẢ NĂNG HỖ TRỢ
HỌC NGOẠI NGỮ CỦA CHAT GPT
NGUYỄN LÊ THANH TRÚC*
Tóm tắt: Với những tiến bộ vượt bậc của cách mạng công nghiệp 4.0, đóng góp của
trí tuệ nhân tạo (AI) dần trở nên có ảnh hưởng sâu rộng đến nhiều lĩnh vực như giáo dục, y tế
và giải trí như các ứng dụng ChatGPT, Siri, Copilot, cũng như các công cụ dịch thuật tự động.
Để tận dụng tối đa AI, kỹ năng “giao tiếp” hiệu quả qua các câu lệnh đầu vào (prompts) là rất
quan trọng. Bài báo này nghiên cứu về ứng dụng của Prompt Engineering nhằm khai thác hiệu
quả khả năng hỗ trợ học ngoại ngữ của Chat GPT, minh chứng qua việc cải thiện kỹ năng
Writing trong tiếng Anh. Kết quả cho thấy, việc sử dụng Prompt Engineering giúp AI hiểu và
đáp ứng chính xác yêu cầu của người dùng, từ đó nâng cao hiệu quả học tập. Qua đó, nghiên
cứu minh chứng tiềm năng lớn của Prompt Engineering trong việc hỗ trợ học tập và phát triển
kỹ năng ngôn ngữ.
Từ khóa: trí tuệ nhân tạo, ChatGPT, Prompt Engineering, prompt, hỗ trợ học tập.
1. Mở đầu
Những tiến bộ vượt bậc trong công nghệ gần đây đã tạo ra những thay đổi quan trọng
trong lĩnh vực giáo dục, mở ra nhiều cơ hội mới cho việc dạy và học mọi lúc, mọi nơi, đồng
thời cung cấp các công cụ và phương pháp mới nhằm cải thiện kết quả học tập và hỗ trợ đổi
mới trong giảng dạy. Trí tuệ nhân tạo trong giáo dục là một đóng góp quan trọng, mặc dù có
những lo ngại đã và đang được đề cập đến trong các cuộc tranh luận về AI cũng như cung cấp
phân tích chi tiết về cách AI có thể ảnh hưởng đến cả người dạy và người học. Có hai hướng
tiếp cận chính khi áp dụng các phương pháp AI: một là thiết kế và tạo ra môi trường học tập
tương tác để hỗ trợ quá trình học qua thực hành, và hai là xây dựng hệ thống dạy kèm bằng
cách điều chỉnh các hướng dẫn để phù hợp với trình độ của từng học sinh. Những thách thức
này làm nổi bật sự cần thiết của kỹ thuật Prompt Engineering trong việc cải thiện khả năng và
hiệu suất của các mô hình AI, đặc biệt là các mô hình ngôn ngữ lớn như GPT-3 và GPT-4.
Một nghiên cứu của Pranab Sahoo và cộng sự [1] đã nhấn mạnh rằng việc thiếu Prompt
Engineering khi sử dụng các mô hình ngôn ngữ lớn (LLMs) như GPT-3 và GPT-4 dẫn đến
nhiều hạn chế đáng kể. Ví dụ, nếu không có các kỹ thuật Prompt Engineering, mô hình AI có
thể gặp khó khăn trong việc hiểu ngữ cảnh và đưa ra các phản hồi không chính xác hoặc không
hiệu quả. Điều này có thể dẫn đến việc chi phí tính toán cao hơn do thiếu tối ưu hóa trong xử
lý và phân tích dữ liệu. Ngoài ra, các mô hình AI có thể gặp khó khăn trong việc mở rộng
* ThS, Trường Đại học Sài Gòn; Email: nlttruc@sgu.edu.vn
286 | KỶ YẾU HỘI THẢO KHOA HỌC QUỐC GIA 2024
...................................................................................................................................................................................
phạm vi và độ phức tạp của các phản hồi, làm giảm khả năng tùy chỉnh và thích ứng với các
yêu cầu cụ thể của người dùng. Bên cạnh đó, nghiên cứu của Radford và cộng sự [2] về Zero-
Shot Prompting chỉ ra rằng, không sử dụng Prompt Engineering có thể làm giảm khả năng
thực hiện các nhiệm vụ mới mà không cần dữ liệu đào tạo mở rộng. Wei và cộng sự [3] cũng
chỉ ra rằng, việc sử dụng kỹ thuật Chain-of-Thought (CoT) giúp cải thiện khả năng suy luận
và logic của các mô hình AI, điều này khó đạt được nếu thiếu Prompt Engineering. Tương tự,
kỹ thuật Auto-CoT được Zhang và cộng sự [4] giới thiệu giúp tạo ra các chuỗi suy luận tự
động, nâng cao hiệu suất mà không cần đến công việc thủ công phức tạp.
Các nghiên cứu này khẳng định tầm quan trọng của Prompt Engineering trong việc tối
ưu hóa và nâng cao hiệu suất của các mô hình AI, đặc biệt là trong lĩnh vực giáo dục và hỗ trợ
học tập. Những thách thức gặp phải khi thiếu Prompt Engineering nhấn mạnh sự cần thiết của
việc sử dụng kỹ thuật này để đảm bảo AI hoạt động hiệu quả và đáng tin cậy.
2. Nội dung nghiên cứu
2.1. Mô hình ngôn ngữ lớn (Large Language Model – LLMs)
Các mô hình ngôn ngữ lớn (LLMs) như GPT-3 và GPT-4 là những thành tựu nổi bật
trong lĩnh vực trí tuệ nhân tạo, đặc biệt trong xử lý ngôn ngữ tự nhiên (NLP). LLMs được huấn
luyện trên các tập dữ liệu khổng lồ từ internet, cho phép chúng hiểu và tạo ra văn bản với ngữ
cảnh và ngữ pháp phức tạp. GPT-3, với 175 tỷ tham số, là một trong những mô hình ngôn ngữ
mạnh mẽ nhất hiện nay, được thiết kế bởi OpenAI để thực hiện nhiều nhiệm vụ như dịch thuật,
viết lách, và trả lời câu hỏi [5] [6].
LLMs hoạt động dựa trên cơ chế transformer, một kiến trúc mạng nơ-ron đã cải thiện
hiệu suất của các mô hình NLP đáng kể. Transformer sử dụng cơ chế chú ý tự nhiên (self-
attention) để xử lý dữ liệu đầu vào song song, giúp mô hình hiểu và duy trì ngữ cảnh trên toàn
bộ đoạn văn bản dài. Điều này khác biệt so với các mô hình trước đây như RNN và LSTM
vốn gặp khó khăn khi xử lý các đoạn văn bản dài và phức tạp. Nghiên cứu từ Brown và các
cộng sự [7] đã chứng minh rằng các LLM như GPT-3 có khả năng thực hiện nhiều nhiệm vụ
mà không cần tinh chỉnh thêm, chỉ cần được cung cấp lời nhắc phù hợp (prompt), làm nổi bật
sức mạnh của các mô hình này trong xử lý ngôn ngữ tự nhiên.
2.2. Prompt Engineering
Prompt Engineering là một lĩnh vực đang phát triển nhanh chóng trong ngành trí tuệ
nhân tạo (AI) và xử lý ngôn ngữ tự nhiên (NLP). Nó tập trung vào việc thiết kế và tối ưu hóa
các câu lệnh hoặc “promp” để tương tác hiệu quả với các mô hình ngôn ngữ lớn (LLMs) như
GPT-3 và GPT-4. Bằng cách cung cấp ngữ cảnh và hướng dẫn chi tiết qua các lời nhắc, người
dùng có thể kiểm soát và định hướng đầu ra của mô hình để đạt được kết quả mong muốn.
Các kỹ thuật phổ biến của Prompt Engineering:
NGÔN NGỮ HỌC TÍNH TOÁN: NHỮNG XU HƯỚNG MỚI, TRIỂN VỌNG VÀ THÁCH THỨC | 287
...................................................................................................................................................................................
2.2.1 Zero-Shot Prompting
Zero-Shot Prompting là kỹ thuật mà mô hình được cung cấp một lời nhắc mô tả nhiệm
vụ mà không có bất kỳ ví dụ nào. Mô hình phải dựa vào kiến thức đã học cùng kinh nghiệm
từ dữ liệu huấn luyện để xử lý và hoàn thành nhiệm vụ. Nghĩa là kỹ thuật này không yêu cầu
dữ liệu huấn luyện bổ sung cho nhiệm vụ cụ thể. Thay vào đó, lời nhắc cung cấp ngữ cảnh và
yêu cầu mô hình xử lý dựa trên kiến thức đã học từ quá trình huấn luyện ban đầu.
Ví dụ:
Lời nhắc: “Translate the following English text to French: 'Hello, how are
you?”
Quá trình: Mô hình phân tích lời nhắc và hiểu rằng nhiệm vụ là dịch từ tiếng
Anh sang tiếng Pháp. Dựa trên kiến thức đã học, mô hình dịch câu “Hello, how are you”?
thành “Bonjour, comment ça va”?
Zero-shot Prompting mở ra nhiều cơ hội mới cho các ứng dụng trong lĩnh vực xử lý
ngôn ngữ tự nhiên. Với khả năng thực hiện đa nhiệm mà không cần dữ liệu huấn luyện bổ
sung, mô hình có thể được áp dụng trong nhiều lĩnh vực như dịch máy, tóm tắt văn bản, tạo
câu hỏi, và nhiều ứng dụng khác. Điều này mở rộng khả năng sáng tạo và ứng dụng của AI
trong cuộc sống hàng ngày và công việc.
Dù Zero-shot Prompting rất linh hoạt, nhưng độ chính xác của kết quả có thể không
cao bằng các phương pháp sử dụng prompt phức tạp khác. Vì mô hình không được huấn luyện
cho các nhiệm vụ cụ thể, khả năng hiểu và xử lý thông tin của nó có thể không hoàn toàn chính
xác. 2.2.2 Few-Shot Prompting
Few-Shot Prompting cung cấp cho mô hình một số lượng nhỏ thông tin thông qua ví
dụ đầu vào-đầu ra mong muốn để mô hình hiểu nhiệm vụ và thực hiện theo. Dựa trên việc
phân tích các ví dụ đầu vào - đầu ra được cung cấp, sau khi hiểu mối quan hệ của chúng, từ đó
mô hình suy ra các quy luật hoặc mẫu chung để giải quyết nhiệm vụ. Khi gặp một prompt mới,
ChatGPT sử dụng những quy luật đã học để đưa ra kết quả tương ứng.
Ví dụ:
Lời nhắc: "Translate the following English text to French: “Hello, how are
you”? -> “Bonjour, comment ça va”?. Now translate this: “Good morning”.
Quá trình: Mô hình sử dụng ví dụ đầu tiên để hiểu rằng “Hello, how are you”?
được dịch thành “Bonjour, comment ça va”?. Sau đó, áp dụng mẫu này để dịch “Good
morning” “thành "Bonjour”.
So với Zero-shot Prompting, Few-shot Prompting mang lại nhiều ưu điểm vượt trội,
giúp tối ưu hóa hiệu quả của prompt và nâng cao khả năng xử lý ngôn ngữ tự nhiên của
ChatGPT. Việc cung cấp cv dụ minh họa đóng vai trò quan trọng, giúp ChatGPT hiểu rõ yêu
cầu của prompt và đưa ra câu trả lời chính xác hơn, giảm thiểu sai sót do hiểu nhầm cũng như
288 | KỶ YẾU HỘI THẢO KHOA HỌC QUỐC GIA 2024
...................................................................................................................................................................................
làm rõ ý định của người dùng thông qua các ví dụ cụ thể, giúp giảm bớt sự mơ hồ trong các
yêu cầu có nhiều ý nghĩa khác nhau. Kỹ thuật này khuyến khích ChatGPT “tự học” và “khái
quát hóa” kiến thức, giúp mô hình phân tích, suy luận và áp dụng các quy luật vào các tình
huống mới thay vì chỉ ghi nhớ các câu trả lời có sẵn. Bằng cách cung cấp ví dụ, người dùng
hướng dẫn ChatGPT cách hoàn thành nhiệm vụ, giúp rút ngắn thời gian thử nghiệm và tinh
chỉnh prompt, từ đó tiết kiệm thời gian và công sức.
Few-shot Prompting, mặc dù mang lại nhiều lợi ích, vẫn gặp phải những hạn chế liên
quan đến chất lượng và số lượng ví dụ, độ chính xác, khả năng tổng quát hóa, phức tạp trong
thiết kế ví dụ, hiệu suất không đồng đều, và yêu cầu tài nguyên tính toán. Những yếu tố này
cần được xem xét kỹ lưỡng khi áp dụng Few-shot Prompting vào các ứng dụng thực tế.
2.2.3 Chain-of-Thought (CoT) Prompting
CoT Prompting hướng dẫn mô hình thực hiện suy luận từng bước để đạt được câu trả
lời logic và chính xác hơn. Kỹ thuật này yêu cầu mô hình suy luận qua nhiều bước logic để
đạt đến kết quả cuối cùng. Điều này giúp mô hình xử lý các nhiệm vụ phức tạp mà đòi hỏi
nhiều bước tính toán hoặc lý luận.
Ví dụ:
Lời nhắc: “Let's solve this step-by-step. First, identify the variables. Then write
down the equations. Finally, solve for the unknown”.
Quá trình: Mô hình thực hiện từng bước được chỉ dẫn. Đầu tiên, xác định các
biến trong bài toán, sau đó viết phương trình và cuối cùng giải phương trình để tìm ra kết quả.
CoT Prompting giúp mô hình xử lý các nhiệm vụ phức tạp hơn bằng cách hướng dẫn
mô hình thực hiện suy luận từng bước, từ đó cải thiện khả năng giải quyết các bài toán yêu
cầu tư duy logic và phức tạp. Phương pháp này cho phép mô hình cung cấp các bước suy luận
rõ ràng, giúp người dùng hiểu cách mô hình đưa ra kết quả. Ngoài ra, CoT Prompting giúp
giảm sai sót bằng cách cho phép mô hình kiểm tra lại các bước suy luận của mình. Mỗi bước
trong quá trình suy luận đều có thể được đánh giá và điều chỉnh, dẫn đến kết quả chính xác
hơn so với việc đưa ra câu trả lời trực tiếp từ đầu. Điều này giúp mô hình trở nên linh hoạt và
hiệu quả hơn trong việc giải quyết các nhiệm vụ mới hoặc không quen thuộc.
Việc thiết kế một prompt hiệu quả cho CoT đòi hỏi người dùng cần hiểu rõ cách mô
hình suy luận và cung cấp các bước logic chính xác để mô hình có thể học hỏi và thực hiện
đúng nhiệm vụ. CoT Prompting có thể yêu cầu điều chỉnh liên tục các bước suy luận để đạt
được kết quả tốt nhất. Vì thế, cần yêu cầu nhiều tài nguyên tính toán hơn do việc xử lý các
bước suy luận phức tạp. Điều này có thể dẫn đến việc tiêu tốn nhiều thời gian và năng lượng
hơn, đặc biệt khi áp dụng trên các mô hình lớn. Quá trình suy luận từng bước có thể làm chậm
trễ việc đưa ra kết quả cuối cùng, không phù hợp cho các ứng dụng yêu cầu tốc độ xử lý cao
và thời gian phản hồi nhanh. Mặc dù CoT Prompting có thể cải thiện hiệu suất trong nhiều
NGÔN NGỮ HỌC TÍNH TOÁN: NHỮNG XU HƯỚNG MỚI, TRIỂN VỌNG VÀ THÁCH THỨC | 289
...................................................................................................................................................................................
trường hợp, nhưng nó có thể không hiệu quả trong mọi nhiệm vụ, đặc biệt là những nhiệm vụ
đơn giản không yêu cầu suy luận từng bước.
2.2.4 Self-Consistency
Self-Consistency dựa trên việc kiểm tra tính nhất quán của kết quả đầu ra từ nhiều
phiên bản của cùng một mô hình hoặc từ nhiều lần chạy của mô hình với cùng một prompt,
nhằm tăng độ tin cậy của câu trả lời cuối cùng.
Cơ chế hoạt động của Self-Consistency: Khi mô hình nhận một prompt, nó sẽ tạo ra
nhiều kết quả đầu ra qua nhiều lần chạy độc lập. Các kết quả này sau đó được so sánh và phân
tích để tìm ra những điểm chung và sự nhất quán giữa các lần chạy. Sau đó, những kết quả
không phù hợp hoặc không nhất quán sẽ bị loại bỏ mà chỉ giữ lại những kết quả có sự đồng
thuận cao, đảm bảo tính chính xác và đáng tin cậy.
Ví dụ:
Giả sử chúng ta sử dụng một mô hình ngôn ngữ lớn để trả lời câu hỏi: "Năm nào thế
chiến thứ hai kết thúc?"
- Bước 1: Mô hình sẽ tạo ra nhiều câu trả lời từ nhiều lần chạy:
Lần chạy 1: “Thế chiến thứ hai kết thúc vào năm 1945”.
Lần chạy 2: “Thế chiến thứ hai kết thúc vào năm 1946”.
Lần chạy 3: “Thế chiến thứ hai kết thúc vào năm 1945”.
- Bước 2: Phân tích kết quả, chúng ta thấy rằng “1945” xuất hiện hai lần và “1946”
xuất hiện một lần.
- Bước 3: Chọn câu trả lời có sự nhất quán cao nhất, trong trường hợp này là "Thế
chiến thứ hai kết thúc vào năm 1945."
Self-Consistency là một kỹ thuật hữu ích trong Prompt Engineering, giúp tăng độ tin
cậy và chính xác của các mô hình ngôn ngữ lớn bằng cách kiểm tra tính nhất quán của kết quả
đầu ra từ nhiều lần chạy. Mặc dù có nhiều lợi ích, nhưng kỹ thuật này cũng có một số hạn chế
liên quan đến tài nguyên tính toán và thời gian xử lý. Sự kết hợp của Self-Consistency với các
kỹ thuật khác có thể giúp nâng cao hiệu suất tổng thể của các hệ thống Al một cách hiệu quả
và chính xác hơn.
2.3. Các công thức xây dựng cấu trúc viết Prompt phổ biến
a) Công thức 1: R-T-F
R-T-F là viết tắt của Role (Vai trò), Task (Nhiệm vụ), Format (Định dạng) - 3 yếu tố
giúp prompt của bạn trở nên rõ ràng, mạch lạc, dễ hiểu đối với AI.
o Role: Xác định vai trò của ChatGPT, bạn muốn nó đóng vai trò gì? Chuyên gia
marketing? Chuyên viên tư vấn bất động sản? Hay là một nhà sáng tạo nội dung?
o Task: Nêu rõ nhiệm vụ cụ thể mà ChatGPT cần thực hiện, ví dụ: viết nội dung
quảng cáo, phân tích thị trường, tạo kịch bản video,…