Xây dựng mô hình AI chatbot tư vấn học viên tại Trung tâm Ngoại ngữ - Tin học

Trong bối cảnh chuyển đổi số mạnh mẽ, nhu cầu ứng dụng công nghệ vào hoạt động tư vấn và hỗ trợ học viên tại các cơ sở giáo dục, đặc biệt là trung tâm đào tạo ngắn hạn, ngày càng gia tăng. Tuy nhiên, việc triển khai các hệ thống chatbot hiện đại, đặc biệt là những mô hình ngôn ngữ lớn (LLM), thường đòi hỏi hạ tầng tính toán mạnh và chi phí lớn, gây rào cản đáng kể cho các đơn vị có nguồn lực hạn chế, đặc biệt là tại Việt Nam. Nghiên cứu này trình bày một mô hình AI Chatbot tư vấn học viên hiệu quả, được thiết kế để hoạt động tối ưu trên nền tảng CPU mà không cần GPU hay API thương mại, nhằm giải quyết những thách thức này và nâng cao chất lượng hỗ trợ sinh viên.

Nhà nghiên cứu, kỹ sư phần mềm, giảng viên và quản lý tại các cơ sở giáo dục, đặc biệt những người quan tâm đến ứng dụng AI và chatbot trong môi trường tài nguyên hạn chế.

Nghiên cứu này giới thiệu việc phát triển một mô hình AI Chatbot tiên tiến nhằm cung cấp dịch vụ tư vấn hiệu quả cho học viên tại Trung tâm Ngoại ngữ - Tin học, Trường Đại học Kỹ thuật - Công nghệ Cần Thơ, đặc biệt trong bối cảnh các mô hình ngôn ngữ lớn thường yêu cầu hạ tầng phần cứng đắt đỏ. Phương pháp tiếp cận của nhóm tập trung vào việc tối ưu hóa hiệu suất trên nền tảng CPU, không phụ thuộc vào GPU hay các API thương mại tốn kém. Hệ thống được xây dựng trên nền tảng Rasa, kết hợp với mô hình LaBSE (Language-agnostic BERT Sentence Embedding) để xử lý ngôn ngữ tự nhiên, hỗ trợ đa ngôn ngữ và đặc biệt là tiếng Việt. Để quản lý dữ liệu, PostgreSQL được sử dụng để lưu trữ thông tin về khóa học, lịch học và lịch sử tương tác. Quy trình xử lý ngôn ngữ bao gồm các bước tiền xử lý chuyên sâu như chuẩn hóa Unicode, sửa lỗi chính tả tiếng Việt, loại bỏ từ dừng và tách từ bằng thư viện underthesea, nhằm đảm bảo độ chính xác và nhất quán của dữ liệu đầu vào. Kết quả đánh giá bằng kiểm định chéo 10-fold cho thấy mô hình đạt độ chính xác ấn tượng 98,1% trong phân loại ý định và 99,9% trong nhận diện thực thể, chứng minh hiệu quả và độ tin cậy cao. Thử nghiệm thực tế tại Trung tâm Ngoại ngữ - Tin học cho thấy hệ thống hoạt động ổn định với thời gian phản hồi trung bình 1,62 giây, tiêu thụ CPU và RAM thấp, khẳng định tính khả thi trong môi trường có tài nguyên hạn chế. Điều này đặc biệt có ý nghĩa trong việc thúc đẩy ứng dụng các giải pháp trí tuệ nhân tạo trong giáo dục mà không yêu cầu đầu tư lớn vào hạ tầng, mở ra khả năng nhân rộng mô hình 'Chatbot' này tại các cơ sở đào tạo tương tự, nâng cao chất lượng hỗ trợ và trải nghiệm học viên.