Tóm tắt Luận văn Thạc sĩ: Phân loại câu hỏi pháp quy tiếng Việt sử dụng mô hình BERT

Trong bối cảnh nhu cầu truy vấn thông tin ngày càng tăng, các hệ thống hỏi đáp tự động đóng vai trò thiết yếu, với mục tiêu cung cấp câu trả lời chính xác và kịp thời. Một trong những bước quan trọng đầu tiên của các hệ thống này là phân loại câu hỏi, nhằm định hướng cho quá trình xử lý tiếp theo. Đặc biệt, đối với các văn bản pháp quy tiếng Việt, việc phân loại câu hỏi trở nên phức tạp do tính chất đa lĩnh vực của các quy định pháp luật, dẫn đến yêu cầu về phân loại đa nhãn. Luận văn này tập trung giải quyết bài toán phân loại câu hỏi pháp quy tiếng Việt bằng cách ứng dụng mô hình BERT, một mô hình học sâu tiên tiến, nhằm nâng cao độ chính xác và hiệu quả của việc truy xuất thông tin pháp lý.

Nghiên cứu sinh, học giả, chuyên gia trong lĩnh vực Xử lý ngôn ngữ tự nhiên, Trí tuệ nhân tạo, Khoa học máy tính quan tâm đến hệ thống hỏi đáp và phân loại văn bản chuyên ngành, đặc biệt là văn bản pháp luật tiếng Việt, cùng với các nhà phát triển và ứng dụng công nghệ trong ngành pháp lý.

Nghiên cứu này giải quyết thách thức trong việc phân loại tự động các câu hỏi pháp quy tiếng Việt, một nhiệm vụ phức tạp do đặc thù một câu hỏi có thể liên quan đến nhiều lĩnh vực luật khác nhau, đòi hỏi phương pháp phân loại đa nhãn. Để nâng cao hiệu quả tra cứu thông tin pháp lý, luận văn đề xuất và triển khai một mô hình phân loại dựa trên BERT (Bidirectional Encoder Representations from Transformers). Mô hình BERT, với khả năng học biểu diễn ngữ cảnh hai chiều từ dữ liệu không nhãn, đã chứng minh được ưu thế vượt trội so với các phương pháp truyền thống như SVM và các mạng nơ-ron khác trong việc nắm bắt ngữ nghĩa phức tạp của ngôn ngữ.

Luận văn đã thực hiện một quy trình nghiên cứu toàn diện, từ việc thu thập và tiền xử lý kho ngữ liệu câu hỏi pháp quy, xây dựng tập nhãn đa lĩnh vực, đến việc huấn luyện và đánh giá mô hình. Kết quả thực nghiệm cho thấy mô hình BERT đạt hiệu suất cao, với độ đo F1 lên đến 89.47%, vượt trội so với các thuật toán khác. Thành công của nghiên cứu không chỉ góp phần cải thiện đáng kể độ chính xác trong việc phân loại câu hỏi pháp quy, mà còn mở ra hướng ứng dụng tiềm năng của các mô hình ngôn ngữ lớn trong lĩnh vực pháp lý tại Việt Nam, hỗ trợ các hệ thống hỏi đáp pháp luật trở nên thông minh và hiệu quả hơn, giúp người dùng rút ngắn thời gian tìm kiếm thông tin cần thiết.