ĐẠI HỌC ĐÀ NẴNG
TRƯỜNG ĐẠI HỌC BÁCH KHOA
TRẦN UYÊN TRANG
KHAI PHÁ QUAN ĐIỂM VỚI KỸ THUẬT HỌC SÂU
(Opinion mining with deep learning)
LUẬN ÁN TIẾN SĨ KỸ THUẬT
ĐÀ NẴNG – 2023
ii
ĐẠI HỌC ĐÀ NẴNG
TRƯỜNG ĐẠI HỌC BÁCH KHOA
TRẦN UYÊN TRANG
KHAI PHÁ QUAN ĐIỂM VỚI KỸ THUẬT HỌC SÂU
(Opinion mining with deep learning)
Ngnh: Khoa học máy tính
M s: 9.48.01.01
LUẬN ÁN TIẾN SĨ KỸ THUẬT
Cán bộ hướng dẫn:
1. TS. Hoàng Thị Thanh Hà
2. TS. Đặng Hoài Phương
ĐÀ NẴNG – 2023
iii
LỜI CAM ĐOAN
Tôi xin cam đoan đây là công trình nghiên cứu do tôi thực hiện, dưới sự hướng
dẫn của TS. Hoàng Thị Thanh Hà và TS. Đặng Hoài Phương. Tôi cam đoan các kết quả
nghiên cứu được trình bày trong luận án là trung thực và không sao chép từ bất kỳ công
trình nghiên cứu nào khác. Mọi trích dẫn trong luận án đều đề cập đến nguồn gốc xuất
xứ rõ ràng và đầy đủ.
Tác giả
Trần Uyên Trang
iv
MỤC LỤC
LỜI CAM ĐOAN ........................................................................................................III
MỤC LỤC .................................................................................................................... IV
DANH MỤC THUẬT NGỮ VÀ TỪ VIẾT TẮT .................................................... VII
DANH MỤC BẢNG .................................................................................................... IX
DANH MỤC HÌNH ...................................................................................................... X
PHẦN MỞ ĐẦU ............................................................................................................ 1
1. TÍNH CẤP THIẾT CỦA LUẬN ÁN ........................................................................... 1
2. MỤC TIÊU, ĐỐI TƯỢNG VÀ PHẠM VI NGHIÊN CỨU CỦA LUẬN ÁN ...................... 4
3. CÁC ĐÓNG GÓP CỦA LUẬN ÁN ............................................................................. 5
4. BỐ CỤC CỦA LUẬN ÁN .......................................................................................... 6
CHƯƠNG 1- TỔNG QUAN VỀ KHAI PHÁ QUAN ĐIỂM VÀ KỸ THUẬT
HỌC SÂU ....................................................................................................................... 9
1.1. KHAI PHÁ QUAN ĐIỂM ......................................................................................... 9
1.2. CÁC CẤP ĐỘ KHAI PHÁ QUAN ĐIỂM .................................................................. 11
1.2.1. Khai phá quan điểm mức tài liệu .............................................................. 12
1.2.2. Khai phá quan điểm mức câu .................................................................... 12
1.2.3. Khai phá quan điểm mức khía cạnh hay mức đặc trưng ......................... 12
1.3. CÁC HƯỚNG NGHIÊN CỨU KHAI PHÁ QUAN ĐIỂM ............................................ 13
1.3.1. Hướng tiếp cận dựa trên ngữ liệu ............................................................. 14
1.3.2. Hướng tiếp cận máy học ............................................................................ 14
1.3.3. Các nghiên cứu liên quan ......................................................................... 16
1.4. MỘT SỐ HẠN CHẾ CỦA CÁC TIẾP CẬN KHAI PHÁ QUAN ĐIỂM HIỆN NAY ......... 24
1.5. HỌC SÂU VÀ NHÓM KỸ THUẬT HỌC SÂU ĐƯỢC SỬ DỤNG TRONG CÁC MÔ HÌNH
KHAI PHÁ QUAN ĐIỂM ĐỀ XUẤT ..................................................................... 30
1.5.1. Học sâu ....................................................................................................... 30
v
1.5.2. Các kỹ thuật học sâu phổ biến dùng trong xử lý ngôn ngữ tự nhiên và
khai phá quan điểm ............................................................................................... 34
1.6. ĐỀ XUẤT NGHIÊN CỨU: KHAI PHÁ QUAN ĐIỂM VỚI KỸ THUẬT HỌC SÂU ........ 46
1.7. KẾT LUẬN CHƯƠNG 1 ........................................................................................ 47
CHƯƠNG 2-TRÍCH RÚT KHÍA CẠNH TRONG KHAI PHÁ QUAN ĐIỂM VỚI
HƯỚNG TIẾP CẬN HỌC SÂU ................................................................................ 49
2.1. TRÍCH RÚT KHÍA CẠNH VỚI HƯỚNG TIẾP CẬN HỌC SÂU .................................. 49
2.2. MÔ HÌNH TRÍCH RÚT KHÍA CẠNH VỚI TIẾP CẬN HỌC SÂU ĐỀ XUẤT ................ 54
2.2.1. Mô hình tích hợp BiGRU-CRF cho trích rút khía cạnh .......................... 55
2.2.2. Mô hình tích hợp Bi-IndyLSTM-CRF cho trích rút khía cạnh ............... 59
2.3. KẾT QUẢ THỰC NGHIỆM.................................................................................... 64
2.3.1. Tập dữ liệu và công cụ sử dụng trong thực nghiệm ................................ 64
2.3.2. Kết quả thực nghiệm và đánh giá hiệu quả trích rút khía cạnh .............. 65
2.4. KẾT LUẬN CHƯƠNG 2 ........................................................................................ 67
CHƯƠNG 3-KHAI PHÁ QUAN ĐIỂM MỨC KHÍA CẠNH ĐA TÁC VỤ VỚI
HƯỚNG TIẾP CẬN HỌC SÂU ................................................................................ 68
3.1. KHAI PHÁ QUAN ĐIỂM MỨC KHÍA CẠNH ĐA TÁC VỤ ........................................ 68
3.2. MÔ HÌNH KHAI PHÁ QUAN ĐIỂM MỨC KHÍA CẠNH ĐA TÁC VỤ VỚI TIẾP CẬN
HỌC SÂU ĐỀ XUẤT .......................................................................................... 69
3.2.1. Mô hình CNN-BiGRU cho trích rút khía cạnh và quan điểm ................. 71
3.2.2. Mô hình CNN-IOB2 cho trích rút từ mục tiêu ......................................... 76
3.2.3. Mô hình MABSA cho trích rút và phân loại ba tác vụ tiếp theo: khía
cạnh, thực thể và quan điểm................................................................................. 82
3.3. KẾT QUẢ THỰC NGHIỆM CÁC MÔ HÌNH ............................................................ 89
3.3.1. Tập dữ liệu và công cụ sử dụng trong thực nghiệm ................................ 90
3.3.2. Kết quả thực nghiệm, đánh giá hiệu quả khai phá quan điểm đa tác vụ 91
3.4. KẾT LUẬN CHƯƠNG 3 ........................................................................................ 97
CHƯƠNG 4-KHAI PHÁ QUAN ĐIỂM MỨC KHÍA CẠNH ĐA TÁC VỤ, ĐA
MIỀN VỚI HƯỚNG TIẾP CẬN HỌC SÂU ............................................................ 99
