Bài giảng Học máy: Chương 2 - Hồi quy

Trong kỷ nguyên số, khả năng dự đoán và mô hình hóa các mối quan hệ giữa dữ liệu là một yếu tố then chốt cho việc ra quyết định trong nhiều lĩnh vực như kinh tế, kinh doanh và khoa học. Kỹ thuật **hồi quy** đóng vai trò nền tảng trong phân tích thống kê và **học máy giám sát**, giúp chúng ta hiểu và định lượng tác động của các yếu tố đầu vào lên một biến mục tiêu. Chương này giới thiệu **bài toán hồi quy**, làm rõ các khái niệm cơ bản và tầm quan trọng của nó trong việc xây dựng các **mô hình dự đoán** chính xác. Đặc biệt, nội dung sẽ tập trung vào **hồi quy tuyến tính**, một trong những phương pháp cốt lõi, để từ đó đặt nền móng vững chắc cho việc nghiên cứu và ứng dụng các mô hình phức tạp hơn.

Sinh viên, nhà nghiên cứu, và các chuyên gia trong lĩnh vực khoa học dữ liệu, kinh tế, kinh doanh, hoặc bất kỳ ai quan tâm đến phân tích dự đoán và mô hình thống kê.

Chương này cung cấp một cái nhìn tổng quan về **bài toán hồi quy**, một kỹ thuật **học máy giám sát** thiết yếu được dùng để dự đoán giá trị của một biến đầu ra (hay còn gọi là **biến phụ thuộc**) dựa trên mối quan hệ với một hoặc nhiều **biến độc lập**. Chương trình bày định nghĩa cơ bản của **hồi quy** và minh họa bằng các ví dụ thực tế. Các loại mô hình **hồi quy** phổ biến được giới thiệu bao gồm **hồi quy tuyến tính**, hồi quy đa thức, và các biến thể nâng cao như hồi quy Ridge/Lasso, làm nổi bật mục tiêu và nguyên lý hoạt động của từng loại. Một phần quan trọng của chương dành để trình bày các chỉ số **đánh giá mô hình hồi quy**, bao gồm Sai số bình phương trung bình (MSE), Căn bậc hai của sai số bình phương trung bình (RMSE), Sai số tuyệt đối trung bình (MAE), Sai số phần trăm tuyệt đối trung bình (MAPE) và Hệ số xác định bội R², nhằm giúp người đọc hiểu cách đo lường độ chính xác và hiệu quả dự đoán của mô hình. Đặc biệt, chương đi sâu vào **hồi quy tuyến tính đơn giản**, giải thích chi tiết cấu trúc phương trình và ý nghĩa của các hệ số. Hai **phương pháp ước lượng** chính để xác định các hệ số hồi quy được trình bày là **phương pháp ước lượng Bình phương nhỏ nhất (OLS)**, với mục tiêu cực tiểu hóa tổng bình phương sai số, và **phương pháp Gradient Descent**, một thuật toán tối ưu lặp để tìm cực tiểu hàm mất mát thông qua việc cập nhật dần các hệ số theo hướng ngược độ dốc. Sự kết hợp giữa lý thuyết và các **phương pháp ước lượng** này trang bị cho người đọc kiến thức nền tảng vững chắc để xây dựng và **đánh giá mô hình** dự đoán trong thực tiễn.