Bài giảng Vector hỗ trợ trong máy học (SVM)

Chia sẻ: Nguyễn Toàn | Ngày: | Loại File: PDF | Số trang:36

Thêm vào BST

Báo xấu

43
lượt xem 3
download

Download Vui lòng tải xuống để xem tài liệu đầy đủ

Bài giảng Vector hỗ trợ trong máy học (SVM) cung cấp cho người học những kiến thức như: Trực quan hóa kết quả mô hình; Support Vector Regression; Huấn luyện mô hình; Trực quan hóa dữ liệu;...Mời các bạn cùng tham khảo!

Chủ đề:

Bình luận(0) Đăng nhập để gửi bình luận!

Lưu

Nội dung Text: Bài giảng Vector hỗ trợ trong máy học (SVM)

SUPPORT VECTOR REGRESSION 1. Hồ Thái Ngọc 2. Lê Ngọc Huy 3. ThS. Võ Duy Nguyên 4. TS. Nguyễn Tấn Trần Minh Khang
DATASET
Dataset ─ Tên tập dữ liệu: Position Salaries. ─ Nguồn: https://www.superdatascience.com/pages/machine- learning. ─ Tập dữ liệu gồm 10 điểm dữ liệu, mỗi điểm dữ liệu gồm 3 thuộc tính, gồm: + Vị trí công việc (Position): mô tả tên một công việc. + Cấp bậc (Level): là một số nguyên trong khoảng 1 – 10, tương ứng với vị trí cao hay thấp trong một công ty. + Mức lương (Salary): là một số thực dương.
Dataset Position Level Salary Position Level Salary Business Analyst Region Manager Junior Consultant Partner Senior Consultant Senior Partner Manager C-level Country Manager CEO
Dataset ─Bài toán: Dự đoán mức lương của một người khi biết được cấp độ (vị trí) công việc của người đó. ─Ta sẽ sử dụng mô hình Support Vector Regression để giải quyết bài toán này.
TRỰC QUAN HÓA DỮ LIỆU
Trực quan hóa dữ liệu
Trực quan hóa dữ liệu ─ Đọc dữ liệu từ file csv và phân tách các giá trị + Giá trị đầu vào – ký hiệu là X + Giá trị đầu ra – ký hiệu là Y. 1. import pandas as pd 2. dataset = pd.read_csv("Position_Salaries.csv") 3. X = dataset.iloc[:, 1:-1].values 4. Y = dataset.iloc[:, -1].values.reshape(-1,1)
Trực quan hóa dữ liệu ─ Ta vẽ các điểm (level, salary) lên mặt phẳng tọa độ để xem xét sự tương quan giữa cấp độ công việc và mức lương. 5. import matplotlib.pyplot as plt 6. plt.scatter(X, Y, color = "red") 7. plt.title("Position Level vs Salary") 8. plt.xlabel("Position Level") 9. plt.ylabel("Salary (dollars/year)") 10.plt.show()
Trực quan hóa dữ liệu ─ Tập dữ liệu này không có dạng một đường thẳng. ─ Do đó, Linear Regression sẽ không hoạt động tốt trên tập dữ liệu này.
TIỀN XỬ LÝ DỮ LIỆU
Tiền xử lý dữ liệu ─ Trong thuật toán SVR, dữ liệu nên thỏa mãn 2 điều kiện sau: + Kỳ vọng bằng 0. + Phương sai bằng 1. Do đó, ta cần chuẩn hóa dữ liệu trước khi huấn luyện mô hình.
Tiền xử lý dữ liệu ─ Lớp StandardScaler trong module sklearn.preprocessing đã được xây dựng sẵn để chuẩn hóa dữ liệu về dạng trên. 11.from sklearn.preprocessing import StandardScaler 12.SC_X = StandardScaler() 13.SC_Y = StandardScaler() 14.X_trans = SC_X.fit_transform(X) 15.Y_trans = SC_Y.fit_transform(Y)
Tiền xử lý dữ liệu ─ Trực quan hóa dữ liệu đã chuẩn hóa. 16.plt.scatter(X_trans, Y_trans, color = "red") 17.plt.title("Position vs Salary Shape") 18.plt.xlabel("Position level in scaling") 19.plt.ylabel("Salary in scaling") 20.plt.show()
Tiền xử lý dữ liệu
SUPPORT VECTOR REGRESSION
Support Vector Regression ─ Support Vector Regression (SVR) là một thuật toán Regression (hồi quy) dựa trên Support Vector Machine. ─ Thuật toán này được sử dụng cho cả 2 loại dữ liệu: + Dữ liệu có phân phối tuyến tính. + Dữ liệu không có phân phối tuyến tính (phi tuyến).
Support Vector Regression ─ Thuật toán SVR (hay SVM) sẽ tìm một số vector đặc biệt (gọi là support vectors). ─ Mô hình (Model) dự đoán (predict) kết quả đầu ra của những điểm dữ liệu mới dựa trên các vector đặc biệt (support vectors) này.
Support Vector Regression
Support Vector Regression ─ Thuật toán SVR chuẩn, chỉ có thể dự đoán trên tập dữ liệu có phân phối tuyến tính. ─ Tuy nhiên, các thuật toán cải tiến của SVR, gọi là kernel-SVR, có thể hoạt động tốt trên cả những dữ liệu phi tuyến.