HỒI QUI TUYẾN TÍNH
(Linear regression)
I. GIỚI THIỆU
Phân tích hồi qui (Regression) là kỹ thuật rất thường dùng trong thống kê y học
nhằm tiên đoán giá trị của một đặc điểm khi đã biết giá trị của một đặc điểm khác.
Như vậy, phân tích hồi qui chỉ giúp tiên đoán (hoặc ước lượng) khi 2 biến số có mối
tương quan khá tốt.
Sở dĩ gọi là hồi qui tuyến tính vì kỹ thuật chỉ giúp đo đạc các mối liên quan tuyến tính
(theo đường thẳng). Sở dĩ gọi là hồi đơn biến (simple linear regression) vì chỉ dùng 1
biến số này (gọi là biến số độc lập – independent variable hay biến số giải thích –
explanatory variable) để tiên đoán (hay ước lượng) ra biến số kia (biến số phụ thuộc –
dependent variable). Trong hồi qui đa biến – multiple regression có nhiều hơn 1
independent variable được sử dụng để tiên đoán.
II. THIẾT LẬP PHƯƠNG TRÌNH HỒI QUI MẪU (Sample regression equation)
Phương trình (pt) hồi qui mẫu là pt được thiết lập từ số liệu của 1 mẫu (rút ra từ
dân số) và sẽ được suy diễn như 1 pt hồi qui cho dân số (nếu thích hợp).
Khái niệm về đường thẳng vừa khít nhất (line of best fit)
Giống như trường hợp với Pearson r, giả định quan trọng nhất trong hồi qui tuyến tính
là 2 biến số được xem xét có mối liên quan tuyến tính với nhau. Nghĩa là một đường
thẳng có thể được sử dụng để mô tả mối liên quan này. Công thức đại số của pt đường
thẳng là:
y = a + bx
theo đó b là độ dốc (slope) của đường thẳng và a là điểm cắt (intercept) của đường
thẳng vào trục y.
Độ dốc cho biết sự thay đổi trung bình ở y có được khi x thay đổi. Độ dốc càng nhiều
(đường thẳng dựng đứng hơn) thì y cũng thay đổi nhiều hơn tương ứng với mỗi thay
đổi của x, và mối tương quan của 2 biến số cũng mạnh hơn.
Giá trị tại điểm cắt a cho biết giá trị trung bình của y khi x = 0.
y
x
Với 2 điểm bất kỳ, rất dễ để xác định phương trình đường thẳng. Tuy nhiên, khi có
nhiều điểm hơn (≥ 3 điểm), khó có thể tìm thấy 1 đường thẳng đi qua các điểm này
cùng 1 lúc ngoại trừ khi có mối tương quan tuyệt đối ± 1. Như vậy, trong hồi qui
tuyến tính, cần phải tìm một đường thẳng “vừa khít nhất” với các điểm. Đó cũng
chính là đường hồi qui (regression line).
Công thức của pt đường thẳng cho thấy tương ứng với mỗi giá trị của x, chỉ có 1 giá
trị của Y, và đây cũng là phép đo chính xác, nghĩa là không có sai số. Trong thực tế,
hầu hết các khảo sát về mối tương quan đều không chính xác. Do vậy, pt hồi qui lẽ ra
nên được viết là:
y = a + bx + e
theo đó e (error) là sai số. Chính điều này đã thừa nhận là pt tiên đoán không thể giúp
tiên đoán y chính xác tuyệt đối được. Như vậy, với một x cho trước, có thể có nhiều
hơn một y.
Thí dụ chứng minh:
x Y x Y
0 4 3 10
0 5 3 11
0 6 3 12
1 6 4 12
1 7 4 13
1 8 4 14
2 8 5 14
2 9 5 15
2 10 5 16
Với mỗi giá trị của x biết trước, có 3 giá trị khác nhau của y. Như vậy, đường hồi qui
không thể đi qua tất cả các điểm có tọa độ (x, y).
Đường thẳng trong đồ thị phân tán là đường “vừa khít nhất” cho tất cả các điểm.
Khoảng cách giữa các điểm và đường hồi qui tiêu biểu cho sai số (e) trong công thức.
Khoảng cách giữa các điểm và đường “vừa khít nhất” được tính:
di = yi –
y
y
là giá trị tiên đoán được của Y từ x
là số trung bình của dân số (bao gồm) các Y có thể
có
tương ứng với một x đã cho
trước.
Tính tổng độ lệch (từ đường hồi qui) bình phương (sum of the squared deviations) để
đo tổng độ vừa khít của đường hồi qui:
(Sum of Squared Errors) SSE =
2 2
( )
i i
d y y
Đường hồi qui đi qua các số trung bình của các giá trị Y có thực (observed)
tương ứng với x đã cho trước.