HỒI QUY TUYẾN TÍNH
PGS. TS. Ngô Hoàng Long
Trường Đại học Sư phạm Hà Nội
2018
PGS. TS. Ngô Hoàng Long Trường Đại học Sư phạm Hà NộiHỒI QUY TUYẾN TÍNH 2018 1 / 21
Mô hình
Giả sử ta có một cặp bnn (X,Y)và bnn Ylà phụ thuộc tuyến tính với X
và một nhiễu ngẫu nhiên
Y=f(X) + ǫ=β0+β1X+ǫ,
nhiễu ǫcó phân phối chuẩn N(0, σ2).
Xđược gọi là biến độc lập,
Ylà biến phụ thuộc hay biến đáp ứng
hàm f(x) = β0+β1xlà hàm hồi quy tuyến tính.
PGS. TS. Ngô Hoàng Long Trường Đại học Sư phạm Hà NộiHỒI QUY TUYẾN TÍNH 2018 2 / 21
Mẫu ngẫu nhiên (X1,Y1),...,(Xn,Yn)quan sát được từ cặp bnn
(X,Y), khi đó
Yi=β0+β1Xi+ǫi,
với ǫ1, . . . , ǫnlà dãy bnn độc lập có cùng phân phối chuẩn N(0, σ2).
Ta có ba tham số chưa biết là β0, β1và σ2và ta sẽ dựa vào mẫu
quan sát được (X1,Y1),...,(Xn,Yn)để ước lượng chúng.
PGS. TS. Ngô Hoàng Long Trường Đại học Sư phạm Hà NộiHỒI QUY TUYẾN TÍNH 2018 3 / 21
Ví dụ
Chiều cao của cha và chiều cao của con
Số lượng trẻ sinh ra theo từng năm
Thời gian học và điểm số
Điểm trung bình đầu vào và điểm trung bình đầu ra
PGS. TS. Ngô Hoàng Long Trường Đại học Sư phạm Hà NộiHỒI QUY TUYẾN TÍNH 2018 4 / 21
Hàm hợp lý
Các đại lượng X1,...,Xncó thể là ngẫu nhiên hoặc tất định. Tuy
nhiên trong chương này ta sẽ giả sử X1,...,Xnlà các đại lượng
không ngẫu nhiên.
Khi đó Yilà bnn có phân phối chuẩn N(f(Xi), σ2).
Do đó hàm hợp lý của dãy (Y1,...,Yn)là
L(Y1,...,Yn;β0, β1, σ2) = (2πσ)−n/2e−1
2σ2Pn
i=1(Yi−f(Xi))2.
Ta đi tìm ˆ
β0,ˆ
β1,ˆσ2làm cực đại hàm hợp lý L.
PGS. TS. Ngô Hoàng Long Trường Đại học Sư phạm Hà NộiHỒI QUY TUYẾN TÍNH 2018 5 / 21