Xác suất điều kiện này không phụ thuộc vào . Vậy T(X) = (T1(X),…, Ts(X)) là
thống kê đủ đối với .
* Điều kiện cần
Giả sử (T1(X),…, Ts(X)) là thống kê đủ đối với . Theo Định nghĩa ta có
không phụ thuộc vào . Đặt
h(x1,…, xn) =
Ta biết rằng
Mà
Vậy ta có
Điều kiện cần được chứng minh.
Chứng minh định lí trong trường hợp phân phối liên tục xem trong [2].
Ví dụ 2.6. Giả sử (X1, X2,…, Xn) là mẫu ngẫu nhiên độc lập từ phân phối chuẩn
N(a; 2). Chứng minh rằng ; là thống kê đủ đối
với (a; 2).
Giải. Ta có hàm mật độ đồng thời của X1,…, Xn là
= g
trong đó h(x) = và g =
Theo Định lí 2.5, cặp ( ) là thống kê đủ đối với (a; 2)
Định nghĩa 2.7. Thống kê (X1,…, Xn) xác định trên không gian mẫu Rn và nhận
giá trị trong không gian T được gọi là ước lượng của hàm tham số ( ) (Theo
định nghĩa của thống kê thì (X) chỉ phụ thuộc X1,…, Xn mà không phụ thuộc ).
Định nghĩa 2.8. Ước lượng (X1,…, Xn) của hàm tham số () được gọi là ước
lượng không chệch nếu E (X1,…, Xn) = ( ).
Ví dụ 2.9. Giả sử (X1, X2,…, Xn) là mẫu ngẫu nhiên độc lập từ phân phối chuẩn
dạng tổng quát N(a; 2).
* Trung bình mẫu là ước lượng không chệch của a vì =
.
* Phương sai mẫu điều chỉnh là ước lượng không chệch
của 2. Thật vậy
=
* Phương sai mẫu không là ước lượng không chệch của 2
vì
Định nghĩa 2.10. Ước lượng (X1,…, Xn) của hàm tham số () được gọi là ước
lượng không chệch tốt nhất nếu:
i1. E (X1,…, Xn) = ( )
i2. D (X1,…, Xn) D *(X1,…, Xn)
trong đó *(X1,…, Xn) là ước lượng không chệch bất kỳ của ( ), còn E , D là
kí hiệu kỳ vọng toán và phương sai với điều kiện .
Định nghĩa 2.11. Ước lượng (X1,…, Xn) của tham số được gọi là ước lượng
vững nếu (X1,…, Xn) hội tụ về theo xác suất khi n , nghĩa là:
với > 0 tuỳ ý cho trước.
Ví dụ 2.12. Trong Ví dụ 2.9, là ước lượng vững của a. vì X1,…, Xn độc lập có
phân phối như nhau với EX1 = … = EXn = a và DX1 = 2;…; DXn = 2, nên theo
Định lí Trêbưsep ta có hội tụ về a theo xác suất khi n .
Chứng minh tương tự là ước lượng vững của .
Định nghĩa 2.13. Phân phối f(x, ) được gọi là chính quy nếu nó thoả mãn các
điều kiện sau:
i1) [x; f(x, ) > 0] không phụ thuộc vào .
i2)Đối với mỗi x và mỗi , tồn tại đạo hàm riêng (x, ).
i3) = 0
Số J( ) = được gọi là lượng thông tin Fisher về chứa trong X.
Định nghĩa 2.14. Ước lượng (X1, X2,…, Xn) của hàm tham số () được gọi là
không chệch chính quy nếu với mọi
nếu X có phân phối liên tục tuyệt đối
hoặc
nếu X có phân phối rời rạc
Định nghĩa trên có thể phát biểu như sau