Bài giảng Lý thuyết xác suất và thống kê toán - Bài 8: Ước lượng tham số

Chia sẻ: _ _ | Ngày: | Loại File: PDF | Số trang:22

Thêm vào BST

Báo xấu

3
lượt xem 1
download

Download Vui lòng tải xuống để xem tài liệu đầy đủ

Bài giảng "Lý thuyết xác suất và thống kê toán - Bài 8: Ước lượng tham số" trình bày các nội dung: Ước lượng tham số tổng thể, ước lượng điểm, ước lượng bằng khoảng tin cậy. Mời các bạn cùng tham khảo nội dung chi tiết.

Chủ đề:

Bình luận(0) Đăng nhập để gửi bình luận!

Lưu

Nội dung Text: Bài giảng Lý thuyết xác suất và thống kê toán - Bài 8: Ước lượng tham số

BÀI 8 - ƯỚC LƯỢNG THAM SỐ ▪ 8.1. Ước lượng tham số tổng thể ▪ 8.2. Ước lượng điểm ▪ 8.3. Ước lượng bằng khoảng tin cậy [1] Chương 7, trang 389 – 420, 431 – 437, 440 – 445 [2] Mục 6, trang 46 - 54 [3] Chapter 7, pp. 284 - 327 LÝ THUYẾT XÁC SUẤT VÀ THỐNG KÊ TOÁN – BỘ MÔN TOÁN KINH TẾ - www.mfe.neu.edu.vn 163
8.1. KHÁI NIỆM ▪ Trong tổng thể, 𝑋 đã biết phân phối xác suất nhưng tham số 𝜽 (tham số tổng thể) chưa biết. ▪ Từ mẫu → ước lượng tham số 𝜃 (parameter estimate) ▪ Ước lượng điểm (point estimate) một giá trị መ 𝜃 • Mẫu ngẫu nhiên: ƯL ngẫu nhiên (estimator) • Mẫu cụ thể: ƯL cụ thể (estimate), hay giá trị quan sát (observed value) ▪ Ước lượng khoảng (interval estimate) LÝ THUYẾT XÁC SUẤT VÀ THỐNG KÊ TOÁN – BỘ MÔN TOÁN KINH TẾ - www.mfe.neu.edu.vn 164
8.2. ƯỚC LƯỢNG ĐIỂM ▪ Tính không chệch (unbiased): • መ là ước lượng không chệch của 𝜃  𝐸 መ = 𝜃 𝜃 𝜃 • Nếu 𝐸 መ ≠ 𝜃 : ước lượng chệch 𝜃 ▪ Tính hiệu quả (efficient): መ1 , መ2 , መ ∗ , መ là ƯL không chệch 𝜃 𝜃 𝜃 𝜃 • 𝑉( መ1 ) < 𝑉( መ2 ) thì መ1 là hiệu quả hơn መ2 𝜃 𝜃 𝜃 𝜃 • 𝑉( መ ∗ ) < 𝑉( መ với mọi መ thì መ ∗ là ƯL hiệu quả 𝜃 𝜃) 𝜃 𝜃 ▪ Ước lượng không chệch, hiệu quả → ƯL tốt nhất ▪ Tính vững (consistent): khi 𝑛 → ∞ thì መ → 𝜃 (theo 𝜃 nghĩa xác suất) LÝ THUYẾT XÁC SUẤT VÀ THỐNG KÊ TOÁN – BỘ MÔN TOÁN KINH TẾ - NEU – www.mfe.edu.vn 165
Ví dụ ▪ Ví dụ 8.1. ▪ Tổng thể 𝑋 có trung bình là 𝜇, phương sai là 𝜎 2 ▪ Mẫu kích thước 𝑛 = 3, trong các thống kê sau, đâu là ước lượng không chệch, đâu là ước lượng hiệu quả hơn cho 𝜇: 1 1 1 𝐺1 = 𝑋1 + 𝑋2 + 𝑋3 2 2 2 1 1 1 𝐺2 = 𝑋1 + 𝑋2 + 𝑋3 2 4 4 1 1 1 𝐺3 = 𝑋1 + 𝑋2 + 𝑋3 3 3 3 LÝ THUYẾT XÁC SUẤT VÀ THỐNG KÊ TOÁN – BỘ MÔN TOÁN KINH TẾ - www.mfe.neu.edu.vn 166
Bất đẳng thức Cramer - Rao ▪ Nếu BNN 𝑋 có công thức tính xác suất hoặc hàm mật độ là 𝑓(𝑥, 𝜃) thì với mọi መ là ước lượng không chệch 𝜃 của 𝜃, luôn có: 1 𝑉( መ ≥ 𝜃) 𝜕 ln 𝑓 (𝑥, 𝜃) 2 𝑛𝐸 𝜕𝜃 ▪ Do đó nếu መ ∗ là ước lượng không chệch và có phương 𝜃 sai bằng vế phải của bất đẳng thức thì nó là ước lượng hiệu quả nhất LÝ THUYẾT XÁC SUẤT VÀ THỐNG KÊ TOÁN – BỘ MÔN TOÁN KINH TẾ - NEU – www.mfe.edu.vn 167
Một số kết luận ▪ Khi 𝑋~𝑁(𝜇, 𝜎2) thì • ത là ước lượng không chệch, hiệu quả của 𝜇 𝑋 • 𝑆2 là ước lượng không chệch của 𝜎2 • 𝑀𝑆 là ước lượng chệch, nhưng là ước lượng vững của 𝜎2 ▪ Khi 𝑋 ~ 𝐴(𝑝) thì 𝑝Ƹ là ước lượng không chệch, hiệu quả của 𝑝. ▪ Cách thay thế 𝝁, 𝒑, 𝝈 𝟐 bởi ഥ , ෝ , 𝑺 𝟐 tương ứng gọi là tìm 𝑿 𝒑 ước lượng điểm theo hàm ước lượng. LÝ THUYẾT XÁC SUẤT VÀ THỐNG KÊ TOÁN – BỘ MÔN TOÁN KINH TẾ - NEU – www.mfe.edu.vn 168
Ước lượng hợp lý tối đa ▪ Mẫu 𝑊 = (𝑋1, 𝑋2, … , 𝑋 𝑛), mẫu cụ thể (𝑥1, 𝑥2, … , 𝑥 𝑛) ▪ Hàm hợp lý (likelihood function) với mẫu 𝐿 𝑥1, 𝑥2, … , 𝑥 𝑛, 𝜃 = 𝑓 𝑥1, 𝜃 ⋅ 𝑓 𝑥2, 𝜃 ⋯ 𝑓(𝑥 𝑛, 𝜃) ▪ Giá trị መ làm 𝐿 đạt cực đại là ước lượng hợp lý tối đa 𝜃 của 𝜃 (maximum likelihood estimator: MLE) ▪ Có thể tìm cực đại 𝐿 qua logarit của 𝐿 • 𝑋 ~ 𝑁(𝜇, 𝜎2) thì ത là MLE của 𝜇; MS là MLE của σ2 𝑋 • Khi 𝑋 ~ 𝐴(𝑝) thì 𝑝Ƹ là MLE của 𝑝 LÝ THUYẾT XÁC SUẤT VÀ THỐNG KÊ TOÁN – BỘ MÔN TOÁN KINH TẾ - NEU – www.mfe.edu.vn 169
Ví dụ ▪ Ví dụ 8.2. a) Xác suất sinh viên đi làm thêm là 𝑝 = 0,4. Trong các mẫu sau, mẫu nào hợp lý nhất? Biết 1 là có đi làm, 0 là ngược lại 𝑤1 = 0, 0, 0, 1, 0 𝑤2 = 0, 1, 0, 0, 1 𝑤3 = (1, 0, 0, 1, 1) b) Có mẫu (0, 1, 1, 0, 1) rút ra từ biến 𝐴(𝑝) chưa biết 𝑝. Trong các ước lượng sau cho 𝑝, giá trị nào hợp lý nhất 𝑝Ƹ1 = 0,5; 𝑝Ƹ 2 = 0,6; 𝑝Ƹ 3 = 0,7 LÝ THUYẾT XÁC SUẤT VÀ THỐNG KÊ TOÁN – BỘ MÔN TOÁN KINH TẾ - NEU – www.mfe.edu.vn 170
8.3. ƯỚC LƯỢNG KHOẢNG ▪ Còn gọi là ước lượng bằng khoảng tin cậy ▪ Với mẫu ngẫu nhiên, tìm khoảng ngẫu nhiên (𝐺1, 𝐺2) để khả năng khoảng đó chứa 𝜃 bằng một mức xác suất cho trước: 𝑃 𝐺1 < 𝜃 < 𝐺2 = 1 − 𝛼 ▪ Mức xác suất (1 − 𝛼) là độ tin cậy (confidence level) ▪ (𝐺1, 𝐺2) là khoảng tin cậy (confidence interval, CI) ▪ 𝐼 = 𝐺2 − 𝐺1 là độ dài khoảng tin cậy (width) LÝ THUYẾT XÁC SUẤT VÀ THỐNG KÊ TOÁN – BỘ MÔN TOÁN KINH TẾ - NEU – www.mfe.edu.vn 171
Xây dựng khoảng tin cậy ▪ Xét thống kê 𝐺 liên kết giữa tham số và thống kê trong mẫu, 𝐺 có phân phối xác suất xác định ▪ Với 1 − 𝛼 → xác định 𝛼1 và 𝛼2 : 𝛼1 + 𝛼2 = 𝛼 ▪ Xác định giá trị tới hạn 𝑔1−𝛼1 và 𝑔 𝛼2 sao cho: 𝑃 𝑔1−𝛼1 < 𝐺 < 𝑔 𝛼2 = 1 − 𝛼 ▪ Biến đổi thu được khoảng 𝐺1 , 𝐺2 thỏa mãn: 𝑃(𝐺1 < 𝜃 < 𝐺2) = 1 − 𝛼 LÝ THUYẾT XÁC SUẤT VÀ THỐNG KÊ TOÁN – BỘ MÔN TOÁN KINH TẾ - NEU – www.mfe.edu.vn 172
Ước lượng trung bình tổng thể ▪ Tổng thể phân phối Chuẩn, 𝑋 ~ 𝑁(𝜇, 𝜎2) ▪ Tham số 𝜇 là trung bình tổng thể chưa biết ▪ Ước lượng khoảng cho 𝜇 với độ tin cậy (1 − 𝛼) ▪ Mẫu 𝑊 = (𝑋1, 𝑋2, … , 𝑋 𝑛) ▪ Chia hai trường hợp: • Khi đã biết 𝜎 → dùng thống kê 𝑍 • Khi chưa biết 𝜎 → Sử dụng 𝑆 để thay, dùng thống kê ( ሜ − 𝜇) 𝑛 𝑋 𝑇= ~𝑇(𝑛 − 1) 𝑆 LÝ THUYẾT XÁC SUẤT VÀ THỐNG KÊ TOÁN – BỘ MÔN TOÁN KINH TẾ - NEU – www.mfe.edu.vn 173
Ước lượng 𝜇 khi biết 𝜎2 ത𝑋−𝜇 0 ≤ 𝛼1 , 𝛼2 ≤ 𝛼 ▪ Do 𝑍 = ~𝑁(0,1) với ቊ 𝜎/ 𝑛 𝛼1 + 𝛼2 = 𝛼 ത𝑋−𝜇 → 𝑃 𝑧1−𝛼1 < < 𝑧 𝛼2 = 1 − 𝛼 𝜎/ 𝑛 𝜎 𝜎 → 𝑃 ሜ − 𝑧𝛼 𝑋 < 𝜇 < ሜ + 𝑧 𝛼1 𝑋 =1− 𝛼 2 𝑛 𝑛 Có 3 khoảng tin cậy thông dụng tương ứng với: • (1) 𝛼1 = 𝛼, 𝛼2 = 0 • (2) 𝛼1 = 0, 𝛼2 = 𝛼 𝛼 • (3) 𝛼1 = 𝛼2 = 2 LÝ THUYẾT XÁC SUẤT VÀ THỐNG KÊ TOÁN – BỘ MÔN TOÁN KINH TẾ - NEU – www.mfe.edu.vn 174
Ước lượng 𝜇 khi biết 𝜎2 ▪ Khoảng tin cậy tối đa (phía trái: left-tailed) 𝜎 𝜇 < 𝑥ҧ + 𝑧 𝛼 𝑛 ▪ Khoảng tin cậy tối thiểu (phía phải: right-tailed) 𝜎 𝑥ҧ − 𝑧 𝛼 < 𝜇 𝑛 ▪ Khoảng tin cậy hai phía (đối xứng: two-tailed) 𝜎 𝜎 𝑥ҧ − 𝑧 𝛼/2 < 𝜇 < 𝑥ҧ + 𝑧 𝛼/2 𝑛 𝑛 LÝ THUYẾT XÁC SUẤT VÀ THỐNG KÊ TOÁN – BỘ MÔN TOÁN KINH TẾ - NEU – www.mfe.edu.vn 175
Ước lượng 𝜇 khi biết 𝜎2 ▪ Khoảng tin cậy đối xứng có dạng: 𝑥ҧ ± 𝜀 hay 𝑥ҧ ± 𝑀𝐸 𝜎 ▪ 𝜀 là sai số biên (ME: marginal error): 𝜀 = 𝑧 𝛼/2 𝑛 𝜎 ▪ Độ dài khoảng tin cậy: 𝐼 = 2𝜀 = 2 𝑧 𝛼/2 𝑛 ▪ Xác định kích thước mẫu n0 thỏa mãn yêu cầu về sai số hoặc độ dài khoảng tin cậy: 2 𝑧 𝛼/2 𝜀 ≤ 𝜀0 ⇔ 𝑛0 ≥ 𝜎2 2 𝜀0 2 𝑧 𝛼/2 𝐼 ≤ 𝐼0 ⇔ 𝑛0 ≥ 4𝜎 2 2 𝐼0 LÝ THUYẾT XÁC SUẤT VÀ THỐNG KÊ TOÁN – BỘ MÔN TOÁN KINH TẾ - NEU – www.mfe.edu.vn 176
Ước lượng 𝜇 khi không biết 𝜎2 ▪ Khoảng tin cậy tối đa (𝑛−1) 𝑆 𝜇 < 𝑥ҧ + 𝑡𝛼 𝑛 ▪ Khoảng tin cậy tối thiểu 𝑛−1 𝑆 𝑥ҧ − 𝑡 𝛼 < 𝜇 𝑛 ▪ Khoảng tin cậy hai phía (đối xứng) (𝑛−1) 𝑆 (𝑛−1) 𝑆 𝑥ҧ − 𝑡 𝛼/2 < 𝜇 < 𝑥ҧ + 𝑡 𝛼/2 𝑛 𝑛 LÝ THUYẾT XÁC SUẤT VÀ THỐNG KÊ TOÁN – BỘ MÔN TOÁN KINH TẾ - NEU – www.mfe.edu.vn 177
2 Ước lượng 𝜇 khi không biết 𝜎 ▪ Khoảng tin cậy đối xứng: 𝑥ҧ ± 𝜀 hay 𝑥ҧ ± 𝑀𝐸 (𝑛−1) 𝑆 ▪ Với 𝜀 = 𝑀𝐸 = 𝑡 𝛼/2 𝑛 (𝑛−1) 𝑆 ▪ Độ dài khoảng tin cậy: 𝐼 = 2𝜀 = 2𝑡 𝛼/2 𝑛 ▪ Xác định kích thước mẫu 𝑛0 theo mẫu sơ bộ kích thước 𝑛 đã có 2 (𝑛−1) 2 𝑠 (𝑡 𝛼/2 ) 𝜀 ≤ 𝜀0 ⇒ 𝑛0 ≥ 2 𝜀0 2 (𝑛−1) 2 4𝑠 (𝑡 𝛼/2 ) 𝐼 ≤ 𝐼0 ⇒ 𝑛0 ≥ 2 𝐼0 LÝ THUYẾT XÁC SUẤT VÀ THỐNG KÊ TOÁN – BỘ MÔN TOÁN KINH TẾ - NEU – www.mfe.edu.vn 178
Ví dụ ▪ Ví dụ 8.3. Cân ngẫu nhiên 25 sản phẩm khối lượng trung bình là 25,32g và phương sai là 5,28g2 . Giả sử khối lượng phân phối chuẩn. Với độ tin cậy 95% ▪ a) Ước lượng khối lượng trung bình của tất cả các sản phẩm bằng khoảng tin cậy tối đa ▪ b) Tìm khoảng tin cậy đối xứng cho khối lượng trung bình ▪ c) Muốn sai số trong câu (b) còn không quá 0,5g thì cần cân thử thêm ít nhất bao nhiêu sản phẩm? LÝ THUYẾT XÁC SUẤT VÀ THỐNG KÊ TOÁN – BỘ MÔN TOÁN KINH TẾ - NEU – www.mfe.edu.vn 179
Ước lượng phương sai tổng thể ▪ Tổng thể phân phối Chuẩn 𝑋 ∼ 𝑁(𝜇, 𝜎 2 ) (𝑛−1)𝑆 2 ▪ Khoảng tin cậy tối đa 𝜎2 < 2(𝑛−1) 𝜒1−𝛼 (𝑛−1)𝑆 2 ▪ Khoảng tin cậy tối thiểu 2(𝑛−1) < 𝜎2 𝜒𝛼 ▪ Khoảng tin cậy hai phía (𝑛 − 1)𝑆 2 (𝑛 − 1)𝑆 2 2(𝑛−1) < 𝜎2 < 2(𝑛−1) 𝜒 𝛼/2 𝜒1−𝛼/2 LÝ THUYẾT XÁC SUẤT VÀ THỐNG KÊ TOÁN – BỘ MÔN TOÁN KINH TẾ - www.mfe.neu.edu.vn 180
Ví dụ ▪ Ví dụ 8.4. Cân ngẫu nhiên 25 sản phẩm khối lượng trung bình là 25,32g và phương sai là 5,28g2. Giả sử khối lượng của sản phẩm phân phối chuẩn. Với độ tin cậy 95% ▪ a) Độ dao động của khối lượng đo bởi phương sai tối đa là bao nhiêu? ▪ b) Tìm khoảng tin cậy cho độ lệch chuẩn của khối lượng sản phẩm LÝ THUYẾT XÁC SUẤT VÀ THỐNG KÊ TOÁN – BỘ MÔN TOÁN KINH TẾ - www.mfe.neu.edu.vn 181
Ước lượng tỉ lệ tổng thể 𝑝 ▪ Khoảng tin cậy tối đa 𝑝(1 − 𝑝) Ƹ Ƹ 𝑝 < 𝑝Ƹ + 𝑧 𝛼 𝑛 ▪ Khoảng tin cậy tối thiểu 𝑝Ƹ 1 − 𝑝Ƹ 𝑝Ƹ − 𝑧 𝛼 < 𝑝 𝑛 ▪ Khoảng tin cậy hai phía (đối xứng) 𝑝(1 − 𝑝) Ƹ Ƹ 𝑝(1 − 𝑝) Ƹ Ƹ 𝑝Ƹ − 𝑧 𝛼/2 < 𝑝 < 𝑝Ƹ + 𝑧 𝛼/2 𝑛 𝑛 LÝ THUYẾT XÁC SUẤT VÀ THỐNG KÊ TOÁN – BỘ MÔN TOÁN KINH TẾ - NEU – www.mfe.edu.vn 182