Một số vấn đề chọn lọc trong toán cho kỹ sư

Nguyễn Linh Giang Viện CNTT&TT

Phần II. Xác suất và thống kê

(cid:134) Mô tả khóa học

(cid:132) Dành cho sinh viên đại học (cid:132) Xây dựng các mô hình xác suất và cơ sở

thống kê

(cid:132) Phân tích sự bất định (cid:132) Suy diễn thống kê (cid:132) Phân tích số liệu thực nghiệm

Nội dung

(cid:134) Phần I. Xác xuất trong tính toán và thuật toán (cid:134) Phần II. Xác suất và thống kê

(cid:134) Khái niệm xác suất (cid:134) Các biến ngẫu nhiên và các đặc trưng (cid:134) Một số hàm phân bố xác suất quan trọng (cid:134) Định luật số lớn (cid:134) Hàm của biến ngẫu nhiên (cid:134) Các định lý giới hạn

(cid:132) Khái niệm xác suất và các biến ngẫu nhiên

(cid:132) Ước lượng tham số cad sai số thống kê (cid:132) Cơ sở thống kê toán học (cid:132) Các quá trình ngẫu nhiên

Tài liệu

(cid:134) Papoulis, Probability, Random variable, Stochastic Processes (cid:134) Trossets M. W, An introductions to

statistical inference and data analysis. (cid:134) J. S. Bendat, A. G. Piersol. Random Data: analysis and measurement procedures.

II. Cơ sở lý thuyết xác suất

(cid:134) 2.1. Khái niệm xác suất. (cid:134) 2.2. Các biến ngẫu nhiên. (cid:134) 2.3. Một số phân bố xác suất quan trọng (cid:134) 2.4. Định luật số lớn. (cid:134) 2.5. Phân bố tự nhiên ( phân bố Gauss). (cid:134) 2.6. Các định lý giới hạn trung tâm.

2.1. Khái niệm xác suất

(cid:134) Khái niệm xác suất

,

( ) AP

=

AN N

(cid:132) Định nghĩa kinh điển của Laplace về xác suất:

( ) AP

=

lim ∞→ n

n A n

(cid:132) Định nghĩa xác suất theo tuần suất tương đối:

2.1. Khái niệm xác suất

(cid:132) Phát biểu tiên đề của Kolmogorov

(cid:134) Ω: không gian mẫu: tập hợp tất cả các kết cục thực

nghiệm – không gian các sự kiện cơ sở Ω = { ξ1, ξ2, … ξk, …, ξn, … } (cid:134) Sự kiện – là một tập con của Ω. Số tập con của không

gian mẫu: 2n nếu n < ∞.

(cid:134) Trường-σ Fcủa các tập con của Ω (cid:134) P: độ đo xác suất trên các phần tử của trường-σ F

(i)

(cid:132) A – sự kiện bất kỳ (cid:132) 3 tiên đề xác suất ( AP

0) ≥ 1)

(ii) ( P If (iii)

(

).

=Ω BA

BAP

) ( AP

( BP

, then φ

) =∪

+

=∩ (cid:134) < Ω, F, P >: mô hình xác suất

2.1. Khái niệm xác suất

(cid:134) Các sự kiện lợi trừ: A ∩ B = ∅ (cid:134) Phân hoạch của Ω:

n

1A

2A

,

and

φ

Ω=

A i

A =∩ j

A i

iA

B

A

1

i

=U

jA

nA

A

φ=∩ B

(cid:134) Ví dụ: thí nghiệm gieo hai đồng xu đồng thời

(cid:132) Các sự kiện cơ sở:

SS ,(

),

NS ,(

),

(

SN ,

),

(

NN ,

)

=

=

=

=

ξ 1

ξ 2

ξ 3

ξ 4

(cid:132) Sự kiện A - tập con của Ω A = { ξ1, ξ2, ξ3 }

(cid:132) Các sự kiện: A và B

2.1. Khái niệm xác suất

(cid:134) Xác suất có điều kiện và các sự kiện độc lập

(cid:132) N thí nghiệm độc lập, (cid:132) NA, NB, NAB : số lần xuất hiện của các sự kiện

A, B và AB.

AP (

BP (

,

)

)

,

ABP (

)

.

≈

≈

≈

(cid:132) Với số lần thực nghiệm N lớn N A N

N B N

N AB N

)

AB

BAP

)

(

|

=

=

=

N N

ABP ( BP ( )

(cid:132) Xác suất có điều kiện: P(A|B) N N / AB NN / B

B

2.1. Khái niệm xác suất

BAP

(

)

|

,0

=

≥

(cid:134) P(A|B) là đại lượng không âm: ABP ) ( 0 ≥ ( BP 0 ) >

(cid:134) P(Ω|B) = 1

)

P

(

|

B

)

,1

Ω

=

=

=

BP ( Ω BP ( )

BP ( ( BP

) )

(cid:134) Nếu A∩B = ∅ ,

(

|

)

BAP

(

|

)

BCP

(

|

),

BCAP ∪

=

+

(cid:132) Các tính chất của xác suất cóđ iều kiện:

2.1. Khái niệm xác suất

(cid:134) Nếu B ⊂ A thì P( A|B ) = 1

(cid:132) B⊂A => AB = B => P( A|B ) = P( AB)/P(B) = P(B)/P(B)= 1.

(cid:134) Nếu A ⊂ B thì P( A|B ) > P( A )

(cid:132) A ⊂ B => AB = A =>

P(A|B) = P( AB )/P(B) = P(A)/P(B) > P(A)

(cid:134) Cho, A1, A2, …, An là các sự kiện đôi một loại trừ và

n

A

. Ω=

hợp của chúng tạo thành Ω: , ∅=∩ j

A i

A i (cid:132) Với B là một sự kiện bất kỳ, ta sẽ có

1

i

=U

n

n

( BP

)

)

(

)

(

|

).

=

=

( BAP i

APABP i i

∑

∑

i

i

1 =

1 =

2.1. Khái niệm xác suất

(cid:134) Ví dụ: thí nghiệm gieo quân xúc xắc. (cid:132) Sự kiện A: {số trên mặt xúc xắc chẵn} (cid:132) Sự kiện B: {số trên mặt xúc xắc bằng 2} (cid:132) B ⊂ A => P(A|B) = 1

(cid:134) Ví dụ: thí nghiệm gieo quân xúc xắc,

(cid:132) Sự kiện A: {số trên mặt xúc xắc bằng 2} , (cid:132) Sự kiện B: {số trên mặt xúc xắc là chẵn}, (cid:132) A ⊂ B. (cid:132) Việc sự kiện B xuất hiện làm cho khả năng xuất hiện sự kiện A lớn hơn trong trường hợp không có thông tin về B.

2.1. Khái niệm xác suất

P(AB) = P(A) P(B)

(cid:134) Nếu A và B là hai sự kiện độc lập, : BAP |

AP ( )

)

(

=

(cid:132) Các sự kiện độc lập: cho hai sự kiện A và B

BAP

|

(

)

AP ( )

=

⋅

ABP ( | ) BP ( ) (cid:132) Định lý Bayes tổng quát: (

)

(

)

(

(

|

)

i

APABP i

i

(

|

)

,

=

=

BAP i

n

APABP | ) i BP (

)

(

(

)

|

)

APABP i

i

∑

i

1

=

(cid:132) Định lý Bayes

2.1. Khái niệm xác suất

(cid:132) Giải thích định lý Bayes:

(cid:134) P(A) là xác suất tiên nghiệm của sự kiện A. (cid:134) Sự kiện B là những tri thức mới nhận được từ

kết quả thực nghiệm.

(cid:134) Xác suất có điều kiện P(A|B) của A với điều

kiện sự kiện B xảy ra.

(cid:134) Những tri thức mới sẽ được dùng để làm tăng

tri thức về sự kiện A.

2.1. Khái niệm xác suất

(cid:134) Ví dụ:

(cid:132) Trong hộp có 6 quả cầu trắng và 4 quả cầu đen. (cid:132) Loại bỏ ngẫu nhiên hai quả cầu không hoàn lại. (cid:132) P{quả cầu thứ nhất là trắng và quả cầu thứ hai là

đen} = ?

(cid:132) Giải:

(cid:131) W1 = “quả cầu thứ nhất bị loại là trắng” (cid:131) B2 = “quả cầu thứ hai bị loại là đen” (cid:131) P(W1∩B2) = ?

(cid:132) Câu hỏi: hai sự kiện W1 và B2 có độc lập không ?

2.1. Khái niệm xác suất

(cid:134) Ví dụ: hai hộp B1 và B2 lần lượt chứa 100 và 200 bóng đèn. Hộp B1 có 15 bóng hỏng và B2 - 5. Giả thiết, các hộp được lựa chọn ngẫu nhiên và một bóng đèn được lấy ra ngẫu nhiên. (cid:132) (a) Xác định xác suất để bóng đèn được lấy ra đó là

bóng bị lỗi?

(cid:132) (b) Giả sử chúng ta kiểm tra một bóng đèn và thấy

bóng đó bị lỗi, khả năng bóng đèn đó là từ hộp nào ?

2.1. Khái niệm xác suất

(cid:134) Các thí nghiệm lặp, thí nghiệm Bernoulli

(cid:132) Xét n thí nghiệm độc lập với các mô hình (Ω1, F1, P1),

hợp ω= (ξ1, ξ2, ..., ξn ).

(cid:134) Xét không gian liên hợp Ω= Ω1×Ω2 ×... ×Ωn : ξ1 ∈

Ω1, ..., ξn ∈Ωn,

(cid:134) Sự kiện trong không gian liên hợp Ω có dạng

A1×A2×...×An.

(cid:134) Nếu n thí nghiệm làđộ c lập, ta có

P(A1×A2×...×An)=P(A1)×...×P(An)

(Ω2, F2, P2), ..., (Ωn, Fn, Pn). (cid:134) Cho ξ1∈Ω1, ξ2 ∈Ω2,..., ξn ∈Ω2: là các sự kiện cơ sở. (cid:134) Liên hợp của n thí nghiệm tạo ra sự kiện cơ sở liên

2.1. Khái niệm xác suất

})

({

P

,

,

(cid:134) Vấn đề: sự kiện A với xác suất p xuất hiện trong thí

=

=

, ξ i

P 0

, ξξ i i 1

2

n

k

({

P

({

})

P

({

})

})

P

({

})

=

=

, ξ LL i P ξ i

ξ i

ξ i

k

ξ i 1

2

n

L

L

kn −

)

)

k qp

.

=

=

APAP ( ) ( ) ( L 444 3 1 444 2 k

APAPAP AP ( ( ) ( ) L 444 3 1 444 2 kn −

nghiệm đơn lẻ. Xác định xác suất để sự kiện A xuất hiện đúng k lần, k ≤ n tại những lần xác định trong n thí nghiệm. ( ) ω

npkqn-k

(cid:134) P{ A xuất hiện đúng k lần trong n thí nghiệm } = Ck

(cid:132) Công thức Bernoulli.

2.1. Khái niệm xác suất

npq

(cid:134) Định lý De Moivre - Laplace (cid:132) Giả thiết n→∞ với p cố định. (cid:132) Với k trong lân cận (cid:132) Có thể ước lượng xác suất Bernoulli bằng:

k

np

2 2/)

npq

( k −−

e

.

kn − ≈

k qpC n

1 2 npq π

(cid:134) Công thức Stirling ước lượng n!:

n

n

−

1 2

n

! ~

eπ + 2 n

của np.

2.1. Khái niệm xác suất

(cid:132) Ước lượng công thức Bernoulli

n k −

n k −

,

k p q

k p q

=

(

! n )! ! n k k −

k

n k −

n k −

k p q

>

c 1

(

) (

)

np k

n n k k ) −

2 ( π

nq n k −

k

n k −

n k −

k p q

<

c 2

(

) (

)

np k

n n k k ) −

2 ( π

nq n k −

−

1 n

k

n

1 k

12

− 1 12 (

1 − ) 12

1 12

12 (

+

1 n k −

1 n k −

− ) 1 12 +

1 +

}

}

n ⎛ ⎞ ⎜ ⎟ k ⎝ ⎠ n ⎛ ⎞ ⎜ ⎟ k ⎝ ⎠ n ⎛ ⎞ ⎜ ⎟ k ⎝ ⎠ { e

{ e

.

=

=

c 1

c 2

(cid:134) Các hằng số c1 và c2 khá gần nhau.

2.1. Khái niệm xác suất

(cid:132) Ví dụ:

(cid:134) Gieo đồng xu n lần. Xác định xác suất để

nhận được k lần xuất hiện mặt ngửa trong n lần gieo.

(cid:134) Gieo quân xúc xắc đều 8 lần. Xác định xác suất để mặt 3 hoặc mặt 4 xuất hiện 5 lần. (cid:134) Giả sử ta đặt hàng 5,000 sản phẩm. Xác suất để một sản phẩm bị lỗi là 0.1. Xác định xác suất để tổng số sản phẩm lỗi không quá 400.

2.2. Các biến ngẫu nhiên

(cid:134) Định nghĩa

(cid:132) Cho (Ω, F, P) – mô hình xác suất của thí nghiệm, (cid:132) X – là một hàm ánh xạ mỗi sự kiện cơ sở ξ∈Ω vào

một giá trị thực x∈R.

(cid:132) Biến ngẫu nhiên (đại lượng ngẫu nhiên - r.v): là một hàm giá trị hữu hạn ánh xạ tập hợp tất cả các sự kiện cơ sở (kết cục thí nghiệm) Ω vào tập hợp số thực nếu tập A={ξ|X(ξ)≤x} là một sự kiện A ⊂F đối với mỗi giá trị x ∈R.

2.2. Các biến ngẫu nhiên

(cid:134) Hàm phân bố xác suất

(cid:132) Hàm phân bố xác suất của biến ngẫu nhiên X ( pdf ) là xác suất của sự kiện A = {ξ|X(ξ)≤x}

(cid:132) FX(x)=P{ξ|X(ξ)≤x} ≥ 0 (cid:132) Ví dụ

(cid:134) X – r.v: X(ξ) = c, ξ∈Ω, FX(x) = ?

)(xFX

1

x

c

2.2. Các biến ngẫu nhiên

(cid:134) X – r.v:trong thí nghiệm gieo đồng xu, Ω =

{S, N}. X(N)=0, X(S)=1. FX(x) = ?

)(xFX

1 q

x

1

2.2. Các biến ngẫu nhiên

(cid:132) Tính chất của hàm phân bố xác suất

(cid:134) FX(x) là hàm phân bố xác suất:

(cid:132) FX(-∞) = 0; FX(+∞) = 1

giảm:

(cid:132) Hàm phân bố xác suất là hàm đơn điệu không

Nếu x1 ≤ x2 thì FX(x1) ≤ FX(x2)

phải: FX(x+) = FX(x) ∀x

(cid:132) Hàm phân bố xác suất là hàm liên tục về bên

2.2 Các biến ngẫu nhiên

(cid:134) Nếu FX(x0) = 0 đối với một giá trị x0,

Thì FX(x) = 0 ∀x ≤ x0

(cid:134) P{ X(ξ) > x } = 1 – FX(x)

(cid:134) Nếu x2 > x1, thì

P{ x1 < X(ξ) ≤ x2 } = FX(x2) – FX(x1)

(cid:134) P{ X(ξ) = x } = FX(x) – FX(x-)

2.2. Các biến ngẫu nhiên

(cid:134) Các biến ngẫu nhiên liên tục và rời rạc

(cid:132) X – là biến ngẫu nhiên liên tục nếu FX(x) là

liên tục. (cid:134) Đối với biến ngẫu nhiên liên tục, FX(x-) = FX(x) và

P{X=x} = 0

(cid:132) Nếu FX(x) = const, trừ một số hữu hạn điểm rời rạc, thì X gọi là biến ngẫu nhiên rời rạc. (cid:134) Nếu xi là những điểm rời rạc, khi đó

pi = P{ X = xi } = FX(x) - FX(x-)

2.2. Các biến ngẫu nhiên

(cid:132) Ví dụ

(cid:134) Gieo đồng xu đều hai lần, biến ngẫu nhiên X là số lần xuất hiện mặt ngửa. FX(x) sẽ có dạng:

)(xFX

1 4/3

4/1

x

1

2

2.2. Các biến ngẫu nhiên

(cid:134) Hàm mật độ phân bố xác suất

(cid:132) Đạo hàm của hàm phân bố xác suất FX(x) gọi là hàm mật độ phân bố xác suất fX(x) của đại lượng ngẫu nhiên.

f

x )(

.

=

X

dF x )( X dx

(cid:132) FX(x) là hàm đơn điệu không giảm, do đó xF )( X

xF ( X

f

x )(

,0

=

=

≥

X

lim x 0 →Δ

dF x )( X dx

x ) −Δ+ x Δ

2.2. Các biến ngẫu nhiên

(cid:132) Nếu biến ngẫu nhiên là liên tục thì fX(x) là hàm

( x

)

f X

ip

liên tục.

f

x

,)

−

x

X

( p δ i

x i

)( ∑ x =

ix

i

x

(cid:132) Đối với biến ngẫu nhiên rời rạc

=

xF )( X

∫ ∞−

+∞

)

,1

=

+∞XF (

(

x

)

dx

,1

=

f x

∞−

x

2

X

)

x

(

x

)

F

(

x

)

f

(

x

)

dx

.

∫ F

<

( ξ

≤

=

−

đoạn loại I) của hàm FX(x) (cid:132) xi là các điểm gián đoạn theo bước nhảy (gián duuf )( . x

}

X

X

X

1

2

2

1

x

∫=

1

(cid:132) { xP

2.2. Các biến ngẫu nhiên

x

2

x

)

)

f

x )(

dx .

X )( < ξ

≤

=

−

}

{ xP 1

2

2

xF ( X

xF ( 1 X

X

)(xFX

∫= x 1 )(xfX

1

x

x

1x 2x

1x 2x

(b)

(a)

2.2. Các biến ngẫu nhiên

(cid:134) Một số biến ngẫu nhiên quan trọng

)(xfX

(cid:132) Biến ngẫu nhiên phân bố tự nhiên (Gaussian)

1

)

x ( −−

2 2/ 2 σμ

f

x )(

e

.

=

X

x

μ

x

2 2 πσ (cid:134) Đường cong dạng chuông (cid:134) Hàm phân bố xác suất 1

)

2 2/ 2 σμ

( y −−

e

dy

G

=

=

x ⎛ − ⎜ σ ⎝

μ ⎞ , ⎟ ⎠

2 2 πσ

x

∫ ∞− 2/2

y

−

e

dy

xG (

)

∞−∫=

)( xF X 1 2 π

X~N(μ, σ2) (cid:134) Hàm mật độ phân bố xác suất

2.2. Các biến ngẫu nhiên

baUX ,(~

),

,

ba <

(cid:134) Hàm mật độ phân bố xác suất

)(x

f X

a ,

b ,

x ≤≤

x )(

=

f X

a

1 b −

1 ab − 0,

otherwise.

⎧ ⎪ ⎨ ⎪⎩

x

a

b

)(~ λεX

(cid:132) Biến ngẫu nhiên phân bố đều:

(cid:134) Hàm mật độ

)(x

f X

x

/

−

λ

,

,0

e

x

≥

(

)

f

x

=

X

x

1 λ 0,

otherwise.

⎧ ⎪ ⎨ ⎪⎩

(cid:132) Biến ngẫu nhiên phân bố hàm mũ

2.2. Các biến ngẫu nhiên

(cid:134) Một số biến ngẫu nhiên rời rạc quan trọng

XP (

)0

q

,

XP (

)1

p .

=

=

=

=

XP (

k

)

=

pnBX ,(~

),

(cid:132) Biến ngẫu nhiên Bernoulli: X nhận các giá trị 0, 1

n

k

−

XP (

k

)

k qp

,

k

,1,0

,

n

.

=

=

=

L

k

⎞ ⎟⎟ ⎠

⎛ ⎜⎜ ⎝

n

1 2

, )(~ λPX

(cid:132) Biến ngẫu nhiên nhị thức n

XP (

k

)

=

−

XP (

k

)

e

,

k

,1,0

,

.

=

=

=

∞

L

kλλ ! k

(cid:132) Biến ngẫu nhiên Poisson

2.2. Các biến ngẫu nhiên

(cid:134) Hàm mật độ phân bố xác suất có điều kiện (cid:132) Đối với hai sự kiện A và B, xác suất cóđ iều kiện của

)

)

,

BP (

)

.0

≠

=

BAP ( ∩ ( BP )

)

x

)

(

)

x

( ξ

=

≤

| ( BAP ( xFX (cid:132) Hàm phân bố xác suất: { XP

},

F X

A với điều kiện B:

(cid:132) Phân bố có điều kiện của biến ngẫu nhiên X với điều

P

X

B

∩

{

(

)

(

Bx |

)

)

Bx |

} .

=

( ξ

≤

=

{ XP

}

F X

( ) ξ ≤ BP (

x )

kiện xuất hiện sự kiện B

2.2. Các biến ngẫu nhiên

(cid:132) Theo các tiên đề xác suất, hàm phân bố có

điều kiện sẽ có các tính chất của hàm phân bố xác suất:

(

P

X

B

∩

ξ

{

(

)

}

(

|

)

,1

F

B

=

=

+∞

=

X

)

(

P

X

B

∩

ξ

{

(

)

}

(

|

)

.0

F

B

−∞

=

=

=

) ) ) )

)

( BP ( BP ( P φ ( BP

) +∞≤ ( BP ) −∞≤ ( BP

X (cid:132) và

P

x

X

x

B

<

∩

{

(

)

}

1

2

xP (

X

)

x

|

B

)

<

( ξ

≤

=

1

2

F

(

x

|

B

(

),

≤ ) F

=

( ) ξ ( BP ) −

X

2

Bx | 1

X

2.2. Các biến ngẫu nhiên

(cid:132) Hàm mật độ phân bố xác suất có điều kiện:

)

f

(

Bx |

)

,

=

X

dF Bx ( | X dx

(cid:132) Và hàm phân bố xác suất:

x

F

(

| Bx

)

f

(

duBu

)

|

.

=

X

X

∫ ∞−

(cid:132) Ta có xác suất:

x

2

X

)

x

|

B

f

(

dxBx

)

|

.

<

( ξ

≤

( xP

)

1

2

X

x

∫=

1

2.2. Các biến ngẫu nhiên

(cid:132) Ví dụ: Thí nghiệm gieođồ ng xu, biến ngẫu nhiên X: X(S)=0, X(N)=1. Giả thiết sự kiện B = {N}, xác định FX(x|B) (cid:134) Hàm phân bố FX(x) có dạng trên hình a). Ta sẽ tính

(cid:134) Với

x

≤

=

)

.0

X

B

FX(x|B) với mọi giá trị x. { } x X ,0 } ) , ( = ξ φ

( ) ξ ) x ∩≤

< { (

, φ do đó =BxFX ( | ( | ) XF x B

)(xFX

1

1 q

x

x

1 (b)

1 (a)

2.2. Các biến ngẫu nhiên

x

0

x

=

X

B

H

( ) ξ

} { }, T (

)

.0

{

(

( ) ξ ≤ } φ =

=BxFX |

x

,

)

≥

Ω=

≤

X

B

x

)

B }{

{ X ,1 ≤ < } { } { T = ∩ { X ( ∩≤ξ

=

(cid:134) Với ) x ∩≤

,1 )

} x { } B

( ξ }

|

)

1

=

=

BxFX (

∩Ω= BP ( ) ( BP )

(cid:134) Với { (

2.2. Các biến ngẫu nhiên

P

X

a

≤

(

{

)

(

)

Bx |

} .

=

F X

(cid:134) Với

X

x

< , a

(

X

( Bx | )

F

(

.

=

X

(cid:134) Với

(cid:132) Ví dụ: Cho FX(x), giả thiết B = {ξ|X(ξ) ≤a}

a

x

)

=

≥

)x ≤ x ( ) ( ) a a ≤

)

) x ≤ ( XP ) x X a ∩≤ ≤ ( ) XP x ≤ ( ) XP a ≤ ( ) x X a ∩≤ ≤ =Bx | ) .1

( , X F X (

Xác định fX(x|B) (cid:134) Đầu tiên, xác định FX(x|B) từ B: ( X ∩ ) a ≤ ( ) X = F = F X X (

2.2. Các biến ngẫu nhiên

(cid:134) Như vậy:

X

,

x

a

,

<

F

(

Bx |

)

=

X

F F X

x ( ) a ( ) ,1

x

a

,

≥

⎧ ⎪ ⎨ ⎪⎩

(cid:134) Và:

X

,

x

a

,

<

f

(

Bx |

)

F

(

Bx |

)

=

=

f F

) )

X

X

X

d dx

x ( a ( ,0

otherwise.

⎧ ⎪ ⎨ ⎪⎩

|

)

( BxFX

( Bx |

)

f X

1

)(x

f X

)(xFX

x

x

a (a)

a (b)

2.2. Các biến ngẫu nhiên

(cid:132) Luật Bayes với hàm phân bố xác suất có

điều kiện: (cid:134) X là biến ngẫu nhiên và A là một sự kiện,

(

|

(

)

XAP

x

X

)

.

f

| Ax

=

(| AX

) fx )

= ( AP

(

|

(

)

XAP

) fx

x

=

X

)

.

f

| Ax

=

(| AX

∞+

(

|

(

)

XAP

) fx

x

dx

=

X

∞−

∫

2.3 Các đặc trưng của biến ngẫu nhiên

(cid:134) Kỳ vọng – giá trị trung bình

∞+

X

XE (

)

fx

x )(

dx .

=

=

=

Xη

X

∞−

∫

(

)

x

)

dx

)

x

=

XEX =

=

−

=

η X

( p δ i

x i

x i

∫ ∑ x

∑ ∫ px i i

i

i

( dx − δ 4434421 1

(

. )

=

=

=

px i i

xXPx i i

∑

∑

i

i

b

2

2

2

b

a

b

dx

( XE

)

=

=

=

=

a

∫

b (2

a a

x 2

b

b

a

b

a

)

+ 2

(cid:132) Đối với biến ngẫu nhiên rời rạc

− −

x −

a

(cid:132) Ví dụ: biến ngẫu nhiên phân bố đều 1 −

2.3 Các đặc trưng của biến ngẫu nhiên

∞

∞

y

x

/

−

−

XE (

λ dx

dy

ye

)

=

=

=

, λ

0

0

∫ λ

∫

∞

∞

∞

λ

λ

−

−

kXkP

XE (

ke

k

e

)

(

)

=

=

=

∑

∑

∑

k

0

k

0

k

1 =

=

=

∞

∞

λλ

λ

λ

−

−

− ee

e

e λ

λ

=

=

=

=

. λ

∑

∑

)!1

(

k λ k ! i λ i !

0

k

i

=

1 =

k λ k − (cid:132) Ví dụ: biễn ngẫu nhiên phân bố nhị thức

n

n

n

n

kn −

kn −

k qp

kP

X

k

k qp

k

k

XE (

)

(

)

=

=

=

=

∑

∑

∑

k

n

k

(

)!

!

n ! k −

k

k

k

0

0

=

1 =

=

⎛ ⎜⎜ ⎝

⎞ ⎟⎟ ⎠

n

n

1 −

in

n

kn −

1 −−

1 −

k qp

np

i qp

np

(

p

q

)

np

.

=

=

=

+

=

∑

∑

n

k

k

n ! ()!

(

)!1

)!1 )!1

i !

(

n

−

−

( n − i −−

i

0

k

=

1 =

(cid:132) Ví dụ: biến ngẫu nhiên phân bố hàm mũ x e λ (cid:132) Ví dụ: biến ngẫu nhiên phân bố Poisson k λ = k !

2.3 Các đặc trưng của biến ngẫu nhiên

∞+

2

1

1

y

2/

2 2 2/) σμ

2 σ

−

x ( −−

xe

dx

y

e

dy

∞+ (

XE (

)

=

=

+

) μ

∞−

∞−

∫

∫

∞+

2

2

2 2 πσ 1

2 2 πσ 1

2/

y

y

2/

2 σ

2 σ

−

−

∞+ e

dy

=

⋅+ μ

=

. μ

2 2 πσ

dy 44 3

∫ ye ∞− 44 21 0

444 3

∫ 2 ∞− 2 πσ 1 444 2 1

(cid:132) Ví dụ: biến ngẫu nhiên phân bố chuẩn Gauss:

2.3 Các đặc trưng của biến ngẫu nhiên

(cid:134) Sai phương

2

−

.0] >

( XE [

) μ

X

2

(cid:132) Biến ngẫu nhiên X với trị trung bình μ (cid:132) Sai phương

x

f

x )(

dx

.0

= ∞+ (

2 σ

−

) μ

>

X

X

∞−

2 σ = ∫

XE

=

σ X

2) ( μ − (cid:132) Độ lệch chuẩn (cid:132) Quan hệ giữa sai phương và trị trung bình

2

2

Var

(

X

)

]

XE [

2

X

]

=

=

−

=

−

=

σ

2 + μμ

2

2

]

2 X XE 2[

( XE [ E

]

[

XE [

]

[2

XE

+

) μ =

−

] μ

2 μ

2 ] + μμ

2

2

2

)

___ 2 X

X

.

=

−

=

−

[ XE (

]

XE [ ( XE

− )

(cid:132) Hoặc

2.3 Các đặc trưng của biến ngẫu nhiên

(cid:132) Ví dụ sai phương

(cid:134) Xét hai biến ngẫu nhiên phân bố Gauss: X1 ~ N(0, 1) và X2 ~ N(0, 2) có cùng giá trị trung bình μ = 0.

)

)

f X

x ( 2

f X

x ( 1

2

1

1x

2x

10

2 =σ(b)

1

2 =σ(a)

2.3 Các đặc trưng của biến ngẫu nhiên

−

(

k ,

e

)

,

. ∞

=

L

2

2

kXP = ___ 2 X

2 σ

=

+

=

−

=

X

kλλ ,1,0 = k ! ) ( 2 X . λλλλ − (cid:132) Ví dụ: biến ngẫu nhiên phân bố Gauss.

∞+

2

2

1

2

(

)

2/

x

−

−

μ

σ

Var

(

X

)

XE [(

2 ])

x

e

dx

.

μ

=

=

−

(

) μ

2

∫

2 πσ

∞+

∞+

2

∞− 2

− 1

x

(

)

2/

μ

σ

−

−

(

)

f

x

dx

e

dx

1

=

=

X

2

∞−

∞−

∫

∫

2 πσ

∞+

2

2

2/

)

−

σ

μ

dx

( e x −

.

=

∫ 2 σπ ∞− (cid:134) Lấy đạo hàm cả hai vế theo σ, ta có:

2

∞+

2

2

∞+

2

2

1

2

(

x

)

2/

2

μ

σ

−

−

(

x

(

)

2/

x

−

−

μ

σ

x

e

dx

,

−

=

σ

(

) μ

e

dx

=

2 π

2

) μ 3

∞−

∫

∞−

∫

2 πσ

− σ

(cid:132) Ví dụ: biến ngẫu nhiên phân bố Poisson.

2.3 Các đặc trưng của biến ngẫu nhiên

(cid:134) Mô-men

n

),

n

1

___ n X

=

=

≥

m XE ( n (cid:132) Mô-men trung tâm

XE [(

n ])

=

−

μ

μ n

(cid:132) X – biến ngẫu nhiên

n

n

n

k

−

XE [(

)

]

C

m

(

)

.

=

−

μ

=

−

μ

μ n

k n

k

∑

k

0

=

(cid:132) Quan hệ giữa mô-men và mô-men trung tâm

2 μσ = .2

,1m=μ

(cid:132) Giá trị trung bình và phương sai:

2.3 Các đặc trưng của biến ngẫu nhiên

naXE ]) −

(cid:132) Mô-men tổng quát của X với độ lệch a [(

(cid:132) Mô-men tuyệt đối của X nXE [| ]|

2.3 Các đặc trưng của biến ngẫu nhiên

(cid:134) Hàm đặc tính

+∞

jX

jx

ω

ω

e

f

dxx )( .

( ) ω

Φ

=

(cid:132) Đối với biến ngẫu nhiên liên tục X Δ =

( eE

)

X

X

∞−

∫

(cid:134) Ta có:

,1)0( =

1

ω

Φ

∀

≤

(cid:134) Và

(X

Φ X ) ω (cid:132) Đối với biến ngẫu nhiên rời rạc X

jk

ω

e

( XP

k

).

Φ

( ) ω

=

=

X

∑

k

2.4 Bất đẳng thức Chebychev và định luật số lớn

(cid:134) Bất đẳng thức Chebychev

(cid:132) Xét khoảng có độ rộng 2εđối xứng quanh giá trị

| εμ ≥

( −XP |

) ?

X

εμ−

εμ+

X

μ ε2

,

trung bình μ

2 σ 2 ε

(cid:132) Bất đẳng thức Chebychev ( ) −XP | | ≥ ≤ εμ

2.4 Bất đẳng thức Chebychev và định luật số lớn

(cid:132) Xi – các biến ngẫu nhiên độc lập và đồng nhất có cùng

phân bố Bernoulli :

XP (

1)0

q

p

p

)

,

,

=−=

=

=

i

i

XP ( (cid:132) k = X1 + X2 + ...+ Xn – số lượng các kết cục thành

công trong n thí nghiệm

(cid:132) ĐỊnh luật số lớn yếu: p

−

≤

>

(cid:134) Định luật số lớn yếu

} ε

{ k P n

pq .2 n ε

(cid:134) Định luật số lớn mạnh:

(cid:132) Tỷ số k/n tiến tới p không chỉ theo xác suất mà còn

với xác suất bằng 1