Một số vấn đề chọn lọc trong toán cho kỹ sư

Nguyễn Linh Giang Viện CNTT&TT

Phần II. Xác suất và thống kê

(cid:134) Mô tả khóa học

(cid:132) Dành cho sinh viên đại học (cid:132) Xây dựng các mô hình xác suất và cơ sở

thống kê

(cid:132) Phân tích sự bất định (cid:132) Suy diễn thống kê (cid:132) Phân tích số liệu thực nghiệm

2.6. Hàm của hai biến ngẫu nhiên

(cid:134) Hai biến ngẫu nhiên

(cid:132) X và Y là hai biến ngẫu nhiên trên <Ω, F, P>, ta có:

x

2

X

)

x

F

(

x

)

F

(

x

)

f

(

x

)

dx

,

<

( ξ

=

( xP

)

X

X

X

1

2

2

1

x

1

y

2

Y

)

y

)

)

f

(

y

)

dy

.

<

( ξ

=

( yP

)

yF ( Y

yF ( Y

Y

1

2

2

1

y

∫= ∫=

1

(cid:132) Xác suất của cặp (X, Y) trên một miền bất kỳ D

bằng bao nhiêu ?

X

x

)

(

Y

)

y

?

<

)( ξ

<

)( ξ

=

]

[ xP ( 1

2

y 1

2

2.6. Hàm của hai biến ngẫu nhiên

(cid:132) Hàm phân bố xác suất liên hợp của X và Y, với

yx ,(

Y (

)

y

)

x ) ∩≤

)( ξ

=

)( ξ

]

x và y là hai số thực bất kỳ: [ XP ( XP (

FXY

Yx ,

y

)

,0

=

=

XY

X

)

( F ,0 XY x y ) , (

.1) = x ( ,

y

).

( ξ

y ) = ( ) ξ

F ≤

, +∞ +∞ F −

<

(cid:134) Tính chất: F , ( −∞ Yx , ≤ 2

XY

2

XY

1

1

)

yx ,

Y

)

(

yx ,

)

F

(

yx ,

).

F

y

( ξ

<

( ξ

=

,( x ) −∞ XY ) y F = )

( xP ( XP

1

2

XY

1

XY

2

2.6. Hàm của hai biến ngẫu nhiên

(cid:134) Tính chất

X

Y

y

F

(

)

F

(

)

<

)( ξ

<

)( ξ

=

( xP 1

yx , 2 1

) 2

(

XY F

)

(

).

XY F

+

yx , 2 2 yx , 1

2

XY

yx , 2 1 yx , 1 1

XY

(cid:132) Hàm mật độ phân bố xác suất liên hợp

2

)

.

f

,( yx

=

XY

,( ) yx

F ∂ XY yx ∂∂

y

x

F

(

yx ,

)

f

(

vu ,

)

dudv

.

=

XY

XY

∞−

∫∞−

∞+

∞+

(

)

.1

, yx

dxdy

=

f XY

∞−

∞−

2.6. Hàm của hai biến ngẫu nhiên

(cid:132) Xác suất để cặp (X, Y) trong một miền

y

F

(

x

yx ,

)

y

)( ξ

x Δ+≤

=Δ+≤

Δ+

y Δ+

D nào đó: Yyx , <

)( ξ

( XxP <

XY yx , )

F

yx ,(

)

F

(

x

F

yx ,(

)

) Δ+

y −Δ+

+

XY

XY

XY

Y

x

y

x Δ+

y Δ+

f

vu ),(

dudv

f

yx ,(

)

.

=

yx ΔΔ

XY

XY

x

y

D

= yΔ

,

)

D

f

,( yx

)

dxdy

.

=

∫ ( ( YXP

)

XY

(

,

) Dyx ∈

∫ ∫

X

f

yF ) ( Y f y (

), dy

( +∞ XY +∞ f

y , .) yx ,(

)

dx

.

xF )( X x )( =

= ) =

X

Y

XY

XY

∞−

∞−

(cid:134) Các thống kê biên x F ,( +∞ ∫ yx ,( ) ,

F = XY +∞ ∫ f

2.6. Hàm của hai biến ngẫu nhiên

(cid:134) Đạo hàm của hàm dưới dấu tích phân

xb (

)

xH )(

yxh ,(

)

dy

.

( ∫=

b x (

)

h x b ( , )

h x a ( ,

)

dy

.

+

=

a x (

)

) xa da x ( ) dx

dH x ( ) dx

db x ( ) dx

h x y ( , ) ∂ x ∂

2.6. Hàm của hai biến ngẫu nhiên

(cid:132) Trường hợp rời rạc

y

)

)

(

(

,

YxXP =

=

=

=

xXP i

p ij

i

j

ijp

j

j

i

( XP

( YP

y

y

)

)

=

=

=

=

j

n

, Yx i

p ij

j

j

(cid:134) X, Y: các biến ngẫu nhiên rời rạc (cid:134) pij = P(X = xi, Y = yj) là hàm phân bố liên hợp (cid:134) Các hàm phân bố biên là: ∑= ∑=

∑ ∑

i

i

∑ p 1 p

p 1 p

p 11 p

p 12 p

2

j

2

n

21

22

L L M

L L M

(cid:134) Hàm mật độ phân bố biên:

M p ij

M p in

M p i

1

M p i

2

ijp

j

M p

M p

M p

M p

mj

mn

m

1

m

2

L M L

L M L

2.6. Hàm của hai biến ngẫu nhiên

Y

(cid:132) Ví dụ

1

(cid:134) Cho các biến ngẫu nhiên X, Y với

y

x

0

c,

,1

y

)

yx ,(

=

X

f XY

0

0,

⎧ ⎨ ⎩

∞+

< < < otherwise . 1 (cid:134) Xác định các hàm mật độ biên fX(x) và fY(y) (cid:134) Giải: ∞+

yx ,(

)

=

(cid:132) Ta có: do

f XY

∞−

1

2

1

1

y

∞+

∞+

f

yx ,(

)

dxdy

∫ dx

dy

cydy

1

c

2

=

=

=

=⇒=

=

XY

0

0

y

x

y

∞−

∞−

=

∫ c 0 =

=

⎛ ⎜ ⎝

∞− ⎞ ⎟ ⎠

dxdy cy 2

.1 c 2

0

(cid:132) Từ đó:

1

∞+

f

(

x

)

f

(

yx ,

)

dy

2

dy

1(2

x

),

0

x

,1

=

=

=

<

<

X

XY

∞−

xy =

y

∞+

f

(

y

)

f

yx ,(

)

dx

2

dx

y ,2

0

y

.1

=

=

=

<

<

Y

XY

x

0

∞−

=

2.6. Hàm của hai biến ngẫu nhiên

(cid:132) Ví dụ: X và Y là hai biến ngẫu nhiên Gauss có hàm

mật độ phân bố liên hợp:

N

(

,

,

,

,

).

2 X

2 Y

Y

X

2

2

(

x

)

(2

y

y

)

(

)

μ Y

+

1

1 − 1(2

)

2 ρ

)( x − μρ X σσ YX

μ X 2 σ X

μ Y 2 σ Y

ρσσμμ ⎞ ⎟ ⎟ ⎠

⎛ ⎜ ⎜ ⎝

e

,

f

,( yx

)

=

XY

1

2 ρ

2 σπσ X Y

,

| ,

x +∞<<∞−

y +∞<<∞−

ρ

.1| b <

(cid:134) Các hàm mật độ biên sẽ là:

∞+

2

1

(

)

2/

x

σ

μ− X

2 X

f

x

f

dy

e

N

(

),

(

)

(

yx ,

)

=

X

XY

, σμ X

2 X

∞−

= ∫

2 X

∞+

2

2 πσ 1

(

)

2/

y

μ− Y

2 σ Y

f

y

f

dx

e

N

(

),

(

)

(

yx ,

)

=

Y

XY

2 , σμ Y Y

∞−

= ∫

2 πσ

2 Y

2.6. Hàm của hai biến ngẫu nhiên

(cid:132) Các biến ngẫu nhiên độc lập

(cid:134) Hai biến ngẫu nhiên X và Y được coi làđộ c lập

thống kê nếu hai sự kiện {X(ξ)∈A} và {Y(ξ)∈B} là độc lập đối với hai tập A, B bất kỳ trên trục x và y.

y

)

)

)

)( ξ yx ,(

y ).

≤ )

YPx ( ) )( ξ f fx )( =

)( ξ (

( XP ( F

X

Y

X

Y

XY

(cid:134) Đối với hai sự kiện: {X(ξ)≤x} và {Y(ξ)≤y}, nếu hai biến ngẫu nhiên X và Y là độc lập, sẽ có: x Y ( XP )( ) ( ξ ∩≤ ≤ = ≤ f y ( yx yFxF ,( ) )( ) = XY (cid:134) Trong trường hợp rời rạc:

XP (

y

)

XP (

(

y

)

for

all

i

,

j

.

=

=

=

=

=

Yx , i

j

YPx ) i

j

2.6. Hàm của hai biến ngẫu nhiên

(cid:134) Ví dụ: Cho fXY(x, y), xác định xem X, Y có độc lập

hay không.

y

2 exy

0,

, 0

,1

y ∞<<

x <<

f

yx ,(

)

=

XY

,0

otherwise.

⎧ ⎨ ⎩

(cid:132) Giải: tính fX(x), fY(y) và kiểm tra hệ thức:

fXY(x, y)= fX(x)fY(y)

y

f

(

x

)

∞+ f

yx ,(

)

dy

x

2 ey

dy

=

=

X

XY

0

0

y

x

2

ye

ye

dy

x ,2

0

x

.1

2

=

+

<

<

∞− y 0

0

⎛ ⎜ ⎝

⎞ =⎟ ⎠

2

1

y

f

(

y

)

f

yx ,(

)

dx

e

, 0

y

.

=

=

<

∞<

Y

XY

0

y 2 fx )(

f

yx ,(

)

f

(

y

),

=

XY

X

Y

2.6. Hàm của hai biến ngẫu nhiên

(cid:134) Hàm của hai biến ngẫu nhiên

z

z

)

,

,

)

D

(cid:132) Cho X, Y là hai biến ngẫu nhiên và g(x, y) (cid:132) Biến Z = g(X, Y), xác định fZ(z) theo fXY(x, y) ≤ (cid:132) Ta có:

)( ξ

=

=

=

( ( YXgP

( ZP

)

)

[ ( YXP

]

)( zF Z

z

f

,( yx

)

dxdy

,

=

XY

∫ ∫

, zDyx ∈

Y

(cid:134) DZ là miền trong không gian x, y sao cho g(x, y)≤z

zD

zD

X

2.6. Hàm của hai biến ngẫu nhiên

(cid:132) Ví dụ: Z = X+Y, xác đinh fZ(z)

yz −

∞+

f

yx ,(

)

dxdy

,

=

=

( YXP

)

XY

(cid:134) Lấy đạo hàm Fb(z), ta sẽ có fZ(z)b zF )( z Z zb (

≤+

)

zH (

)

−∞= .

zb (

)

dH

) za ( da

z )(

z

),

dx

.

=

+

∫= ) z ), −

( zbh (

( zah (

)

za (

)

zdb )( dz

dz

∫ ∫ y x −∞= ( zxh dx , ) z )( dz

zxh ),( z ∂

+∞

z y −

+∞

z y −

)

f ∂

f

z ( )

dy

f

x y dx dy ( ,

)

f

(

z

y y ,

) 0

=

=

− +

Y

XY

Z

X

−∞

−∞

−∞

−∞

( , x y XY z ∂

∂ z ∂

⎞ ⎟ ⎠

⎛ ⎜ ⎝

⎞ ⎟ ⎠

⎛ ⎜ ⎝ +∞

(

=

f

z

, . ) y y dy

XY

−∞

2.6. Hàm của hai biến ngẫu nhiên

(cid:132) Ví dụ: X, Y là hai biếnngẫu nhiên hàm

mũ độc lập với cùng tham số λ. Xác định hàm mật độ fZ(z) của Z = X+Y.

f

x )(

x − λ xUe

(

),

f

y )(

y − λ yUe

(

),

=

λ

=

λ

X

Y

z

z

x

)

x λ

( λ

z λ

f

z )(

e

e

dx

e

dx

z λ zUe

(

).

=

2 λ

=

2 λ

=

2 z λ

Z

0

z 0

Moment liên hợp và hàmđ ặc tính liên hợp

-Mô tả các tham số biểu diễn thông tin trong hàm phân bố liên hợp của hai đại lượng ngẫu nhiên.

yxg ,(

),

-Cho hai biến ngẫu nhiên X và Y và hàm hai biến Xác định biến ngẫu nhiên Z:

YXg

(

,

)

Z =

∞+

ZE (

)

fz

z )(

dz

.

Ta có kỳ vọng của Z: =

=

Z

∞−

)

f XY

(z

YXg

z

z

)

(

,

=Δ+≤

z Δ+≤

<

)

Z

Theo định nghĩa hàm của biến ngẫu nhiên, ta sẽ xác định hàm của Z tính theo các đặc trưng của XY ( YXgZ = , yx ),( mà không phải tính ) Z z <

( zP

( zP ,( yx

)

yx ΔΔ

=

XY

fZ ). z )( f z =Δ ∑ ∑

(

f , ) zDyx Δ∈

là vùng không gian trong mặt phẳng xy thỏa

zDΔ

Trong đó mãn bất đẳng thức trên. Ta có:

z f

z ( )

g x y ,

(

)

f

(

x y ,

)

x y

.

z Δ =

Δ Δ

Z

XY

∑ ∑

(

,

z

x y D ) Δ∈

.

Lấy tích phân, ta có

+∞

+∞

+∞

E Z (

)

z f

z dz ( )

g x y f ( , )

x y dxdy ( , . )

=

=

Z

XY

−∞

−∞

−∞

Hay:

+∞

+∞

[ (

E g X Y

)]

,

g x y f ( , )

x y dxdy ( , . )

XY

−∞

−∞

= ∫ Nếu X và Y là rời rạc,

E g X Y

[ (

,

)]

)

(

(

,

y

).

=

=

=

g x y P X j

i

x Y , i

j

∑∑

i

j

Vì kỳ vọng là toán tử tuyến tính, ta có

E

,

)

(

[

,

)].

=

a g X Y ( k k

a E g X Y k k

k

k

⎛ ⎜ ⎝

⎞ ⎟ ⎠

( Xg

)

)

Z =

(YhW =

Nếu X và Y là các biến ngẫu nhiênđ ộc lập,

∞+

∞+

YhXgE

([

()

)]

fyhxg )()(

fx )(

y )(

dxdy

=

Y

X

∞−

∞−

∞+

∞+

fxg )(

dxx )(

fyh )(

y )(

dy

YhEXgE )]

([

([

)].

=

=

X

Y

∞−

∞−

∫ ∫

YX ,

Cov

(

)

μ

=

Hiệp biến: Cho hai biến ngẫu nhiên bất kỳ X và Y [ XE (

]. )

X Y ()

μ Y

Ta có:

Cov

(

YX ,

)

E

(

XY

)

E

(

XY

)

YEXE )

(

(

)

=

=

μμ X Y

____ XY

__ __ YX

.

=

Ta thấy

Cov

(

YX ,

)

Var

(

X

Var )

Y (

. )

Nếu

thì

U

aX

,Y

=

+

2

Var

(

U

)

(

)

(

Y

)

=

+

[ { XaE 2 Var

a

(

X

)

a 2

Cov

(

} μ Y YX , )

Var

(

Y

)

. 0

=

μ X +

] +

Cov

)

YX ,

,

,1

ρ

=

=

1 ≤−

ρ

XY

XY

( X

Var

Y

Cov (

YX , Var )

) (

)

( σσ Y X

Cov

(

, YX

σσρ=) XY Y

X

,0=XYρ

thì

YEXE )

XY

.0

E

E

(

(

(

)

(

)

).

=

)

)

(

,

Các biến ngẫu nhiên không tương quan: nếu X và Y gọi là không tương quan. Khi đó XY = Trực giao: X và Y gọi là trực giao nếu YhX ,

Xg (

Y

=

=

YEXE )

XY

E

),

(

(

)

(

=

Nếu X hoặc Y có kỳ vọng bằng 0, thì từ tính trực giao sẽ suy ra tính không tương quan. Nếu X và Y là độc lập, ta có

2.8. Phân bố Gauss

(cid:134) Biến ngẫu nhiên Gauss

(cid:132) Biến ngẫu nhiên Gauss một chiều

2

)( xp

exp

=

1 2

1 2 σπ

x ⎛ − ⎜ σ ⎝

μ ⎞ ⎟ ⎠

⎡ ⎢ ⎢ ⎣

⎤ ⎥ ⎥ ⎦

)( xE

xp

)( dxx

μ

=

∞−

2

(( xE

2 ))

x

)( dxxp

2 σ

μ

=

) μ

( ∞−

2.8. Phân bố Gauss

(cid:132) Phân bố Gauss nhiều chiều ( d chiều )

T

1 −

2/1

exp p ( x )μ ( x )μ x )( = − − −

1 2 )2( 1 2/π d ⎡ ⎢ ⎣ ⎤ ⎥ ⎦

μ E )( x

∑ )( xxx p

T

∫ )(μ

d ≡ =

T ))μ

)

xE=μ ( i

i

(cid:134) Trong đó, x, μ là các vector d-chiều (cid:134) ∑ ma trận hiệp biến – đối xứng, xác định nửa

dương.

)(

x

))

(cid:134) Khi ∑ xác định dương. −

=

xE (( i

σ ij

μ i

j

μ j

E (( x x ( x )(μ x )μ p )( xx d ≡Σ − − = − −

2.8. Phân bố Gauss

(cid:134) Ma trận hiệp biến

11

j

=

σσ , ij i σ 22

σ 33

⎤ ⎥ ⎥ ⎥ ⎥ ⎦

σ ⎡ 00 ⎢ ⎢ ⎢ ⎢ ⎣

2.8. Phân bố Gauss

2.8. Phân bố Gauss

(cid:134) Phân bố Gaussian nhiều chiều được xác định hoàn toàn bằng d+d(d+1)/2 tham số của vector μ và ma trận hiệp biến ∑.

(cid:134) Khoảng cách Mahalanobis:

T

r

1 − μxΣμx

)

(

)

(

=