Kênh rời rạc không phụ thuộc thời gian - Phần 1

Chia sẻ: Nguyen Uyen | Ngày: | Loại File: PDF | Số trang:7

Thêm vào BST

Báo xấu

64
lượt xem 3
download

Download Vui lòng tải xuống để xem tài liệu đầy đủ

Tham khảo tài liệu 'kênh rời rạc không phụ thuộc thời gian - phần 1', công nghệ thông tin, quản trị mạng phục vụ nhu cầu học tập, nghiên cứu và làm việc hiệu quả

Chủ đề:

Bình luận(0) Đăng nhập để gửi bình luận!

Lưu

Nội dung Text: Kênh rời rạc không phụ thuộc thời gian - Phần 1

7/2/2010 Chương 3: Kênh r i r c không ph thu c th i gian 3.1 Kênh và dung lư ng kênh 2 7/2/2010 Huỳnh Văn Kha Kênh truy n thông • Kênh truy n thông là thi t b ho t đ ng trên input đ cung c p output • Thông tin chuy n qua kênh là m t dãy các ký t . N u các ký t này thu c v m t t p h u h n thì ta g i là kênh r i r c • Trong trư ng h p t ng quát, phân ph i xác su t c a output không nh ng ph thu c vào vi c input nào đư c truy n qua kênh, mà còn ph thu c vào tr ng thái c a kênh t i th i đi m input đư c truy n 1
7/2/2010 3 7/2/2010 Huỳnh Văn Kha Kênh r i r c không ph thu c th i gian • N u phân ph i output c a kênh không ph thu c vào tr ng thái c a kênh t i th i đi m input đư c truy n, thì kênh đư c là không ph thu c th i gian. Trong chương này kênh có nghĩa là kênh r i r c không ph thu c th i gian • Có th đ c trưng kênh r i r c không ph thu c th i gian b ng ma tr n các xác su t có đi u ki n, g i là ma tr n kênh 4 7/2/2010 Huỳnh Văn Kha Ma tr n kênh • Ký hi u các ký t input là: x1, x2, …, xM • Ký hi u các ký t output là: y1, y2, …, yL • Đ t aij = p(yj|xi) thì ma tr n [aij] đư c g i là ma tr n kênh • Input là bi n ng u nhiên nên output cũng v y • Bi t trư c các xác su t c a input là: p(x1), p(x2), …, p(xM), thì s bi t các xác su t c a output và các xác su t đ ng th i c a input và output 2
7/2/2010 5 7/2/2010 Huỳnh Văn Kha Dung lư ng kênh • V i m t kênh cho trư c, bi t input X s tính đư c H(X), H(Y), H(X,Y), H(X|Y), H(Y|X) • Ta đ nh nghĩa thông tin x lý b i kênh là lư ng I(X|Y) = H(X) – H(X|Y) • Chú ý: I(X|Y) = I(Y|X) = H(Y) – H(Y|X) = H(X) + H(Y) – H(X,Y) • Thông tin x lý b i kênh ph thu c vào phân ph i xác su t c a input. Dung lư ng kênh đư c đ nh nghĩa là: 6 7/2/2010 Huỳnh Văn Kha M t s kênh ñ c bi t 1. M t kênh là lossless n u H(X|Y) = 0 v i m i input 2. M t kênh là deterministic n u H(Y|X) = 0 v i m i input 3. M t kênh là noiseless n u nó v a là lossless v a là deterministic 4. M t kênh là useless n u I(X|Y) = 0 v i m i input 3
7/2/2010 7 7/2/2010 Huỳnh Văn Kha Kênh ñ i x ng (symmetric) • Kênh là đ i x ng n u m i dòng c a ma tr n kênh đ u cùng m t t p các con s p’1, p’2, …, p’L và m i c t c a ma tr n kênh cũng đ u cùng m t t p các con s q’1, q’2, …, q’M • Ví d y1 y2 y3 y1 y2 y3 y4 x1 1/2 1/3 1/6 x1 1/3 1/3 1/6 1/6 x2 1/6 1/2 1/3 x2 1/6 1/6 1/3 1/3 x3 1/3 1/6 1/2 8 7/2/2010 Huỳnh Văn Kha Kênh nh phân ñ i x ng 1–β 0 0 β 1–β β [p(yj|xi)] = β β 1–β 1 1 1–β 4
7/2/2010 9 7/2/2010 Huỳnh Văn Kha Tính ch t kênh ñ i x ng • Do t p các p’j m i hàng đ u như nhau nên H(Y|X=xi) không ph thu c i và ta có: • V y H(Y|X) không ph thu c phân ph i xác su t input mà ch ph thu c vào các p(yj|xi) c a kênh 10 7/2/2010 Huỳnh Văn Kha Dung lư ng kênh ñ i x ng I(X|Y) = H(Y) – H(Y|X) • Do H(Y|X) không ph thu c X nên c c đ i H(Y) s làm c c đ i I(X|Y) • H(Y) đ t c c đ i là log L khi và ch khi Y có phân ph i đ ng xác su t • Nh n xét r ng, n u X có phân ph i đ ng xác su t thì Y cũng đ ng xác su t, th t v y: 5
7/2/2010 11 7/2/2010 Huỳnh Văn Kha Dung lư ng kênh ñ i x ng • Như v y khi input là đ ng xác su t thì thông tin x lý b i kênh đ i x ng là c c đ i • Dung lư ng kênh đ i x ng là: • Ví d , kênh nh phân đ i x ng có dung lư ng là: CBSC = 1 – H(β, 1 – β) 12 7/2/2010 Huỳnh Văn Kha Tính dung lư ng kênh (t ng quát) • Ngư i ta ch ng minh đư c r ng luôn t n t i phân ph i input đ I(X|Y) đ t max • Tính dung lư ng kênh trong trư ng h p t ng quát là bài toán ph c t p, và ngư i ta thư ng s d ng các phương pháp s đ tính • D a vào tính ch t I(X|Y) là hàm l i theo phân ph i xác su t c a X, s d ng phương pháp gi i tích ngư i ta tìm đư c công th c đ tính dung lư ng kênh trong trư ng h p đ c bi t như sau 6
7/2/2010 13 7/2/2010 Huỳnh Văn Kha ð nh lý 3.1 Gi s ma tr n kênh Π c a kênh r i r c không ph thu c th i gian là ma tr n vuông kh ngh ch. G i qij là các ph n t hàng i c t j c a ma tr n Π-1. Gi s r ng v i m i k = 1, 2, …, M, ta có: 14 7/2/2010 Huỳnh Văn Kha ð nh lý 3.1 Thì khi đó dung lư ng kênh là: Và phân ph i xác su t input đ lư ng thông tin x lý b i kênh đ t max như trên là 7