Bài tập lý thuyết thông tin

Chia sẻ: Phan Minh Tư | Ngày: | Loại File: DOCX | Số trang:5

Thêm vào BST

Báo xấu

337
lượt xem 98
download

Download Vui lòng tải xuống để xem tài liệu đầy đủ

Bài 1: Giải sử có 3 thành phố A, B, C. Biết rằng dân thành phố A luôn nói thật, dân thành phố B luôn nói dối, còn dân thành phố C thì cứ một lần nói thật lại một lần nói dối xen kẽ nhau. Du khách D muốn xác minh đồng thời xem anh ta đang ở thành phố nào và người anh ta gặp là dân thành phố nào. D cần phải đặt ít nhất bao nhiêu câu hỏi, nếu người nói chuyện với D chỉ có thể trả lời là “Phải” hoặc “Không”....

Chủ đề:

Bình luận(0) Đăng nhập để gửi bình luận!

Lưu

Nội dung Text: Bài tập lý thuyết thông tin

CHƯƠNG 3 Bài 1: Giải sử có 3 thành phố A, B, C. Biết rằng dân thành ph ố A luôn nói th ật, dân thành phố B luôn nói dối, còn dân thành phố C thì cứ một l ần nói th ật l ại một lần nói dối xen kẽ nhau. Du khách D muốn xác minh đồng thời xem anh ta đang ở thành phố nào và người anh ta gặp là dân thành ph ố nào. D c ần ph ải đ ặt ít nhất bao nhiêu câu hỏi, nếu người nói chuyện với D chỉ có th ể trả lời là “Phải” hoặc “Không”. Bài 2: Có 25 đồng tiền (đúc bằng kim loại) cùng một giá trị, trong đó có 24 đồng có khối lượng như nhau, cũn một đồng là tiền giả, có khối lượng nhẹ hơn các đồng khác. Hỏi phải cân ít nhất bao nhiêu lần thì có thể tìm ra được đồng ti ền giả này? Bài 3: Khảo sát về tình hình thi tuyển sinh vào đại h ọc, cao đ ẳng cho bi ết t ỷ l ệ thí sinh đạt điểm trên điểm sàn là , số thí sinh dưới điểm sàn là . Trong s ố thí sinh đạt điểm trên điểm sàn có 30% là học sinh thuộc vùng nông thôn, 70% thuộc khu vực thành phố. Trong số thí sinh đạt điểm dưới đi ểm sàn có 60% h ọc sinh thuộc khu vực thành phố. Tìm lượng tin về năng lực học tập của thí sinh khi biết khu vực cư trú? Bài 4: Nêu ý nghĩa và chứng minh các công thức sau: 1. 2. 3. Bài 5: Cho cấu trúc thống kê của nguồn X={x1, x2, x3}. xi x1 x2 x3 P(xi) 0.2 0.2 0.5 5 5 Cho ma trận nhiễu trên kênh: P(yj|xi) y1 y2 y3 x1 0.2 0.5 0.25 5 x2 0.5 0.2 0.25 5 x3 0.2 0.2 0.5 5 5 - Tại đầu ra kênh nhận được tin yj do nguồn X phát. Hãy cho biết tin nào thuộc nguồn X có khả năng nhiều nhất chuyển thành tin yj . (i=1,2,3). Bài 6: Cho hệ thống truyền tin.
Trong đó X={x1, x2, x3} là nguồn tin tại đầu vào kênh thông qua sự truy ền lan trong kênh trở thành nguồn Y={y1, y2, y3}. Cho biết phân bố sau: P(xi,yj) y1 y2 y3 x1 0 1/8 1/8 x2 1/8 1/1 1/16 6 x3 1/4 1/8 1/8 - Hãy cho biết cấu trúc thống kê của nguồn X, Y. Entopi của nguồn X, nguồn Y, Ma trận nhiễu trên kênh, H(X,Y), I(X,Y). Bài 7: Cho cấu trúc thống kê của nguồn X={x1, x2, x3, x4}. xi x1 x2 x3 x4 P(xi) 3/8 2/ 1/8 2/8 8 Ma trận nhiễu trên kênh. P(yj|xi) y1 y2 y3 y4 x1 3/8 2/8 1/ 2/8 8 x2 2/8 2/8 3/ 1/8 8 x3 1/8 3/8 2/ 2/8 8 x4 2/8 1/8 2/ 3/8 8 - Tính entropi đầu vào kênh tin H(X); Entropi đầu ra kênh H(Y); I(X|Y), I(Y| X), H(X,Y). Bài 8: Cho cấu trúc thống kê của đích Y={y1, y2, y3}. yi y1 y2 y3 P(yi) 1/2 1/ 1/4 4 Ma trận nhiễu trên kênh. P(xi|yj) y1 y2 y3 x1 1/4 1/2 1/4 x2 1/2 1/4 1/4 x3 1/4 1/4 1/2 - Tính tốc độ lập tin tại đầu ra kênh tin, đầu vào kênh tin, thông lượng kênh, độ dư tương đối của nguồn. Biết rằng số ký hiệu lập được trong một đơn vị thời gian là n0.
CHƯƠNG 4 Bài 1: Cho các từ mã x = ‘101010’, y = ‘110101’, z = ‘000110101’. Hãy biểu diễn các từ mã trên bằng phương pháp tọa độ mã và đồ hình mã. Bài 2: Cho bộ mã có các từ mã sau: 10 110 1110 01 001 0001. Hãy xác định tính phân tách được và độ chậm phân giải của bộ mã bằng phương pháp dùng bảng t hử . Bài 3: Hãy giải thích tại sao 3 bộ mã Fano, Huffman, Shannon phân tách được. Bài 4. Để làm giảm sai lầm khi nhận tin bằng cách truy ền lặp l ại một bit 5 l ần. khi nhận 5 bit liền nhau ở cuối kênh được xem như là 1 bit. Giá trị bit này là 0 nếu số bit 0 trong dãy lớn hơn số bit 1, ngược l ại n ếu s ố bit 1 nhi ều h ơn thì giá trị bit là 1. Biết xác suất nhiễu 1 bit là p=0.2; tổng số bit nh ận sai sau 5 l ần l ặp tuân theo luật phân phối nhị thức B(p,5). Hãy tính xác suất truyền sai. Bài 5: Cho xâu x = ‘KHOA_CONG_NGHE_THONG_TIN’. - Để thỏa mãn điều kiện của bộ mã thống kê tối ưu thì độ dài trung bình từ mã phải thỏa mãn giới hạn nào? (Tính giới hạn trên, giới hạn dưới của bộ mã). - Sử dụng thuật toán mã hóa Fano, Shanon, Huffman để mã hóa xâu x với cơ số mã m = 2. - Tính trị số kinh tế, vẽ cây mã của từng bộ mã. Có nhận xét gì về 3 phương pháp mã hóa? - Mở rộng cho cơ số mã m = 3 cho ba phương pháp. o Viết lại thuật toán mã hóa o Áp dụng mã hóa xâu x o Tính trị số kinh tế của mỗi bộ mã. Bài 6: Cho nguồn U = {u1, u2, u3, u4} với xác suất xuất hiện tương ứng P(ui) = {0,4; 0,25; 0,2; 0,15}. Xét nguồn mới U2 = { uiuj , với } có tập phân bố xác suất là U2 = {0,16; 0,1; 0,08; 0,06; 0,1; 0,0625; 0,05; 0,0375; 0,08; 0,05; 0,04; 0,03; 0,06; 0,0375; 0,03; 0,0225} . - Hãy mã hóa nguồn U và U2 bằng phương pháp mã hóa Huffman. - Đưa ra nhận xét về hiệu suất mã hóa của hai nguồn U và U2 . Bài 7: Cho xâu x = ‘0101020102110122’. Sử dụng thuật toán mã hóa Lempel – Ziv để lập mã và giải mã cho xâu x. Bài 8: Cho bộ mã: a1 = 0101001, a2 = 1111101, a1 = 0101001, a3 = 1100011, a4 = 1010001. - Sử dụng phương pháp phát hiện sai bằng quãng cách Hamming, bộ mã này có thể sửa sai được mấy ký hiệu? - Nếu tại đầu ra kênh tin nhận được tin b1 = 0011010 và b2 = 1101101 có thể sửa sai được cho 2 tin b1 , b2 được không? Nếu được sửa lại về tin chính xác. Bài 9: Cho các bộ mã:
a1 0 1 0 1 1 0 0 a2 1 1 0 1 0 0 0 a3 1 0 0 1 1 1 0 a4 0 1 1 0 1 0 1 - Xây dựng bộ mã phát hiện sai bằng phương pháp parity chẵn/ lẻ và phương pháp dùng mã khối. - Xây dựng bộ mã phát hiện sai bằng phương pháp mã thuận nghịch. - Bộ mã trên có hệ số tỷ lệ là bao nhiêu? Bài 10: Xác định mã V(6,4) từ ma trận sinh Bài 11: Cho biết ma trận sinh , các vec tơ nhiễu: 0010, 1000, 1001. Bằng phương pháp tính Syndrom hãy sửa sai cho dãy mã sau: 10100101. B ộ mã trên s ửa sai được tối đa bao nhiêu bit? Bài 9: Ma trận thử Bài 10: Mã vòng
CHƯƠNG 5 Bài 1: Giả sử có phép dịch chuyển ABCDEFGHI J KL M 1 2 3 4 5 6 7 8 9 1 11 1 13 0 2 NOP QR S T UVWXY Z -- 111111222222 2 27 456789012345 6 Cho bản rõ x = ‘BAI_TAP_LY_THUYET_THONG_TIN’ a. Sử dụng mã hóa vị (MHV), hãy tìm bản mã của bản rõ x. b. Cho mã dịch vòng được định nghĩa Cho k = 4, hãy tìm bản mã của bản rõ x. Bài 2: Cho a = 5, b = 3, y = 5x + 3 (mod 26), sử dụng mã Affine mã hóa bản rõ sau: ‘DUNG_XAU_HO_KHI_KHONG_BIET_CHI_XAU_HO_KHI_KHONG_HOC’ ‘Đừng xấu hổ khi không biết, chỉ xấu hổ khi không học’ Bài 3: Cho m = 8 và từ khóa là: SINHVIEN. Sử dụng mã Viegenère để mã hóa cho bản rõ: ‘HOC_MA_KHONG_KHO_KHAN_SE_CHONG_QUEN’ ’ Học mà không khó khăn sẽ chóng quên’ Bài 4: