Bài giảng Lý thuyết thông tin - ĐH Sư phạm Kỹ thuật Hưng Yên

Chia sẻ: Le Thanh Hai | Ngày: | Loại File: PDF | Số trang:58

0
34
lượt xem
8
download

Bài giảng Lý thuyết thông tin - ĐH Sư phạm Kỹ thuật Hưng Yên

Mô tả tài liệu
  Download Vui lòng tải xuống để xem tài liệu đầy đủ

(NB) Bài giảng Lý thuyết thông tin có kết cấu nội dung gồm 6 chương, nội dung tài liệu gồm có: Khái niệm chung, thông tin, mã hiệu, mã hóa nguồn, mã phát hiện lỗi và sửa lỗi, mã mật, mã khối tuyến tính,...

Chủ đề:
Lưu

Nội dung Text: Bài giảng Lý thuyết thông tin - ĐH Sư phạm Kỹ thuật Hưng Yên

TRƯỜNG ĐẠI HỌC SƯ PHẠM KỸ THUẬT HƯNG YÊN<br /> KHOA ĐIỆN-ĐIỆN TỬ<br /> <br /> BÀI GIẢNG<br /> LÝ THUYẾT THÔNG TIN<br /> <br /> Hưng Yên 2015<br /> (Tài liệu lưu hành nội bộ)<br /> <br /> TỔNG QUAN VỀ MÔN HỌC<br /> Chƣơng 1: Khái niệm chung.<br /> Chƣơng này giới thiệu những khái niệm và các vấn đề cơ bản trong lý thuyết truyền<br /> tin nhƣ thông tin, tín hiệu, mô hình của hệ thống truyền tin gồm những thành phần nào và<br /> các tham số cơ bản của hệ thống là gì. Mặt khác chƣơng này cũng nhắc lại phƣơng pháp<br /> rời rạc hóa một nguồn tin liên tục thành nguồn rời rạc. Cuối chƣơng đƣa ra khái niệm về độ<br /> đo thông tin và nhắc lại những cơ sở toán học cần thiết cho việc khảo sát các hệ thống<br /> truyền tin.<br /> Chƣơng 2: Thông tin<br /> Chƣơng này trình bày những vấn đề về định lƣợng thông tin của nguồn tin nhƣ<br /> lƣợng tin riêng, lƣợng tin trung bình, lƣợng tin tƣơng hỗ, lƣợng tin có điều kiện (vì tín hiệu<br /> truyền trên kênh bị nhiễu tác động nên khi thu đƣợc tín hiệu ta phải tìm khả năng đầu phát<br /> đã phát đi tín hiệu nào vì vậy chƣơng này liên quan nhiều đến xác suất. Cụ thể là xác suất<br /> riêng, xác suất đồng thời và xác suất có điều kiện và mối liên hệ chúng). Sau đó tập trung<br /> giải quyết các vấn đề về entropy để đo lƣợng tin không chắc chắn của một sự kiện hay<br /> phân phối ngẫu nhiên cũng nhƣ các tính chất của nó. Khi tín hiệu đƣợc truyền đi trên kênh<br /> nên chƣơng này cũng đƣa ra các loại kênh truyền và các tham số kỹ thuật của kênh đồng<br /> thời xác định độ không chắc chắn khi nhận đƣợc một tin cụ thể đã bị nhiễu phá hủy một<br /> phần trên kênh từ đó tính toán dung lƣợng C của kênh truyền để xác định giới hạn trên của<br /> tốc độ mà ta có thể truyền không lỗi.<br /> Phần cuối của chƣơng sẽ đề cập đến việc giải mã (tức nhận đƣợc một tin ta phải đi<br /> tìm tin nào đã đƣợc truyền đi ở bên phát). Sau đó tính các xác suất truyền sai một từ mã và<br /> xác suất truyền sai trung bình.<br /> Chƣơng 3: Mã hiệu.<br /> Chƣơng này ta tập trung vào các khả năng và các định nghĩa về mã cũng nhƣ các<br /> điều kiện và yêu cầu đối với mã hiệu, tức là đƣa ra các phƣơng pháp để lựa chọn, kiểm tra<br /> một bộ mã là phân tách đƣợc và khi nào thì có thể giải mã (độ chậm giải mã). Phần cuối<br /> của chƣơng nói về việc lập một bộ mã hệ thống.<br /> Chƣơng 4: Mã hóa nguồn.<br /> Chƣơng này nghiên cứu các vấn đề mã hóa nguồn trên cơ sở mô hình toán học của<br /> nguồn và các khả năng về lƣợng tin đã xét. Cụ thể chƣơng này đề cập đến 3 phƣơng pháp<br /> mã hóa để loại bỏ sự dƣ thừa của thông tin. Ba phƣơng pháp đó là:<br /> <br /> <br /> Phƣơng pháp mã hóa Shannon.<br /> <br /> <br /> <br /> Phƣơng pháp mã hóa Fano.<br /> <br /> <br /> <br /> Phƣơng pháp mã hóa Huffman.<br /> Mỗi phƣơng pháp đều đƣa ra phƣơng pháp chuyển các tin thành các từ mã dựa vào<br /> <br /> xác suất xuất hiện của nó (tức là các tin có xác suất xuất hiện bé thì mã hóa bằng từ mã có<br /> chiều dài lớn và các tin có xác suất xuất hiện lớn thì mã hóa bằng từ mã có chiều dài nhỏ)<br /> và sau đó tính hiệu suất lập mã.<br /> <br /> §Ò c-¬ng bµi gi¶ng<br /> <br /> M«n: Lý thuyÕt th«ng tin<br /> <br /> Chƣơng 5. Mã phát hiện lỗi và sửa lỗi<br /> Trong chƣơng 4 ta nghiên cứu các phƣơng pháp để giảm chiều dài trung bình của<br /> một bộ mã dựa vào xác suất xuất hiện của từng lớp tin thì trong chƣơng này ta lại thêm vào<br /> một số bít kiểm tra để phát hiện sai và sửa sai để đảm bảo chất lƣợng. Cụ thể ta nghiên cứu<br /> đến 4 loại mã là:<br /> <br /> <br /> Mã khối tuyến tính.<br /> <br /> <br /> <br /> Mã Hamming<br /> <br /> <br /> <br /> Mã vòng.<br /> <br />  Mã chập.<br /> Mỗi loại mã đều đƣa ra phƣơng pháp lập mã và giải mã. Để học tốt về chƣơng này sinh<br /> viên cần có kiến thức về nhân chia đa thức và các phép biến đổi sơ cấp về ma trận.<br /> Chƣơng 6: Mã mật.<br /> Chƣơng 4 đƣợc nghiên cứu với mục đích đảm bảo tính hữu hiệu của hệ thống<br /> truyền tin thì chƣơng 5 đƣợc nghiên cứu với mục đích đảm bảo chất lƣợng và chƣơng 6 sẽ<br /> đảm bảo tính an toàn. Trong chƣơng này ta sẽ nghiên cứu một số hệ thống mật mã đơn<br /> giản để có cách nhìn sơ lƣợc về mã mật và sau đó tập trung vào trình bày các cách thức tấn<br /> công vào một hệ thống mật mã.<br /> <br /> 2<br /> <br /> §Ò c-¬ng bµi gi¶ng<br /> <br /> M«n: Lý thuyÕt th«ng tin<br /> <br /> CHƢƠNG 1: KHÁI NIỆM CHUNG<br /> 1.1 Khái niệm chung về hệ thống thông tin và truyền tin.<br /> 1.1.1. Thông tin.<br /> - Hai ngƣời nói chuyện với nhau. Cái mà họ trao đổi gọi là thông tin.<br /> - Một ngƣời xem tivi/nghe đài/đọc báo, ngƣời đó đang nhận thông tin từ đài<br /> phát/báo.<br /> - Quá trình giảng dạy trong lớp.<br /> Nhận xét:<br /> + Thông tin là cái đƣợc truyền từ đối tƣợng này sang đối tƣợng khác để báo<br /> một “điều” gì đó. Thông tin ch có ý nghĩa khi “điều” đó bên nhận chƣa biết.<br /> + Thông tin xuất hiện dƣới nhiều dạng nhƣ âm thanh, hình ảnh…<br /> + Ngữ nghĩa của thông tin ch có thể hiểu đƣợc khi bên nhận hiểu đƣợc cách<br /> biểu diễn ngữ nghĩa của bên phát.<br /> + Một trong các phƣơng tiện để diễn đạt thông tin là ngôn ngữ.<br /> + Có hai trạng thái của thông tin: Truyền và lƣu trữ. Môi trƣờng truyền/lƣu<br /> trữ đƣợc gọi chung là môi trƣờng chứa tin hay kênh tin.<br /> Định nghĩa: Thông tin là sự cảm hiểu của con ngƣời về thế giới xung quanh<br /> (thông qua sự tiếp xúc với nó).<br /> 1.1.2. Tín hiệu.<br /> Thông tin là một hiện tƣợng vật lý, nó thƣờng tồn tại và đƣợc truyền đi dƣới<br /> dạng vật chất nào đó. Những dạng vật chất dùng để mang thông tin đƣợc gọi là tín<br /> hiệu.<br /> Định nghĩa: Tín hiệu là biểu diễn vật lý của thông tin.<br /> Ví dụ: Các tín hiệu nhìn thấy là các song ánh sang mang thông tin tới mắt<br /> của chúng ta. Các tín hiệu nghe thấy là các sự biến đổi của áp suất không khí truyền<br /> thông tin tới tai chúng ta.<br /> Chú ý: Không phải bản thân quá trình vật lý là tín hiệu, mà sự biến đổi các<br /> tham số riêng của quá trình vật lý mới là tín hiệu.<br /> Các đặc trƣng vật lý có thể là dòng điện, điện áp, ánh sáng, âm thanh, trƣờng<br /> điện từ.<br /> 1.2 Mô hình của hệ thống truyền tin.<br /> Sự truyền tin (transmission): Là sự dịch chuyển thông tin từ điểm này đến<br /> điểm khác trong một môi trƣờng xác định.<br /> 3<br /> <br /> §Ò c-¬ng bµi gi¶ng<br /> <br /> M«n: Lý thuyÕt th«ng tin<br /> <br /> Hệ thống thông tin (hệ thống truyền tin) là hệ thống thực hiện việc chuyển<br /> tin từ nguồn đến đích. Ta xét một hệ thống thông tin tổng quát nhƣ hình vẽ dƣới<br /> đây.<br /> <br /> Nguồn tin<br /> <br /> Bộ phát<br /> <br /> Kênh truyền<br /> <br /> Bộ thu<br /> <br /> Ngƣời dùng<br /> <br /> Nhiễu<br /> <br /> Ba phần tử cơ bản nhất của bất cứ hệ thống thông tin nào cũng phải có đó là<br /> máy phát, máy thu và kênh truyền. Mỗi phần tử có một vai trò nhất định trong việc<br /> truyền dẫn tín hiệu.<br /> Máy phát xử lý tín hiệu đầu vào và tạo ra tín hiệu có những đặc tính thích<br /> hợp với kênh truyền dẫn. Quá trình xử lý tín hiệu để truyền dẫn chủ yếu là điều chế<br /> và mã hóa (modulation and coding).<br /> Kênh truyền là môi trƣờng giữa điểm phát và điểm thu. Kênh truyền có thể là<br /> cáp song hành, cáp đồng trục, cáp quang hay môi trƣờng vô tuyến. Mọi kênh truyền<br /> đều gây ra độ suy hao hay là độ tổn thất truyền dẫn. Vì thế cƣờng độ tín hiệu bị suy<br /> giảm dần theo khoảng cách.<br /> Máy thu lấy tín hiệu đầu ra từ kênh truyền để xử lý và tái tạo ngƣợc lại tín<br /> hiệu ở đầu phát. Các hoạt động của máy thu bao gồm khuếch đại để bù vào tổn hao<br /> truyền dẫn, và giải điều chế và giải mã tín hiệu đã đƣợc điều chế và mã hóa ở máy<br /> phát.<br /> 1.3. Các yêu cầu cơ bản của hệ thống truyền tin.<br /> 1.3.1. Tính hữu hiệu.<br /> Thể hiện trên các mặt sau:<br /> - Tốc độ truyền tin cao.<br /> - Truyền đƣợc đồng thời nhiều tin khác nhau.<br /> - Chi phí cho một bit thông tin thấp.<br /> 1.3.2. Độ tin cậy.<br /> Đảm bảo độ chính xác của việc thu nhận tin cao, xác suất thu sai thấp (BER<br /> – Bit Error Rate).<br /> Hai ch tiêu trên mâu thuẫn nhau. Giải quyết mâu thuẫn trên là nhiệm vụ của<br /> 4<br /> <br />

CÓ THỂ BẠN MUỐN DOWNLOAD

Đồng bộ tài khoản