Truyn và bo mt thông tin - Nguyn Văn Khang - ĐHSP Huế1
TRUYN VÀ BO MT
THÔNG TIN
NguynVăn Khang Khoa Tin hc, ĐHSP Huế
nguyenvankhang@dhsphue.edu.vn
Truyn và bo mt thông tin 2
2
Tài liuthamkho
1. Phan Đình Diu. Lý thuyếtmt An toàn thông tin,
ĐạihcQuc Gia Ni
2. NguynHu Tuân, Giáo trình An toàn bomt thông tin,
Trường đạihc Hàng hi- Hi Phòng
3. TS. Lê Quy ếtThng, ThS. Phan Tn Tài, Ks. Dương Văn
Hiếu, Giáo trình thuyết thông tin.
4. Douglas R. Stinson. Cryptography Theory and practice. CRC
Press. 1995.
5. David J.C. Mackey, Information Theory, Infernce, and
Learning Algorithms, CamBridge
6. University Express-2003.
7. G.J.ChaiTin, Algorithmic Information Theory, CamBridge
University Express-1992.
8. Sanford Goldman, Information Theory.
Thông tin và truynthôngtin
PhnI.
M ĐẦU
Chương I.
Truyn và bo mt thông tin - Nguyn Văn Khang - ĐHSP Huế2
Truyn và bo mt thông tin 5
5
Thông tin
Thông tin là mt khái nimtrutượng, khó định nghĩachính
xác. Hai định nghĩavthông tin tiêu biu:
Thông tin là scmhiuca con ngườivthếgii xung quanh
thông qua stiếpxúcvi nó.
Thông tin là mththng nhng tin báo mnh lnh giúp loi
trskhông chcchn (uncertainty) trong trng thái canơi
nhn tin. Nói ngngn, thông tin là cái loitrskhông
chcchn.
Định nghĩađầuchưanóilên đượcbnchtca thông tin.
Định nghĩathhai nói hơnvbnchtca thông tin và
được dùng để định lượng thông tin trong kthut.
Truyn và bo mt thông tin 6
Truynvàbomt thông tin 6
Thông tin
Thông tin là cái đượctruyntừđitượng này đếnđốitượng
khác để báo mt“điu”gìđó. Thông tin ch ý nghĩakhi
điu” đó bên nhnchưabiết.
Thông tin xuthindướinhiudng âm thanh , hình nh, ...
Nhng dng này ch vbc”vtchtchathôngtin.V
bc” phn “xác”, thông tin là phn“hn”.
Ngnghĩaca thông tin ch thhiuđược khi bên nhn
hiuđượccáchbiudinngnghĩaca bên phát.
Mt trong nhng phương tinđể dinđạt thông tin là ngôn
ng.
hai trng thái ca thông tin: truyn lưutr. Môi trường
truyn/lưutrữđưcgi chung môi trường cha tin hay
kênh tin.
Truyn và bo mt thông tin 7
7
Mô hình quá trình truyntin
thuyết thông tin nghiên cu quá trình x
tín hiunhưsau:
Đầu vào (input): nhn tín hiutmtlĩnh vc
cth, tc tín hiuxuthin theo các
hiu (symbol) tmttphpchotrướcvà
theo phân phixácsutđãbiết.
Tín hiuđượctruynđi trên kênh truyn
(channel) và thbnhiucũng theo mt
phân phixácsut nào đó.
Truyn và bo mt thông tin 8
8
Mô hình quá trình truyntin
Kênh truyncóthểđưchiudướihainghĩa:
Dướinghĩavt lý: kênh truynlàmththng truyn
tín hiu (dây dn, mch, sóng, ...) và gây nhiutùy
thao chtlượng cahthng.
Dướinghĩatoánhc: kênh truynlàcácphânphi
xác sutxácđịnh trên lp các tín hiuđang xét
đầunhn tín hiu(output).
Truyn và bo mt thông tin - Nguyn Văn Khang - ĐHSP Huế3
Truyn và bo mt thông tin 9
Truynvàbomt thông tin 9
Mô hình quá trình truyntin
Ngun tin (information source): Là mttphp
các tin mà hthng truyn tin dùng để lpcác
bng tin hay thông báo (message) để truyn
tin.
Các tín hiunhưâm thanh, hình nh.. Là các
hàm liên tctheothi gian, nguntin nhưthế
gilàngun liên tc(continuous source), các
tin đóđượcgilàtin liên tc(continuous
information) và kênh tin đượcgilàkênh liên
tc(continuous channel).
Truyn và bo mt thông tin 10
10
Mô hình quá trình truyntin
Các tín hiunhưđin tín, các lnh điukhin…là rirc theo
thi gian, nguntin nhưthếgilàngunrirc(discrete
source), các tin đóđượcgilàtin rirc(discrete information)
kênh tin đượcgilàkênh rirc(discrete channel).
Các hthng liên tc nhiunhượcđimnhưcng knh,
không hiuqu, và chi phí cao.
Các hthng truyntin rirc nhiuưuđimhơn, khc
phcđượcnhng nhượcđimtrêncacáchthng liên tc
đặ c bitđang ngày càng được phát trinvàhoànthin
dn.
ÆRirc hóa các kênh liên tc
Truyn và bo mt thông tin 11
11
Mô hình quá trình truyntin
Rirc hóa: Thường mttronghailoi:
Rirc hoá theo trcthi gian, còn đượcgi
lymu(sampling) và rirc hoá theo biên
độ , còn đượcgilàlượng thoá (quantize).
LymuLượng thóa
Truyn và bo mt thông tin 12
12
Mô hình quá trình truyntin
Ngun tin liên tcsaukhi đượclymuvà
lượng thoá strthành ngunrirc.
Chúng ta hcchyếu các ngunrirc.
Truyn và bo mt thông tin - Nguyn Văn Khang - ĐHSP Huế4
Truyn và bo mt thông tin 13
13
Mô hình quá trình truyntin
thuyết thông tin đượcxétởđây theo quan
đimca Shannon. Đốitượng nghiên culà
mththng liên lctruyntin
(communication system) nhưsơđdướiđây:
Truyn và bo mt thông tin 14
14
Lượng tin biếtvàchưabiết
Mtbiếnngu nhiên (BNN) X luôn mang mtlượng
tin nào đó.
NếuX chưaxyrathìX cómtlượng tin chưabiết.
NếuX đãxyrathìlượng tin vbiếnX coinhưđã
biết hoàn toàn.
Nếubiết thông tin camt BNN X thông qua BNN Y
đãxy ra thì ta thnói: chúng ta chbiếtmtphn
lượng thông tin caX đótrêncơsbiếtY.
Truyn và bo mt thông tin 15
15
Lượng tin biếtvàchưabiết
Ta xét dtrò chơitungmtđồng tin“cóđầuhình
không đầuhình.
Tuy nhiên ngườitchcchơicóthăn gian” bng
cách sdng 2 đồng tin“Tht- Gi khác nhau sau:
Đồng tinloi1 (hay đồng tintht): đồng chtcó1 mt
đầu hình.
Đồng tinloi2 (hay đồng tingi): đồng cht, mimt
đềucó1 đầu hình.
Mcdùngườitchcchơicóthăn gian” nhưng
quá trình trao đổi2 đồng tinchonhaulàngunhiêu
Truyn và bo mt thông tin 16
16
Lượng tin biếtvàchưabiết
Ta thxét mttrường hpsau: nếungười
chơilyngu nhiên 1 đồng tinvàsauđóthc
hinvic tung đồng tinđó2 ln. Qua 2 ln
tung đồng tin, ta đếmđượcsốđuhìnhxut
hin.
Davàosốđuhìnhxuthin, ta thphán
đoán đượcngườitchcchơiđãlyđược
đồng tin nào.
Truyn và bo mt thông tin - Nguyn Văn Khang - ĐHSP Huế5
Truyn và bo mt thông tin 17
Truynvàbomt thông tin 17
Lượng tin biếtvàchưabiết
Chng hn: Nếusốđuhìnhđếmđược sau 2
lntưng 1 thì đồng tinđãlyđượclàđồng
tintht. Ngượclinếusốđuhìnhđếmđược
2 thì đồng tinđãlyđượccóth tht
hay cũng th gi. Nhưvy, ta đãnhn
đượcmtphn thông tin vloiđồng tinqua
sốđuhìnhđếmđượcsau2 ln tung.
Truyn và bo mt thông tin 18
Truynvàbomt thông tin 18
Lượng tin biếtvàchưabiết
Dướiđây mtsbng phân phica bài
toán trên:
Gi BNN X vloiđồng tin (X=1 hoc2).
Khi đóphânphicaX códng:
Truyn và bo mt thông tin 19
Truynvàbomt thông tin 19
Lượng tin biếtvàchưabiết
Đặt BNN Y là BNN vsốđuhìnhđếmđược
sau 2 ln tung. Khi đótacóthxác định được
phân phicaY viđiukinxyracaX
trong 2 trường hp sau:
Truyn và bo mt thông tin 20
Truynvàbomt thông tin 20
Bài tp
Tìm phân phicaY?
Tính XS X=1 khi Y=2?
Nhli:
Định Bayes
Nếu p(y) > 0 thì: