信息論基礎(chǔ)

內(nèi)容概要

　　本書從基本概念和基本方法人手，盡量使用初等的數(shù)學(xué)工具，系統(tǒng)而又全面地介紹信息論的基礎(chǔ)理論、基本方法以及近年來發(fā)展的新成果，包括一些最新的、較為成熟的原理。全書共分10章。第1章介紹香農(nóng)信息理論的基本概念、基本內(nèi)容和發(fā)展簡史。第2章討論信源、信息的度量等。第3章介紹互信息。第4章主要介紹有關(guān)信源編碼的一些基本概念和Huffman最優(yōu)編碼。第5章主要介紹離散信道編碼定理。第6章介紹線性碼。第7章介紹有關(guān)率失真理論。第8章介紹最大熵原理和最小鑒別信息原理。在第9章中對非統(tǒng)計(jì)意　　義下的信息理論（組合信息與算法信息）作了介紹，同時(shí)給出通用編碼方法的代表——Lempel-Ziv編碼方法。第10章介紹密碼學(xué)的基礎(chǔ)知識。大部分內(nèi)容附有習(xí)題?！　”緯m用于信息與計(jì)算科學(xué)、應(yīng)用數(shù)學(xué)、概率統(tǒng)計(jì)、計(jì)算機(jī)科學(xué)、自動控制、通信工程等專業(yè)的本科生作教材，也可作為這些專業(yè)的研究生的學(xué)習(xí)參考，并可供有關(guān)工程技術(shù)人員自學(xué)。

書籍目錄

前　言第1章　概論1.1　信息理論的基本內(nèi)容1.2　信息理論的發(fā)展簡史1.3　控制論、信息論與系統(tǒng)論1.4　信息理論的應(yīng)用第2章　信息與熵2.1　信源熵2.2　聯(lián)合熵與條件熵2.3　熵函數(shù)的惟一性2.4　熵函數(shù)的性質(zhì)2.5　連續(xù)型隨機(jī)變量的熵2.6　意義信息和加權(quán)熵習(xí)題第3章　互信息3.1　平均互信息3.1.l　事件的互信息3.1.2　多隨機(jī)變量下條件互信息與聯(lián)合事件的互信息3.1.3　F均互信息3.2　互信息與其他熵之間的關(guān)系3.2.1　互信息的等價(jià)定義3.2.2　熵之間的關(guān)系3.3　多個(gè)隨機(jī)變量的互信息3.3.1　兩組隨機(jī)變量之間的互信息3.3.2　條件互信息3.3.3　隨機(jī)向量中各隨機(jī)變量之間的互信息3.4　互信息函數(shù)的性質(zhì)3.5　連續(xù)型隨機(jī)變量的互信息習(xí)題第4章　離散信源的無錯(cuò)編碼4.1　信源與信源編碼簡介4.1.1　信源4.1.2　信源的分類4.1.3　信源編碼4.2　無記憶信源的漸近等同分割性與定長編碼定理4.2.1　漸近等同分割性（AEP）4.2.2　定長編碼定理4.3　離散無記憶信源的變長編碼4.3.1　前綴碼與Kraft不等式4.3.2　Huffman編碼與最優(yōu)編碼定理4.3.3　常用變長編碼4.4　離散平穩(wěn)信源及其編碼定理4.4.1　平穩(wěn)信源的熵率及冗余度4.4.2　平穩(wěn)信源的編碼定理4.5　馬爾可夫信源及其編碼4.5.1　馬爾可夫信源4.5.2　馬爾可夫信源的編碼習(xí)題第5章　離散無記憶信道的編碼理論5.1　信道容量5.1.1　信道容量的定義和例子5.1.2　離散無記憶信道容量的有關(guān)性質(zhì)5.!.3　某些簡單情況下信道容量的計(jì)算5.1.4　轉(zhuǎn)移概率可逆時(shí)信道容量的計(jì)算5.1.5　離散無記憶信道容量的迭代計(jì)算5.1.6　達(dá)到信道容量時(shí)輸入輸出字母概率分布的惟一性5.2　信道編碼5.2.1　信道編碼概述5.2.2　聯(lián)合典型序列5.3　信道編碼定理5.3.1　信道編碼定理的證明5.3.2　Fano不等式和逆編碼定理5.3.3　信源一信道聯(lián)合編碼5.4　葛斯信道5.4.1　高斯信道容量5.4.2　高斯信道編碼定理5.4.3　高斯信道編碼定理的逆定理5.5　級聯(lián)信道和并聯(lián)信道的信道容量5.5.1　級聯(lián)信道5.5.2　并聯(lián)信道5.6　信道編碼實(shí)例5.6.1　重復(fù)碼5.6.2 Hamming碼習(xí)題第6章　線性碼6.1　線性分組碼的定義及表示6.2　系統(tǒng)編碼和校驗(yàn)矩陣6.3　系統(tǒng)編碼及其最優(yōu)譯碼的實(shí)現(xiàn)6.4　線性碼的差錯(cuò)概率及糾錯(cuò)能力第7章　信源的率失真函數(shù)與熵壓縮編碼7.1　熵壓縮編碼和信源的率失真函數(shù)7.2　率失真函數(shù)的基本性質(zhì)7.3　對離散信源求解率失真函數(shù)的迭代算法7.4　連續(xù)無記憶信源的信息率失真函數(shù)7.4.1　基本性質(zhì)7.4.2　差值失真度量下率失真函數(shù)的下界7.4.3　差方失真度量下的率失真函數(shù)7.5　標(biāo)量量化7.6　限失真信源編碼定理習(xí)題第8章　最大熵原理與最小鑒別信息原理8.1　最大熵原理8.1.l　最大熵原理的提出8.1.2　最大熵原理的合理性8.1.3　最大熵譜估計(jì)8.2　鑒別信息8.2.1　鑒別信息的定義8.2.2　鑒別信息的性質(zhì)8.3　最小鑒別信息原理8.3.1　最小鑒別信息原理8.3.2　獨(dú)立分量分析習(xí)題第9章　組合信息與算法信息9.1　自適應(yīng)統(tǒng)計(jì)編碼9.2　組合信息9.2.1　基于組合的信息度量9.2.2　Fitingof通用編碼9.3　算法信息9.3.1　Kolmogorov算法熵9.3.2　算法熵的不可計(jì)算性9.3.3　Lewpel—ziv通用編碼9.3.4　Kieffer_Yang通用編碼習(xí)題第10章　密碼學(xué)引論10.1　古典密碼學(xué)10.1.1　古典密碼舉例10.1.2　古典密碼分析10.2　基于信息論的密碼學(xué)10.2.1　完全保密lO.2.2　惟一解距離-10.2.3　實(shí)用安全性10.3　數(shù)據(jù)加密標(biāo)準(zhǔn)（DES）10.3.1　DES的描述10.3.2 DES的討論10.4　其他10.4.1　公開鑰密碼系統(tǒng)10.4.2　認(rèn)證系統(tǒng)10.4.3　數(shù)字簽名10.4.4　密鑰的管理lO.4.5　電子貨幣部分習(xí)題解答或提示參考文獻(xiàn)

編輯推薦

　　本書從基本概念和基本方法人手，盡量使用初等的數(shù)學(xué)工具，系統(tǒng)而又全面地介紹信息論的基礎(chǔ)理論、基本方法以及近年來發(fā)展的新成果，包括一些最新的、較為成熟的原理。本書適用于信息與計(jì)算科學(xué)、應(yīng)用數(shù)學(xué)、概率統(tǒng)計(jì)、計(jì)算機(jī)科學(xué)、自動控制、通信工程等專業(yè)的本科生作教材，也可作為這些專業(yè)的研究生的學(xué)習(xí)參考，并可供有關(guān)工程技術(shù)人員自學(xué)。

圖書封面

圖書標(biāo)簽Tags

無

評論、評分、閱讀與下載

---

    信息論基礎(chǔ) PDF格式下載

---