信息論及其應(yīng)用

前言

　　信息論是研究信息傳輸和信息處理過程中一般規(guī)律的一門學(xué)科，也是現(xiàn)代信息科學(xué)和技術(shù)的一門基礎(chǔ)理論。因此目前各高等院校的電子信息類專業(yè)的本科生、研究生都把信息論作為一門重要的專業(yè)基礎(chǔ)理論課。同時(shí)，由于信息論的思想和方法已廣泛地滲透到許多其他的學(xué)科，信息論的許多結(jié)果也有相當(dāng)?shù)钠毡橐饬x，因此信息論在許多其他領(lǐng)域，如在計(jì)算機(jī)科學(xué)、系統(tǒng)科學(xué)、統(tǒng)計(jì)學(xué)、經(jīng)濟(jì)學(xué)甚至在社會(huì)學(xué)中都獲得了成功的應(yīng)用。信息論對于從事這些相關(guān)領(lǐng)域工作和學(xué)習(xí)的人員來說也是極有參考價(jià)值的?！　”緯底髡吒鶕?jù)多年教學(xué)實(shí)踐和經(jīng)驗(yàn)編著而成。教材主要介紹了香農(nóng)（Shannon）信息論的基本概念、基本分析方法和主要結(jié)果；同時(shí)介紹了香農(nóng)理論在密碼學(xué)、計(jì)算理論、系統(tǒng)科學(xué)和統(tǒng)計(jì)學(xué)方面的一些應(yīng)用。本書避免使用過多的抽象數(shù)學(xué)理論，用基本概率論工具闡明香農(nóng)信息論中的精華——典型列理論和隨機(jī)編碼方法。本書吸取了R.G.Gallagef和T.Cover所著的兩本信息論經(jīng)典著作的優(yōu)點(diǎn)，結(jié)合編著者的教學(xué)經(jīng)驗(yàn)，使得本書寫得深入淺出，既保持理論的完整性和系統(tǒng)性，又概念清楚，易讀好懂。

內(nèi)容概要

　　《信息論及其應(yīng)用》分十一章，前七章是信息論的基礎(chǔ)理論，后四章是應(yīng)用篇。除第一章緒論外，第二章介紹信息量的定義和性質(zhì)；第三章介紹離散信源的無錯(cuò)壓縮編碼；第四章介紹信道容量和信道編碼定理；第五章介紹常見的連續(xù)信道——高斯信道；第六章介紹了失真受到限制的信源壓縮編碼理論——率失真理論；第七章介紹有多個(gè)發(fā)射機(jī)和多個(gè)收信機(jī)的信源編碼和信道編碼理論，也稱為多用戶信息論；第八章介紹密碼學(xué)，特別介紹香農(nóng)信息論對密碼學(xué)的應(yīng)用；第九章介紹在系統(tǒng)理論和信號(hào)處理中極為有用的最大信息原則和最大熵譜估計(jì)；第十章介紹類型理論及其在統(tǒng)計(jì)學(xué)和通用信源編碼方面的應(yīng)用；第十一章介紹Kolmogorov復(fù)雜性理論。

書籍目錄

第一章緒論第二章 熵和互信息§2.1 離散信源的熵和信息量2.1.1 事件的互信息2.1.z條件互信息和聯(lián)合事件的互信息2.1.3 事件的自信息2.1.4 離散隨機(jī)變量的平均自信息——熵2.1.5 熵的性質(zhì)2.1.6 隨機(jī)變量的相對熵和平均互信息2.1.7 馬爾可夫鏈和數(shù)據(jù)處理定理§2.2 連續(xù)隨機(jī)變量的互信息和微分熵2.2.1 連續(xù)隨機(jī)變量的互信息2.2.2 連續(xù)隨機(jī)變量的熵——微分熵2.2.3 微分熵的極大化§2.3 凸函數(shù)和互信息的凸性2.3.1 凸函數(shù)的概念和性質(zhì)2.3.2 Kuhn-Tucker條件2.3.3 互信息的凸性§2.4 平穩(wěn)離散信源2.4.1 平穩(wěn)離散信源一般概念2.4.2 平穩(wěn)信源的熵2.4.3 馬爾可夫信源§2.5 隨機(jī)過程的信息量和熵習(xí)題第三章 離散信源的無錯(cuò)編碼§3.1 AEP性質(zhì)和離散無記憶源（DMS）的等長編碼3.1.1 AEP性質(zhì)3.1.2 離散無記憶源的等長編碼§3.2 離散無記憶源（DMS）的不等長編碼3.2.1 Kraft不等式3.2.2 不等長編碼定理3.2.3 最佳不等長編碼（Huffman編碼）-."3.2.4 其他不等長編碼方法3.2.5 Shannon編碼的競爭最佳性（Competitiveoptimality）§3.3 平穩(wěn)信源和馬爾可夫信源的編碼定理3.3.1 平穩(wěn)信源的編碼3.3.2 馬爾可夫信源的編碼習(xí)題第四章 離散無記憶信道（DMC）的容量和編碼定理§4.1 離散無記憶信道（DMC）及其容量4.1.1 信道容量的定義和例子4.1.2 離散無記憶信道（DMC）的容量定理4.1.3 對稱離散無記憶信道容量的計(jì)算4.1.4 轉(zhuǎn)移概率矩陣可逆信道的容量計(jì)算4.1.5 離散無記憶信道（DMC）容量的迭代計(jì)算§4.2 信道的組合4.2.1 積信道（平行組合信道）4.2.2 和信道4.2.3 級聯(lián)信道§4.3 離散無記憶信道（DMC）的編碼定理4.3.1 幾個(gè)有關(guān)定義4.3.2 聯(lián)合典型列對4.3.3 信道編碼定理4.3.4 Fano不等式和逆編碼定理4.3.5 具有反饋的離散無記憶信道的容量4.3.6 信源一信道聯(lián)合編碼習(xí)題第五章 高斯信道§5.1 高斯信道概念5.1 l高斯信道的容量5.1.2 高斯信道編碼定理5.1.3 高斯信道編碼定理之逆§5.2 帶限信道§5.3 平行高斯信道§5.4 有色高斯噪聲信道§5.5 具有無噪反饋的高斯信道5.5.1 無記憶高斯信道上無噪反饋通信5.5.2 一階自回歸高斯信道上無噪反饋通信習(xí)題第六章 率失真理論§6.1 率失真函數(shù)的定義§6.2 簡單信源的率失真函數(shù)計(jì)算6.2.1 貝努利信源6.2.2 高斯信源6.2.3 高斯矢量信源§6.3 率失真函數(shù)的性質(zhì)6.3.1 R（D）的定義域（O，Dmax）6.3.2 尺（D）的向下凸性6.3.3 R（D）是單調(diào)遞減的連續(xù)函數(shù)§6.4 率失真函數(shù)R（D）的參數(shù)表示式§6.5 率失真函數(shù)的迭代計(jì)算§6.6 限失真信源編碼定理習(xí)題第七章 多用戶信息論§7.1 多用戶信息傳輸系統(tǒng)模型7.1.1 多元接入信道7.1.2 廣播信道7.1.3 串?dāng)_信道7.1.4 中繼信道7.1.5 相關(guān)信源的編碼和譯碼§7.2 推廣的聯(lián)合典型序列及聯(lián)合AEP性質(zhì)§7.3 多接入信道§7.4 廣播信道7.4.1 廣播信道的定義7.4.2 退化的廣播信道§7.5 相關(guān)信源的源編碼習(xí)題第八章 密碼學(xué)理論§8.1 古典密碼學(xué)8.1.1 古典密碼的例子8.1.2 古典密碼的破譯§8.2 基于信息論的密碼學(xué)理論8.2.1 密碼系統(tǒng)理論安全性測度8.2.2 密碼系統(tǒng)的實(shí)用安全性§8.3 DES系統(tǒng)8.3.1 DES系統(tǒng)加密、解密運(yùn)算的基本步驟8.3.2 DES系統(tǒng)中密鑰的選取……第九章 最大信息原則和最大熵譜估計(jì)第十章 類型理論及其應(yīng)用第十一章 Kolmogorov復(fù)雜性理論參考文獻(xiàn)

圖書封面

評論、評分、閱讀與下載

---

    信息論及其應(yīng)用 PDF格式下載

---