信息論基礎(chǔ)

前言

信息論是通信技術(shù)的重要理論基礎(chǔ)之一。經(jīng)典香農(nóng)信息論對當(dāng)代通信技術(shù)的發(fā)展具有重要理論意義，例如指導(dǎo)信源編碼、信道編碼等的發(fā)展。而目前受到較大關(guān)注并在不斷發(fā)展的網(wǎng)絡(luò)信息論（多用戶信息論），將對未來網(wǎng)絡(luò)的發(fā)展產(chǎn)生重大和深遠(yuǎn)的影響。網(wǎng)絡(luò)信息論的每一次突破性進(jìn)展都將帶來通信發(fā)展的歷史性革命，例如新興理論——網(wǎng)絡(luò)編碼的誕生就是一個生動的印證！為更好地學(xué)習(xí)和發(fā)展網(wǎng)絡(luò)信息論，掌握經(jīng)典香農(nóng)信息論十分必要。但讀者在學(xué)習(xí)過程中經(jīng)常遇到的難題是，大量繁復(fù)、抽象的數(shù)學(xué)公式對理解信息論的內(nèi)容構(gòu)成較大障礙，容易打擊學(xué)習(xí)信息論的信心和興趣。針對此突出問題，本書在編寫過程中遵循了如下基本原則：注重知識的系統(tǒng)性和條理性，注重闡明概念和原理的物理意義，力求深入淺出，通俗易懂。本書特色如下：注重知識的系統(tǒng)性和條理性，每章都配有知識結(jié)構(gòu)框圖，便于讀者掌握各知識點之間的邏輯聯(lián)系，也便于讀者明晰本書的脈絡(luò)。注重闡明概念和原理的物理意義，并輔以實例加深理解；同時，實例之間也是相互關(guān)聯(lián)的，通過實例的相關(guān)性來進(jìn)一步加深對知識點之間邏輯聯(lián)系的理解。每個重要概念都有相應(yīng)的中英文對照，以便于與英文文獻(xiàn)中的概念相對應(yīng)。每章均有“歷史和啟示”，選擇信息論和編碼研究中具有代表性的重要進(jìn)展和變革性的歷史事件加以回顧，分析這些創(chuàng)新思想的誕生過程以及重要概念、原理的形成過程，啟迪讀者的創(chuàng)新思維。從長遠(yuǎn)意義上說，啟迪創(chuàng)新思維和培養(yǎng)創(chuàng)新能力的重要程度比知識本身更重要。同時，通過一些生動有趣的案例，讓讀者感受到信息論離我們并沒有想象的那么遙遠(yuǎn)，從而增強(qiáng)讀者學(xué)習(xí)信息論的信心和興趣，同時也增強(qiáng)了本書的可讀性。

內(nèi)容概要

本書系統(tǒng)地闡述了信息論的基本概念和原理，主要包括：香農(nóng)信息論的三個基本概念（信源熵、信道容量、信息率失真函數(shù)）；香農(nóng)信息論的三個基本定理（無失真信源編碼定理、信道編碼定理、限失真信源編碼定理）；信源編碼；信道編碼；網(wǎng)絡(luò)信息論（多用戶信息論）及其新興理論分支——網(wǎng)絡(luò)編碼。本書注重知識點的系統(tǒng)性和條理性，注重闡明概念和原理的物理意義，力求深入淺出，通俗易懂。    本書可作為高等院校通信、信息、計算機(jī)、電子、網(wǎng)絡(luò)等相關(guān)專業(yè)的本、?？粕滩幕蚪虒W(xué)參考書，也可作為從事上述專業(yè)的科研人員和工程技術(shù)人員的參考書。

書籍目錄

第1章  緒論  1.1  信息的概念  1.2  信息論的歷史和發(fā)展  1.3  本書的組織結(jié)構(gòu)第2章  信源熵  2.1  概述  2.2  單符號離散信源的熵（離散熵）    2.2.1  信息量    2.2.2  平均信息量（熵）  2.3  多符號離散信源的熵（離散熵）    2.3.1  離散無記憶平穩(wěn)信源的N次擴(kuò)展信源的熵    2.3.2  N維離散有記憶平穩(wěn)信源的熵    2.3.3  馬爾可夫信源的極限熵    2.3.4  離散信源冗余度  2.4  連續(xù)信源的熵（連續(xù)熵）    2.4.1  連續(xù)信源的熵（微分熵）    2.4.2  特殊連續(xù)信源的熵    2.4.3  連續(xù)信源冗余度  2.5  無失真信源編碼定理（香農(nóng)第一定理）  歷史與啟示  本章小結(jié)  本章附錄  習(xí)題第3章  信道容量  3.1  概述  3.2  基本概念    3.2.1  信道模型    3.2.2  互信息量    3.2.3  平均互信息量（互熵）    3.2.4  互熵和熵之間的關(guān)系  3.3  單符號離散信道的信道容量    3.3.1  特殊離散信道的信道容量    3.3.2  一般離散信道的信道容量    3.3.3  單符號離散信道的串聯(lián)信道的信道容量  3.4  多符號離散信道的信道容量    3.4.1  單符號離散信道的N次擴(kuò)展信道的信道容量    3.4.2  單符號離散信道的N個獨立并聯(lián)信道的信道容量  3.5  連續(xù)信道    3.5.1  時間離散的加性連續(xù)信道的信道容量    3.5.2  時間連續(xù)的加性連續(xù)信道的信道容量  3.6  信道冗余度  3.7  信道編碼定理（香農(nóng)第二定理）  歷史和啟示  本章小結(jié)  本章附錄  習(xí)題第4章  信息率失真函數(shù)  4.1  概述  4.2  基本概念    4.2.1  失真函數(shù)和失真矩陣    4.2.2  平均失真函數(shù) 和允許平均失真D  4.3  信息率失真函數(shù)R(D)    4.3.1  信息率失真函數(shù)R(D)的定義    4.3.2  信息率失真函數(shù)R(D)與信道容量C    4.3.3  信息率失真函數(shù)R(D)的性質(zhì)  4.4  離散信源的信息率失真函數(shù)R(D)  4.5  連續(xù)信源的信息率失真函數(shù)R(D)  4.6  限失真信源編碼定理（香農(nóng)第三定理）  歷史和啟示  本章小結(jié)  習(xí)題第5章  信源編碼  5.1  概述  5.2  基本概念  5.3  統(tǒng)計特性已知的離散無記憶信源編碼    5.3.1  香農(nóng)編碼    5.3.2  費諾編碼    5.3.3  香農(nóng)-費諾-埃利斯編碼    5.3.4  霍夫曼編碼  5.4  統(tǒng)計特性已知的離散有記憶信源編碼    5.4.1  游程編碼    5.4.2  算術(shù)編碼  5.5  統(tǒng)計特性未知的離散信源編碼——通用編碼    5.5.1  字典碼LZ-77    5.5.2  字典碼LZ-78    5.5.3  字典碼LZW  歷史和啟示  本章小結(jié)  習(xí)題第6章  信道編碼  6.1  概述  6.2  基本概念和原理    6.2.1  差錯控制的方式    6.2.2  檢錯、糾錯能力與碼重、碼距的關(guān)系    6.2.3  簡單的信道編碼  6.3  線性分組碼    6.3.1  生成矩陣    6.3.2  校驗矩陣    6.3.3  伴隨矩陣    6.3.4  完備碼、漢明碼和極大最小距離碼  6.4  循環(huán)碼    6.4.1  生成多項式和生成矩陣    6.4.2  校驗多項式和校驗矩陣    6.4.3  伴隨多項式和伴隨矩陣    6.4.4  BCH碼和RS碼    6.4.4.1  BCH碼    6.4.4.2  RS碼  6.5  卷積碼    6.5.1  卷積碼的組成結(jié)構(gòu)    6.5.2  卷積碼的解析表示法    6.5.3  卷積碼的圖解表示法    6.5.4  卷積碼的譯碼方法  歷史和啟示  本章小結(jié)  習(xí)題第7章  網(wǎng)絡(luò)信息論  7.1  概述  7.2  網(wǎng)絡(luò)信道分類    7.2.1  多址接入信道    7.2.2  廣播信道    7.2.3  中繼信道    7.2.4  串?dāng)_信道    7.2.5  雙向信道    7.2.6  反饋信道    7.2.7  網(wǎng)絡(luò)信道  7.3  多址接入信道    7.3.1  二址接入信道的信道容量區(qū)域    7.3.2  多址接入信道的信道容量區(qū)域    7.3.3  二址接入信道的信道容量區(qū)域的求解實例  7.4  廣播信道    7.4.1  單輸入二輸出廣播信道分類    7.4.2  單輸入二輸出降階廣播信道的信道容量區(qū)域    7.4.3  廣播信道實例及其廣義含義  7.5  相關(guān)信源編碼    7.5.1  相關(guān)信源編碼模型的分類    7.5.2  Slepian-Wolf相關(guān)信源編碼    7.5.3  相關(guān)信源編碼與二址接入信道  歷史和啟示  本章小結(jié)  習(xí)題第8章  網(wǎng)絡(luò)編碼  8.1  概述  8.2  網(wǎng)絡(luò)編碼的優(yōu)勢和劣勢    8.2.1  網(wǎng)絡(luò)編碼的優(yōu)勢    8.2.2  網(wǎng)絡(luò)編碼的劣勢  8.3  網(wǎng)絡(luò)編碼的可行性和本質(zhì)    8.3.1  隨機(jī)網(wǎng)絡(luò)編碼    8.3.2  網(wǎng)絡(luò)編碼的本質(zhì)  8.4  有向無環(huán)網(wǎng)絡(luò)中的網(wǎng)絡(luò)編碼    8.4.1  局部編碼矩陣和全局編碼矩陣    8.4.2  線性網(wǎng)絡(luò)編碼的四個特性  8.5  有向有環(huán)網(wǎng)絡(luò)中的網(wǎng)絡(luò)編碼    8.5.1  有向有環(huán)網(wǎng)絡(luò)中的局部編碼矩陣和全局編碼矩陣    8.5.2  卷積網(wǎng)絡(luò)編碼的四個特性  8.6  無向網(wǎng)絡(luò)中的網(wǎng)絡(luò)編碼  8.7  網(wǎng)絡(luò)編碼典型應(yīng)用    8.7.1  應(yīng)用層的網(wǎng)絡(luò)編碼應(yīng)用    8.7.2  網(wǎng)絡(luò)層的網(wǎng)絡(luò)編碼應(yīng)用    8.7.3  物理層的網(wǎng)絡(luò)編碼應(yīng)用  8.8  網(wǎng)絡(luò)編碼的展望  歷史和啟示  本章小結(jié)  習(xí)題  參考文獻(xiàn)參考書目

章節(jié)摘錄

插圖：單用戶信息論主要討論單信源和單信宿之間點到點的通信問題，當(dāng)點到點通信已經(jīng)發(fā)展到網(wǎng)絡(luò)通信的時候，就須考慮網(wǎng)絡(luò)中多信源和多信宿的情況，而且還須考慮網(wǎng)絡(luò)中眾多的中繼節(jié)點。這均屬于網(wǎng)絡(luò)信息論（Network Information Theory）或稱為多用戶信息論（Multiuser Information Theory）要討論的范圍。單用戶信息論對點到點通信具有重要的理論指導(dǎo)意義，同樣，網(wǎng)絡(luò)信息論對當(dāng)前和未來網(wǎng)絡(luò)通信的規(guī)劃和發(fā)展具有極其重要的理論指導(dǎo)意義。但是，目前網(wǎng)絡(luò)信息論的發(fā)展存在許多未解決和未完善的問題，任何網(wǎng)絡(luò)信息論的新成果和新突破都將對未來網(wǎng)絡(luò)的發(fā)展構(gòu)成重要和深遠(yuǎn)的影響。本章重點內(nèi)容：多址接入信道（屬于多輸入單輸出信道）和廣播信道（屬于單輸入多輸出信道）的可達(dá)速率區(qū)域和信道容量區(qū)域；相關(guān)信源編碼的可達(dá)速率區(qū)域問題。本章難點內(nèi)容：相關(guān)信源和多址接入信道的聯(lián)合問題。

編輯推薦

《信息論基礎(chǔ)》特色：注重知識的系統(tǒng)性和條理性，每章都配有知識結(jié)構(gòu)框圖，便于讀者掌握知識點之間的邏輯聯(lián)系。注重闡明概念和原理的物理意義，并輔以實例加深理解，力求深入淺出，通俗易懂。每個重要概念都有中英文對照，便于與英文文獻(xiàn)中的概念相對應(yīng)。每章均有“歷史和啟示”，通過回顧信息論和編碼研究中具有代表性的重要進(jìn)展和變革，分析這些創(chuàng)新思想的產(chǎn)生過程和重要概念、原理的形成過程，以啟迪讀者的創(chuàng)新思維。介紹網(wǎng)絡(luò)信息論及其重要理論分支——阿絡(luò)編碼，便于讀者在掌握經(jīng)典香農(nóng)信息論的基礎(chǔ)上，了解當(dāng)前信息論領(lǐng)域的重要進(jìn)展。

圖書封面

圖書標(biāo)簽Tags

無

評論、評分、閱讀與下載

---

    信息論基礎(chǔ) PDF格式下載

---