信息論與編碼理論

內(nèi)容概要

本書主要介紹信息論和編碼理論的基本內(nèi)容，其特點(diǎn)是簡(jiǎn)明扼要，可讀性強(qiáng)，既具有較嚴(yán)謹(jǐn)?shù)臄?shù)學(xué)描述與推導(dǎo)，又注意到信息論的實(shí)用背景，其中許多典型問題已在通信工程中得到實(shí)際應(yīng)用。    全書共分12章。主要內(nèi)容包括：信息的度量、信源編碼、信道編碼定理、編碼理論中用到的基本抽象代數(shù)知識(shí)、編碼理論的基本概念和基本問題、線性碼、Hamming碼、循環(huán)碼、BCH碼、Reed-Solomon碼、Golay碼、Reed-Muller碼、平方剩余碼、Goppa碼以及信息論和編碼理論的應(yīng)用。本書每章末均附有習(xí)題，其中部分習(xí)題是對(duì)正文內(nèi)容的補(bǔ)充。    本書可作為高等院校信息科學(xué)專業(yè)、計(jì)算機(jī)科學(xué)專業(yè)、通信專業(yè)以及相關(guān)專業(yè)的本科生教材，也可供相關(guān)領(lǐng)域的研究生、教學(xué)與科研人員，以及工程技術(shù)人員參考。

書籍目錄

第1章  引言  1.1  信息論的發(fā)展概況    1.1.1  信息論的早期醞釀    1.1.2  Shannon信息論的建立與發(fā)展    1.1.3  信息論的近期發(fā)展    1.1.4  信息論在信息技術(shù)領(lǐng)域中的應(yīng)用  1.2  信息論與編碼理論的主要內(nèi)容    1.2.1  信息的度量問題    1.2.2  通信系統(tǒng)的基本模型    1.2.3  通信系統(tǒng)中信息的傳遞過程    1.2.4  通信系統(tǒng)的概率統(tǒng)計(jì)模型    1.2.5  通信系統(tǒng)的序列模型  1.3  本書內(nèi)容簡(jiǎn)介與文獻(xiàn)介紹    1.3.1  內(nèi)容簡(jiǎn)介    1.3.2  有關(guān)著作和文獻(xiàn)介紹    1.3.3  對(duì)有關(guān)記號(hào)的說明  習(xí)題1    第一部分  信息論第2章  信息量  2.1  熵    2.1.1  離散隨機(jī)變量的不肯定性    2.1.2  不肯定性的特征與表示    2.1.3  熵的簡(jiǎn)單性質(zhì)與例子  2.2  聯(lián)合熵和條件熵    2.2.1  聯(lián)合熵的記號(hào)    2.2.2  條件熵的定義與性質(zhì)  2.3  熵的基本性質(zhì)    2.3.1  對(duì)數(shù)函數(shù)的基本不等式與熵函數(shù)的最大值    2.3.2  熵函數(shù)的可加性    2.3.3  Fano不等式  2.4  互熵與互信息    2.4.1  互熵    2.4.2  互信息    2.4.3  條件互信息  2.5  凸函數(shù)及其應(yīng)用    2.5.1  凸函數(shù)的定義與它的判別    2.5.2  Jenson不等式與它的應(yīng)用  2.6  連續(xù)型隨機(jī)變量的信息量    2.6.1  連續(xù)型隨機(jī)變量的Shannon熵    2.6.2  多維連續(xù)型隨機(jī)變量的Shannon熵    2.6.3  其他連續(xù)型隨機(jī)變量的信息量  2.7  最大熵原理    2.7.1  有限區(qū)間情形的最大熵    2.7.2  半開區(qū)間情形的最大熵    2.7.3  全直線情形的最大熵    2.7.4  多維連續(xù)型隨機(jī)變量的最大熵  習(xí)題2第3章  信源編碼  3.1  信源編碼問題    3.1.1  信源編碼    3.1.2  定長(zhǎng)編碼與變長(zhǎng)編碼    3.1.3  信源變長(zhǎng)碼的編碼問題    3.1.4  信源序列的定長(zhǎng)編碼問題  3.2  前綴碼和即時(shí)碼    3.2.1  唯一可譯變長(zhǎng)碼的構(gòu)造    3.2.2  Kraft不等式  3.3  信源變長(zhǎng)碼的編碼定理    3.3.1  最優(yōu)變長(zhǎng)碼平均碼長(zhǎng)的下界估計(jì)    3.3.2  最優(yōu)變長(zhǎng)碼平均碼長(zhǎng)的上界估計(jì)    3.3.3  無記憶信源平均碼長(zhǎng)的上界和下界估計(jì)  3.4  Huffman信源編碼算法    3.4.1  Huffman編碼的實(shí)例分析    3.4.2  Huffman編碼的一般算法  3.5  Huffman信源編碼性能分析    3.5.1  Huffman編碼的前綴性    3.5.2  Huffman編碼的最優(yōu)性    3.6  信源定長(zhǎng)碼的編碼定理  習(xí)題3第4章  信道編碼定理  4.1  信道編碼問題    4.1.1  通信系統(tǒng)的編碼誤差    4.1.2  信道序列的編碼問題  4.2  離散無記憶信道    4.2.1  離散無記憶信道的一般定義    4.2.2  幾種特殊的離散無記憶信道  4.3  無記憶信道的信道容量    4.3.1  信道容量的一般定義    4.3.2  無記憶信道序列的容量性質(zhì)  4.4  信道容量的計(jì)算    4.4.1  凸函數(shù)的極大值性質(zhì)    4.4.2  信道容量的計(jì)算  4.5  信道的編碼和譯碼問題  4.6  信道的正編碼定理和反編碼定理  4.7  可加高斯(Gaussian)信道  習(xí)題4    第二部分  抽象代數(shù)第5章  抽象代數(shù)的基本知識(shí)  5.1  群  5.2  環(huán)和域  5.3  理想和商環(huán)  5.4  域上的多項(xiàng)式  5.5  有限域  5.6  域上的線性代數(shù)  習(xí)題5    第三部分  編碼理論第6章  編碼理論的基本知識(shí)  6.1  碼的基本概念    6.1.1  碼的定義    6.1.2  Hamming距離和Hamming重量    6.1.3  譯碼策略    6.1.4  系統(tǒng)碼  6.2  碼的檢錯(cuò)和糾錯(cuò)能力  6.3  編碼理論的基本問題    6.3.1  碼的等價(jià)變換    6.3.2  編碼理論的一些界  習(xí)題6第7章  線性碼  7.1  線性碼的定義  7.2  線性碼的對(duì)偶碼  7.3  線性碼的譯碼方法  7.4  線性碼的重量分布  習(xí)題7第8章  Hamming碼  8.1  Hamming碼的定義  8.2  Hamming碼的性質(zhì)  8.3  Hamming碼的譯碼方法  8.4  二元Hamming碼的對(duì)偶碼  習(xí)題8第9章  循環(huán)碼  9.1  循環(huán)碼的定義  9.2  循環(huán)碼的性質(zhì)  9.3  循環(huán)碼的校驗(yàn)矩陣及其對(duì)偶碼  9.4  循環(huán)碼的編碼方法  9.5  循環(huán)碼的檢錯(cuò)性能  習(xí)題9第10章  BCH碼和Reed-Solomon碼  10.1  BCH碼及其基本性質(zhì)  10.2  Reed-Solomon碼及其基本性質(zhì)  10.3  BCH碼和Reed-Solomon碼的譯碼方法  10.4  Reed-Solomon碼和最大距離可分碼的重量分布  習(xí)題10第11章  幾種重要的線性碼  11.1  Golay碼  11.2  Reed-Muller碼    11.2.1  布爾函數(shù)    11.2.2  Reed-Muller碼  11.3  平方剩余碼  11.4  Goppa碼  習(xí)題11    第四部分  信息論和編碼理論的應(yīng)用第12章  若干應(yīng)用問題  12.1  有失真的數(shù)據(jù)壓縮    12.1.1  有失真信源編碼問題    12.1.2  有失真信源的率失真函數(shù)    12.1.3  有失真信源編碼的可達(dá)速率    12.1.4  率失真函數(shù)的計(jì)算    12.1.5  有失真信源編碼定理    12.1.6  數(shù)據(jù)壓縮問題概述    12.1.7  數(shù)據(jù)壓縮問題的實(shí)例分析    12.1.8  數(shù)據(jù)壓縮技術(shù)的主要分析指標(biāo)  12.2  卷積碼理論及其應(yīng)用    12.2.1  卷積碼的構(gòu)造    12.2.2  卷積碼的樹結(jié)構(gòu)    12.2.3  卷積碼的譯碼算法    12.2.4  卷積碼的應(yīng)用  12.3  幾種實(shí)用的編碼問題    12.3.1  漢字編碼    12.3.2  計(jì)算機(jī)代碼    12.3.3  圖形碼  習(xí)題12主要參考文獻(xiàn)

章節(jié)摘錄

　　第1章 引言 　　信息和信息科學(xué)是兩個(gè)常見的名詞，它們的內(nèi)容十分廣泛，尤其是在當(dāng)今的信息社會(huì)中，有著十分重要的意義與豐富的含義。哲學(xué)家將信息與物質(zhì)、能量相并列，作為構(gòu)成世界的三大要素之一。信息已成為推動(dòng)當(dāng)今社會(huì)文明與發(fā)展的主要因素。信息技術(shù)的產(chǎn)業(yè)和產(chǎn)品在社會(huì)生產(chǎn)和生活中的比重越來越大?！　≡诒菊轮校覀儗⒔榻B信息論和編碼理論的基本情況，其中包括信息論和編碼理論的發(fā)展過程以及重要的應(yīng)用領(lǐng)域，同時(shí)還將介紹信息度量的基本要求和通信系統(tǒng)的數(shù)學(xué)模型。通過這些介紹，可使讀者對(duì)信息論和編碼理論的全貌有一個(gè)基本的了解?！　?.1 信息論的發(fā)展概況　　信息的概念是一個(gè)普遍的概念。從細(xì)胞分裂到植物、動(dòng)物的遺傳與進(jìn)化，從語言文字到動(dòng)作表情都有信息表達(dá)與傳遞。但是信息論的產(chǎn)生和發(fā)展與通信、計(jì)算機(jī)技術(shù)的產(chǎn)生和發(fā)展密切相關(guān)?；仡櫵臍v史，大體可以分為早期醞釀、理論建立、理論發(fā)展、理論應(yīng)用與近代發(fā)展等幾個(gè)階段。我們對(duì)此做一個(gè)簡(jiǎn)單的回顧。　　……

圖書封面

圖書標(biāo)簽Tags

無

評(píng)論、評(píng)分、閱讀與下載

---

    信息論與編碼理論 PDF格式下載

---