信息論與編碼基礎(chǔ)

前言

　　我們正處于一個(gè)通信與信息技術(shù)飛速發(fā)展的時(shí)代，對(duì)于通信工作者來(lái)說(shuō)，這是個(gè)極好的機(jī)遇。經(jīng)過(guò)一百多年的不斷創(chuàng)新和進(jìn)步，通信技術(shù)已取得了極其輝煌的成就，建立在寬帶通信網(wǎng)絡(luò)基礎(chǔ)上的綜合有線、無(wú)線多媒體通信系統(tǒng)及各種信息應(yīng)用系統(tǒng)將構(gòu)成未來(lái)信息社會(huì)的基本內(nèi)涵，將為國(guó)民經(jīng)濟(jì)及社會(huì)生活全面信息化提供最重要的保證?！　⊥ㄐ偶夹g(shù)的發(fā)展得益于通信理論的正確指導(dǎo)和通信關(guān)鍵工程技術(shù)的不斷突破。從理論的角度來(lái)看，通信的兩大基本問(wèn)題是信息傳輸?shù)目煽啃院陀行?。自從美?guó)科學(xué)家C.E.Shannon于1948年創(chuàng)立信息論以來(lái)，經(jīng)過(guò)眾多通信科技工作者的努力，信息論和編碼理論的研究取得了豐碩的成果。在信息的度量、信息傳輸特性、糾錯(cuò)編碼與壓縮編碼性能極限等理論問(wèn)題及各種糾錯(cuò)編碼和信源壓縮編碼方法、信息傳輸容量的研究方面，都取得了重大突破，有力地促進(jìn)了通信科技的不斷發(fā)展。Shannon信息論為人們指出了實(shí)現(xiàn)有效而可靠通信的基本方向和理論極限，它對(duì)實(shí)際通信系統(tǒng)的設(shè)計(jì)產(chǎn)生了深刻的影響，通信工程人員在信息論方面的基礎(chǔ)將對(duì)其事業(yè)的發(fā)展發(fā)揮重要作用?！　【嚯x作者在國(guó)防科技大學(xué)出版社出版《信息論與編碼基礎(chǔ)》一書(shū)已有6年，這期間本書(shū)被多次重印。為適應(yīng)信息技術(shù)發(fā)展的新形勢(shì)，應(yīng)廣大師生的要求，作者結(jié)合這些年本書(shū)在教學(xué)中的使用情況和科研體會(huì)，重新編寫(xiě)了本書(shū)。在教材內(nèi)容上充實(shí)了信息理論特別是編碼技術(shù)發(fā)展的新成果和應(yīng)用。書(shū)中包括香農(nóng)信息論的基本內(nèi)容及主要結(jié)論；壓縮編碼的基本原理；糾錯(cuò)原理、方法及其在現(xiàn)代通信系統(tǒng)中的應(yīng)用等章節(jié)。內(nèi)容涵蓋了通信中有關(guān)信息處理的基本原理和方法。在編寫(xiě)過(guò)程中我們強(qiáng)調(diào)基本原理的理解，取材注意循序漸進(jìn)、難度適中，并注重理論對(duì)實(shí)際應(yīng)用的指導(dǎo)作用，在寫(xiě)法上力求條理清楚，邏輯性強(qiáng)，每章的習(xí)題包括基礎(chǔ)部分和綜合擴(kuò)展部分。因此，本書(shū)適宜于作為通信工程及信息類專業(yè)的高年級(jí)本科生教材，也可作為其他專業(yè)學(xué)生及通信科技人員的參考書(shū)?！　∪珪?shū)共分7章，前4章由唐朝京編寫(xiě)，后3章由雷菁編寫(xiě)，她還參與了第四章的增補(bǔ)工作。本書(shū)在編寫(xiě)過(guò)程中得到了湖南大學(xué)易波副教授、國(guó)防科技大學(xué)黃英、陳明霜以及信息論課程組老師的幫助，還有多名研究生參與了文字校對(duì)工作。在出版過(guò)程中得到了電子工業(yè)出版社的大力支持，在此一并表示衷心的感謝！　　限于作者視野及學(xué)術(shù)水平，書(shū)中謬誤疏漏之處實(shí)所難免，懇請(qǐng)讀者批評(píng)指正。

內(nèi)容概要

　　《信息論與編碼基礎(chǔ)》以香農(nóng)信息論為基礎(chǔ)，系統(tǒng)地介紹了通信系統(tǒng)中兩大編碼理論。重點(diǎn)闡述了香農(nóng)信息論的基本理論、信源壓縮編碼及信道編碼的原理與具體方法，力圖將信息理論及編碼理論與實(shí)際應(yīng)用緊密結(jié)合。　　全書(shū)共分7章，其中包括：信息的概念與測(cè)度，離散信源、離散信道，信源壓縮編碼基礎(chǔ)，信道編碼基本理論，線性分組碼和常用糾錯(cuò)碼及其應(yīng)用?！　　缎畔⒄撆c編碼基礎(chǔ)》文字通俗，概念清晰，重點(diǎn)突出，在內(nèi)容上既有必要的數(shù)學(xué)分析，又強(qiáng)調(diào)物理概念的理解及直觀圖示。

書(shū)籍目錄

第1章 緒論1.1 信息概念1.1.1 信息的概念及其內(nèi)涵1.1.2 香農(nóng)信息定義1.2 信息論研究的基本問(wèn)題和主要內(nèi)容1.2.1 信息論研究的基本問(wèn)題1.2.2 信息論研究的主要內(nèi)容1.3 信息理論的發(fā)展及其在通信系統(tǒng)中的作用1.3.1 信息理論的形成及與其他學(xué)科的交叉發(fā)展1.3.2 編碼技術(shù)的發(fā)展及其在通信系統(tǒng)中的作用相關(guān)小知識(shí)——香農(nóng)生平第2章 離散信源2.1 離散信源的信息熵2.1.1 信源模型2.1.2 自信息2.1.3 信息熵2.1.4 聯(lián)合熵與條件熵2.2 熵的基本性質(zhì)2.2.1 非負(fù)性2.2.2 確定性2.2.3 對(duì)稱性2.2.4 熵的鏈?zhǔn)椒▌t2.2.5 極值性2.2.6 熵的獨(dú)立界2.3 信源的剩余度本章小結(jié)習(xí)題二綜合拓展題相關(guān)小知識(shí)——熵的由來(lái)第3章 離散信道3.1 信道疑義度與平均互信息3.1.1 信道模型3.1.2 信道疑義度3.1.3 平均互信息及其性質(zhì)3.2 信道容量3.2.1 信道容量的定義3.2.2 簡(jiǎn)單離散信道的信道容量3.2.3 對(duì)稱離散信道的信道容量3.2.4 離散無(wú)記憶N次擴(kuò)展信道的信道容量3.2.5 香農(nóng)公式3.3 有噪信道編碼定理3.3.1 有噪信道編碼定理3.3.2 編碼定理的指導(dǎo)意義本章小結(jié)習(xí)題三綜合拓展題第4章 信源壓縮編碼基礎(chǔ)4.1 無(wú)失真可變長(zhǎng)信源編碼定理4.1.1 信源編碼器4.1.2 無(wú)失真可變長(zhǎng)信源編碼定理4.2 保真度準(zhǔn)則下的信源編碼定理4.2.1 失真度與信息率失真函數(shù)4.2.2 保真度準(zhǔn)則下的信源編碼定理4.3 預(yù)測(cè)編碼4.3.1 預(yù)測(cè)編碼的基本原理及預(yù)測(cè)模型4.3.2 信源的線性預(yù)測(cè)編碼4.3.3 語(yǔ)音的線性預(yù)測(cè)編碼4.4 變換編碼4.4.1 變換編碼的基本原理4.4.2 典型的變換編碼方法4.4.3 DCT壓縮的特征4.5 統(tǒng)計(jì)編碼4.5.1 統(tǒng)計(jì)編碼的概念4.5.2 統(tǒng)計(jì)編碼常用方法4.5.3 MH編碼4.6 壓縮編碼應(yīng)用綜述4.6.1 聲音壓縮標(biāo)準(zhǔn)4.6.2 靜止圖像壓縮標(biāo)準(zhǔn)4.6.3 視頻壓縮標(biāo)準(zhǔn)本章小結(jié)習(xí)題四綜合拓展題相關(guān)小知識(shí)——霍夫曼生平第5章 信道編碼基本原理5.1 概述5.1.1 數(shù)字通信系統(tǒng)模型5.1.2 差錯(cuò)控制系統(tǒng)分類5.1.3 糾錯(cuò)編碼分類5.2 信道編碼的基本概念5.2.1 信道編碼的一般方法5.2.2 信道編碼的基本參數(shù)5.2.3 最大似然譯碼5.3 常用檢錯(cuò)碼5.3.1 奇偶校驗(yàn)碼5.3.2 水平一致校驗(yàn)碼5.3.3 水平垂直一致校驗(yàn)碼5.3.4 群計(jì)數(shù)碼5.3.5 等比碼本章小結(jié)習(xí)題五綜合拓展題第6章 線性分組碼6.1 線性分組碼的基本原理6.1.1 基本概念6.1.2 生成矩陣和一致校驗(yàn)矩陣6.1.3 線性分組碼的譯碼及糾錯(cuò)能力6.1.4 漢明碼簡(jiǎn)介6.2 循環(huán)碼的基本原理6.2.1 基本概念6.2.2 循環(huán)碼的編碼6.2.3 循環(huán)碼的一般譯碼方法6.2.4 循環(huán)漢明碼及其派生碼本章小結(jié)習(xí)題六綜合拓展題相關(guān)小知識(shí)——漢明生平第7章 常用糾錯(cuò)碼及其應(yīng)用7.1 CRC碼的應(yīng)用及性能7.1.1 基本概念7.1.2 CRC碼在數(shù)據(jù)鏈路協(xié)議中的應(yīng)用7.1.3 CRC碼在DECT標(biāo)準(zhǔn)中的應(yīng)用7.1.4 CRC碼在ATM中的應(yīng)用7.2 BCH碼及RS碼的應(yīng)用及性能7.2.1 基本概念7.2.2 無(wú)線尋呼系統(tǒng)中的前向糾錯(cuò)方案7.2.3 DVB?H標(biāo)準(zhǔn)中的前向糾錯(cuò)方案7.2.4 RS碼在存儲(chǔ)系統(tǒng)中的應(yīng)用7.3 卷積碼的應(yīng)用及性能7.3.1 卷積碼的概念與描述方法7.3.2 卷積碼在移動(dòng)通信中的應(yīng)用7.3.3 級(jí)聯(lián)卷積編碼系統(tǒng)在NASA系統(tǒng)中的應(yīng)用7.3.4 寬帶無(wú)線接入中的糾錯(cuò)編碼7.4 交織技術(shù)7.4.1 基本概念7.4.2 移動(dòng)通信中的交織7.4.3 CCSDS標(biāo)準(zhǔn)中的交織糾錯(cuò)方案7.5 糾錯(cuò)編碼新技術(shù)7.5.1 Turbo碼7.5.2 TPC碼7.5.3 LDPC碼7.5.4 TCM技術(shù)本章小結(jié)習(xí)題七綜合拓展題相關(guān)小知識(shí)——維特比簡(jiǎn)介參考文獻(xiàn)英文縮寫(xiě)名詞對(duì)照表

章節(jié)摘錄

　　信息傳輸?shù)挠行允峭ㄐ畔到y(tǒng)追求的另一重要目標(biāo)，有效性是指在一定的時(shí)間內(nèi)傳輸盡可能多的信息量，或在每一個(gè)傳送符號(hào)內(nèi)攜帶盡可能多的信息量，這就需要對(duì)信源進(jìn)行高效率的壓縮編碼，盡量去除信源中的冗余度。信源編碼的研究要略早于香農(nóng)信息論?？茽柲缏宸蚺c維納分別于1941年和1942年進(jìn)行了線性預(yù)測(cè)的開(kāi)創(chuàng)性工作，他們以均方量化誤差最小為準(zhǔn)則，建立了最優(yōu)預(yù)測(cè)原理，為后來(lái)的線性預(yù)測(cè)壓縮編碼鋪平了道路。　　盡管數(shù)據(jù)壓縮的實(shí)際研究在香農(nóng)信息論建立之前已有一些成果，但經(jīng)典數(shù)據(jù)壓縮的理論基礎(chǔ)卻是香農(nóng)信息論。香農(nóng)信息論認(rèn)為，統(tǒng)計(jì)冗余度在各種信源中是普遍存在的，如何在不失真或限定失真的條件下對(duì)信源進(jìn)行高效壓縮是信息論研究的重點(diǎn)，香農(nóng)第一定理和第三定理分別從理論上給出了無(wú)失真信源編碼和限失真信源編碼的壓縮極限，對(duì)于壓縮編碼的研究具有重要的理論指導(dǎo)意義。香農(nóng)信息論對(duì)信源統(tǒng)計(jì)冗余度的透徹分析為各種具體壓縮編碼方法的研究提供了明確的思路?！　?952年哈夫曼（Huffman）提出了一種重要的無(wú)失真信源編碼方法——Huffman碼，這是一種不等長(zhǎng)碼，它可以很好地達(dá)到香農(nóng)1948年證明的無(wú)失真信源編碼定理所指出的壓縮極限，已被證明是平均碼長(zhǎng)最短的最佳碼。為了進(jìn)一步提高有記憶信源的壓縮效率，20世紀(jì)60年代至70年代人們開(kāi)始將各種正交變換用于信源壓縮編碼，先后得到了DFT、KLT、DCT、WHT、ST等多種變換，其中KLT為最佳變換。但KLT實(shí)用性不強(qiáng)，綜合性能最好的是離散余弦變換DCT。DCT、變換現(xiàn)已被確定為多種圖像壓縮國(guó)際標(biāo)準(zhǔn)的主要壓縮手段，得到了極為廣泛的應(yīng)用。在連續(xù)信源限失真壓縮編碼研究方面，林特（Linde）、波茹（Buzo）和格雷（Gray）三人于1980年提出了矢量量化方法。矢量量化在利用數(shù)據(jù)相關(guān)性、減少量化失真半徑、減小均方量化失真等方面均要優(yōu)于普通的標(biāo)量量化，是一種很重要的信源編碼方法。　　除了上述幾類經(jīng)典的信源壓縮編碼方法之外，信源壓縮領(lǐng)域，還陸續(xù)提出了多種新的壓縮原理和方法，以及針對(duì)語(yǔ)音、音頻、圖像、視頻等內(nèi)容的壓縮體制。值得關(guān)注的無(wú)損壓縮算法有：算術(shù)編碼、ppm編碼、BWT、編碼和基于字典的LZ系列編碼算法等。算術(shù)編碼可以取得趨向于信源一階熵的壓縮效果，從理論上，可以把不相關(guān)信源符號(hào)壓縮到其理論極限；其實(shí)際壓縮率，常常優(yōu)于Huffman編碼。因而在許多圖像壓縮體制中，算術(shù)編碼被用做取代Huffman編碼的熵編碼算法。ppm編碼方法可以利用信源符號(hào)之間的相關(guān)性，其壓縮目標(biāo)是信源的條件熵，可突破信源一階熵，被認(rèn)為是目前無(wú)損壓縮最好的算法。BWI、采用了非常新穎的思路進(jìn)行文本符號(hào)的壓縮；LZ系列的壓縮方法，已經(jīng)在計(jì)算機(jī)文件壓縮軟件中得到廣泛應(yīng)用。這兩者的壓縮率也可以達(dá)到ppm的水平?！　　?/pre>








圖書(shū)封面






評(píng)論、評(píng)分、閱讀與下載



還沒(méi)讀過(guò)(67)
勉強(qiáng)可看(491)
一般般(838)
內(nèi)容豐富(3478)
強(qiáng)力推薦(285)


 


    信息論與編碼基礎(chǔ) PDF格式下載