信息論基礎(chǔ)與編碼

內(nèi)容概要

由王軍選和田小平等編著的《信息論基礎(chǔ)與編碼》系統(tǒng)地介紹了信息論基礎(chǔ)與編碼的主要內(nèi)容，以及在無(wú)線通信系統(tǒng)中的主要應(yīng)用。全書共9章，在介紹了有關(guān)信息度量的基礎(chǔ)上，重點(diǎn)討論了無(wú)失真信源編碼、限失真信源編碼、信道容量、信道編碼和密碼學(xué)的理論知識(shí)。全書從簡(jiǎn)單的理論入手，結(jié)合大量的例題描述信息論與編碼的原理和應(yīng)用，其中，原理的敘述力求突出概念和思路，盡量免去深?yuàn)W的純數(shù)學(xué)推導(dǎo)，與具體的應(yīng)用相結(jié)合。在各章還附有相應(yīng)的習(xí)題，便于學(xué)生加深理解。
《信息論基礎(chǔ)與編碼》可作為高等院校信息工程、通信工程以及電子信息類學(xué)生的教材，也可供低年級(jí)研究生或工程技術(shù)人員閱讀參考。

書籍目錄

第1章  概論
  1.1  信息的基本概念
    1.1.1  信息的定義
    1.1.2  信息的性質(zhì)
  1.2  信息論研究的對(duì)象和內(nèi)容
    1.2.1  信息論研究的對(duì)象
    1.2.2  信息論的基本定義
    1.2.3  信息論研究的內(nèi)容
  1.3  信息論的發(fā)展
第2章  信源與信息熵
  2.1  信源的數(shù)學(xué)模型及分類
  2.2  離散信源熵和互信息
    2.2.1  信息量
    2.2.2  離散信源熵
    2.2.3  互信息量
    2.2.4  數(shù)據(jù)處理中信息的變化
  2.3  信息熵的性質(zhì)
    2.3.1  非負(fù)性
    2.3.2  確定性
    2.3.3  對(duì)稱性
    2.3.4  可加性
    2.3.5  極值性
    2.3.6  最大熵定理
    2.3.7  條件熵小于無(wú)條件熵
  2.4  離散序列信源熵
    2.4.1  離散無(wú)記憶信源的序列熵
    2.4.2  離散有記憶信源的序列熵
    2.4.3  馬爾可夫信源及其極限熵
    2.5  連續(xù)信源熵與互信息
    2.5.1  連續(xù)信源的信源熵
    2.5.2  最大熵定理
  2.6  信源的冗余度
  習(xí)題
第3章  信道與信道容量
  3.1  信道的基本概念
    3.1.1  信道的數(shù)學(xué)模型與分類
    3.1.2  信道參數(shù)
    3.1.3  信道容量的定義
  3.2  離散信道的容量及其計(jì)算
    3.2.1  無(wú)干擾離散信道
    3.2.2  對(duì)稱離散無(wú)記憶信道容量
    3.2.3  準(zhǔn)對(duì)稱離散無(wú)記憶信道容量
    3.2.4  一般離散無(wú)記憶信道容量
  3.3  離散序列信道及其容量
  3.4  獨(dú)立并聯(lián)信道及其容量
  3.5  串聯(lián)信道容量及數(shù)據(jù)處理定理
  3.6  連續(xù)信道及其容量
    3.6.1  連續(xù)單符號(hào)加性信道
    3.6.2  多維無(wú)記憶加性連續(xù)信道
    3.6.3  加性高斯白噪聲信道的信道容量
  3.7  信源與信道的匹配
  習(xí)題
第4章  信息率失真函數(shù)
  4.1  平均失真和信息率失真函數(shù)
    4.1.1  失真函數(shù)
    4.1.2  平均失真
    4.1.3  信息率失真函數(shù)
  4.2  信息率失真函數(shù)的性質(zhì)
    4.2.1  R（D）函數(shù)的定義域
    4.2.2  R（D）函數(shù)的下凸性
    4.2.3  R（D）函數(shù)的連續(xù)性
    4.2.4  R（D）函數(shù)的單調(diào)遞減性
  4.3  離散信源的R（D）函數(shù)及其計(jì)算
  4.4  連續(xù)信源的R（D）函數(shù)及其計(jì)算
    4.4.1  幅度連續(xù)無(wú)記憶信源的R（D）函數(shù)
    4.4.2  差值誤差測(cè)量與香農(nóng)界
    4.4.3  帶記憶的信源的R（D）函數(shù)
  習(xí)題
第5章  信源編碼
  5.1  編碼的定義
  5.2  無(wú)失真信源編碼
    5.2.1  定長(zhǎng)編碼定理
    5.2.2  變長(zhǎng)編碼定理
    5.2.3  最佳變長(zhǎng)編碼
  5.3  限失真信源編碼定理
  5.4  其他無(wú)失真信源編碼方法
    5.4.1  算術(shù)編碼
    5.4.2  游程長(zhǎng)度編碼
  5.5  矢量量化編碼
    5.5.1  最佳標(biāo)量量化編碼
    5.5.2  矢量量化編碼
  5.6  預(yù)測(cè)編碼
    5.6.1  線性預(yù)測(cè)編碼的基本原理
    5.6.2  最佳線性預(yù)測(cè)編碼
  5.7  變換編碼
    5.7.1  正交變換與正交矩陣
    5.7.2  K-L變換
    5.7.3  離散傅里葉變換
    5.7.4  離散余弦變換
    5.7.5  離散沃爾什-哈達(dá)瑪變換
    5.7.6  離散Haar變換
  習(xí)題
第6章  信道編碼定理
  6.1  基礎(chǔ)知識(shí)
    6.1.1  譯碼準(zhǔn)則
    6.1.2  費(fèi)諾不等式
    6.1.3  典型序列及其性質(zhì)
  6.2  信道編碼定理
  6.3  信源信道聯(lián)合編碼定理
  習(xí)題
第7章  分組碼
  7.1  信道編碼的基本概念
    7.1.1  信道編碼的作用與分類
    7.1.2  糾錯(cuò)與檢錯(cuò)原理
    7.1.3  糾錯(cuò)與檢錯(cuò)能力
  7.2  線性分組碼的基本數(shù)學(xué)理論
    7.2.1  線性空間及其性質(zhì)
    7.2.2  生成矩陣
    7.2.3  校驗(yàn)矩陣
    7.2.4  對(duì)偶碼和系統(tǒng)碼
    7.2.5  差錯(cuò)圖樣
  7.3  線性分組碼的譯碼
    7.3.1  線性分組碼的伴隨式譯碼
    7.3.2  標(biāo)準(zhǔn)陣列譯碼
  7.4  漢明碼及譯碼
    7.4.1  漢明碼編碼
    7.4.2  漢明碼的伴隨式譯碼
    7.4.3  漢明碼的主要性質(zhì)
  7.5  循環(huán)碼（CRC）
    7.5.1  循環(huán)碼基礎(chǔ)
    7.5.2  循環(huán)碼生成矩陣、生成多項(xiàng)式和監(jiān)督矩陣
    7.5.3  循環(huán)碼的編、譯碼
  7.6  BCH和RS編碼以及譯碼
    7.6.1  BCH碼
    7.6.2  RS碼
  7.7  線性分組碼的應(yīng)用
  習(xí)題
第8章  卷積碼
  8.1  卷積碼的基本概念
  8.2  卷積碼的編碼
    8.2.1  解析法中的碼多項(xiàng)式法描述
    8.2.2  矩陣生成法描述
    8.2.3  離散卷積法描述
    8.2.4  卷積碼的圖形描述法
  8.3  卷積碼的譯碼
    8.3.1  卷積碼的代數(shù)譯碼
    8.3.2  Viterbi譯碼算法
    8.3.3  序列譯碼
    8.3.4  卷積碼的生成函數(shù)
  8.4  卷積碼的類型
    8.4.1  卷積碼中的好碼
    8.4.2  幾種類型的卷積碼
  8.5  卷積碼的應(yīng)用
    8.5.1  交織編碼
    8.5.2  卷積碼在移動(dòng)通信中的應(yīng)用
  8.6  級(jí)聯(lián)編碼
  習(xí)題
第9章  加密編碼
  9.1  加密編碼的基礎(chǔ)知識(shí)
    9.1.1  密碼學(xué)的發(fā)展概況
    9.1.2  密碼學(xué)的基本概念
  9.2  幾種古典密碼
    9.2.1  凱撒密碼
    9.2.2  密鑰短語(yǔ)密碼
    9.2.3  維吉尼亞密碼
  9.3  數(shù)據(jù)加密標(biāo)準(zhǔn)
    9.3.1  DES加密算法
    9.3.2  DES的解密過(guò)程
    9.3.3  DES的安全性
  9.4  國(guó)際數(shù)據(jù)加密算法
  9.5  RSA公鑰密碼
    9.5.1  公鑰密碼的基本概念
    9.5.2  RSA公鑰密碼體制
    9.5.3  RSA的安全性
  9.6  模擬信號(hào)加密
    9.6.1  模擬置亂加密
    9.6.2  數(shù)字化加密
  習(xí)題
參考文獻(xiàn)

章節(jié)摘錄

　　自從19世紀(jì)20～30年代法拉第發(fā)現(xiàn)電磁感應(yīng)以來(lái)，人類社會(huì)就開始了無(wú)線通信的探索。1832年莫爾斯建立了電報(bào)系統(tǒng)，1895馬可尼發(fā)明了無(wú)線通信，1922年卡松提出邊帶理論，指明信號(hào)在調(diào)制（編碼）與傳送過(guò)程中與頻譜寬度的關(guān)系，1922年哈特萊發(fā)表《信息傳輸》的文章，首先提出消息是代碼、符號(hào)而不是信息內(nèi)容本身，使信息與消息區(qū)分開來(lái)，并提出用消息可能數(shù)目的對(duì)數(shù)來(lái)度量消息中所含有的信息量，為信息論的創(chuàng)立提供了思路。美國(guó)統(tǒng)計(jì)學(xué)家費(fèi)希爾從古典統(tǒng)計(jì)理論角度研究了信息理論，蘇聯(lián)數(shù)學(xué)家哥爾莫戈洛夫也對(duì)信息論做過(guò)研究。控制論創(chuàng)始人維納建立了維納濾波理論和信號(hào)預(yù)測(cè)理論，也提出了信息量的統(tǒng)計(jì)數(shù)學(xué)公式。這些研究均為信息論的建立打下了堅(jiān)實(shí)的基礎(chǔ)?！　?948年貝爾研究所的香農(nóng)在題為《通信的數(shù)學(xué)理論》的論文中系統(tǒng)地提出了關(guān)于信息的論述，創(chuàng)立了較為系統(tǒng)的信息論學(xué)科。維納提出的關(guān)于度量信息量的數(shù)學(xué)公式開辟了信息論的廣泛應(yīng)用前景。1951年信息論學(xué)科獲得美國(guó)無(wú)線電工程學(xué)會(huì)承認(rèn)，為以后的迅速發(fā)展打下基礎(chǔ)。20世紀(jì)50～60年代是信息論發(fā)展的關(guān)鍵時(shí)期，信源編碼和信道編碼得到了巨大的發(fā)展，產(chǎn)生了大量的研究成果，比如霍夫曼編碼、費(fèi)諾編碼以及信道編碼中的卷積碼、LDPC編碼等，同時(shí)，該時(shí)期也是信息論向其他各門學(xué)科滲透的時(shí)期。到20世紀(jì)70年代，由于數(shù)字計(jì)算機(jī)的廣泛應(yīng)用，通信系統(tǒng)的能力也有了很大提高。信息的概念和方法已廣泛滲透到各個(gè)科學(xué)領(lǐng)域，它迫切要求突破香農(nóng)信息論（狹義信息論）的范圍，以便使它能成為人類各種活動(dòng)中所碰到的信息問(wèn)題的基礎(chǔ)理論，從而推動(dòng)其他許多新興學(xué)科進(jìn)一步發(fā)展。20世紀(jì)90年代以來(lái)，Tinbo碼編碼理論、多天線理論等技術(shù)的提出，使得無(wú)線通信迅速發(fā)展，帶來(lái)了人類社會(huì)的巨大變化?！　⌒畔⒄搹恼Q生到今天已有60多年了，現(xiàn)已成為一門獨(dú)立的學(xué)科。香農(nóng)理論的思想、方法，甚至某些結(jié)論已滲透到統(tǒng)計(jì)數(shù)學(xué)、計(jì)算機(jī)科學(xué)、物理學(xué)、哲學(xué)、科學(xué)方法論等其他學(xué)科中?！　⊥瑫r(shí)，信息論還和其他學(xué)科結(jié)合產(chǎn)生了許多交叉學(xué)科，比如在經(jīng)濟(jì)、生物等方面已產(chǎn)生了“信息經(jīng)濟(jì)學(xué)”、“信息生物學(xué)”等邊緣學(xué)科；在和量子力學(xué)理論結(jié)合后，產(chǎn)生了量子信息論、量子編碼理論、量子計(jì)算理論等。 　　……

編輯推薦

　　《21世紀(jì)高等院校信息與通信工程規(guī)劃教材·高校系列：信息論基礎(chǔ)與編碼》是工業(yè)和信息化普通高等教育“十二五”規(guī)劃教材立項(xiàng)項(xiàng)目?！?1世紀(jì)高等院校信息與通信工程規(guī)劃教材·高校系列：信息論基礎(chǔ)與編碼》內(nèi)容豐富，邏輯性強(qiáng)，通俗易懂；理論敘述力求突出重要概念和主體思路，包含大量例題，盡量避免純數(shù)學(xué)推導(dǎo)，與具體的應(yīng)用相結(jié)合；每章附有習(xí)題?！?1世紀(jì)高等院校信息與通信工程規(guī)劃教材·高校系列：信息論基礎(chǔ)與編碼》可作為高等院校信息工程、通信工程以及電子信息類專業(yè)的教材，也可供相關(guān)專業(yè)低年級(jí)研究生或工程技術(shù)人員參考。

圖書封面

評(píng)論、評(píng)分、閱讀與下載

---

    信息論基礎(chǔ)與編碼 PDF格式下載

---