信息論與信源編碼理論及應(yīng)用

前言

　　信息（information）是客觀事物狀態(tài)和運(yùn)動(dòng)特征的一種普遍形式，客觀世界中大量地存在、產(chǎn)生和傳遞著以這些方式表示出來的各種各樣的信息。信息具有客觀性、廣泛性、完整性、專一性。在當(dāng)代繁多的自然科學(xué)和社會(huì)活動(dòng)中，無處不涉及信息的變換和利用，可以說，人類生活在信息的海洋之中，隨時(shí)隨地都離不開信息?！　⌒畔⒄摰难芯糠秶鷺O為廣闊。狹義信息論是一門應(yīng)用數(shù)理統(tǒng)計(jì)方法來研究信息處理和信息傳遞的科學(xué)。它研究存在于通信和控制系統(tǒng)中普遍存在著的信息傳遞的共同規(guī)律，以及如何提高各信息傳輸系統(tǒng)的有效性和可靠性的理論。廣義信息論不僅包括狹義信息論和一般信息論的問題，而且還包括所有與信息有關(guān)的領(lǐng)域，如心理學(xué)、語言學(xué)、神經(jīng)心理學(xué)、語義學(xué)等。　　如何更有效地利用和處理信息，成為日益迫切的問題。人們?cè)絹碓秸J(rèn)識(shí)到信息的重要性，認(rèn)識(shí)到信息可以作為與材料和能源一樣的資源而加以充分利用和共享。信息的概念和方法已廣泛滲透到各個(gè)科學(xué)領(lǐng)域，它迫切要求突破仙農(nóng)信息論的狹隘范圍，以便使它能成為人類各種活動(dòng)中所碰到的信息問題的基礎(chǔ)理論，從而推動(dòng)其他許多新興學(xué)科進(jìn)一步發(fā)展。

內(nèi)容概要

本書試圖以知識(shí)性、研究性、實(shí)用性、先進(jìn)性、綜合性的內(nèi)容為主線，給大家介紹信息理論和信源編碼這兩個(gè)主題。本書分為引論、信息理論和信源編碼三部分，在第1—第5章中介紹了信息理論；第6—第8章闡述了信源編碼的基本理論和方法；第9章介紹了現(xiàn)代編碼技術(shù)的幾種方法。本書可作為通信、信息工程、計(jì)算機(jī)類各專業(yè)本科生和研究生的教材或參考書，也可供從事電子、信息、通信、計(jì)算機(jī)、自動(dòng)化等專業(yè)工作的科技人員參考。

書籍目錄

引論 第1章 熵與互信息   1.1 離散隨機(jī)變量   1.2 離散隨機(jī)矢量   1.3 非離散隨機(jī)變量和矢量   1.4 信源的冗余度 第2章 離散無記憶信道及其容量—代價(jià)函數(shù)   2.1 引言     2.1.1 無干擾，隋況     2.1.2 有干擾無記憶的情況     2.1.3 有干擾有記憶的情況   2.2 容量—代價(jià)函數(shù)   2.3 信道容量的計(jì)算   2.4 信道編碼定理 第3章 離散無記憶信源及其速率-失真函數(shù)   3.1 速率—失真函數(shù)   3.2 信源編碼定理 第4章 高斯信道和信源   4.1 高斯信道   4.2 高斯信源 第5章 信源-信道編碼定理 第6章 統(tǒng)計(jì)編碼理論   6.1 引言   6.2 固定長度編碼   6.3 變長編碼的基本定理   6.4 變長編碼的編碼方法 第7章 預(yù)測(cè)變換編碼   7.1 引言   7.2 語音的樹圖編碼   7.3 最小均方誤差(MMSE)準(zhǔn)則   7.4 預(yù)測(cè)編碼的性能估計(jì)   7.5 非線性預(yù)測(cè)及最大誤差準(zhǔn)則 第8章 正交變換編碼   8.1 引言   8.2 最佳變換(K-L變換)   8.3 離散付氏變換   8.4 沃爾什—哈德曼變換(WHT)   8.5 HrT、ST、DCT 以及二維變換   8.6 變換域的統(tǒng)計(jì)分析   8.7 變換采樣的準(zhǔn)則與編碼 第9章 現(xiàn)代編碼技術(shù)   9.1 小波編碼   9.2 分形編碼   9.3 模型編碼 附錄 凸函數(shù)和顏森不等式 參考文獻(xiàn)

章節(jié)摘錄

　　人類社會(huì)的歷史發(fā)展，表明人們總是離不開消息的傳遞?，F(xiàn)代社會(huì)的特點(diǎn)之一，就是有可能使許多人同時(shí)進(jìn)行遠(yuǎn)距離的瞬時(shí)通信。當(dāng)今已進(jìn)入高度發(fā)展的信息化時(shí)代?！　⌒畔⑹且粋€(gè)常用的詞，什么是“信息”？有人說：“信息就是消息”，“通信的內(nèi)容就是信息”。這些提法是不夠嚴(yán)謹(jǐn)?shù)?。信息與消息是有區(qū)別的，信息是消息和消息傳輸?shù)母爬ā⑹切畔⒌木唧w化。所謂信息必須具有“能消除某些知識(shí)的不肯定性”的秉性’就是說’能改變?nèi)藗儯ń邮苄畔⒄撸┑闹R(shí)狀態(tài)，使從無知變?yōu)橛兄牟豢隙ㄗ優(yōu)榭隙?。例如，看?bào)紙’看到一條新聞，從廣播里聽到明天的天氣預(yù)報(bào)，這些都是信息，而看舊報(bào)紙看到以前的天氣預(yù)報(bào)，或聽到一支熟知的歌曲，這些都不是信息，因?yàn)閺钠渲袥]有了解到任何新的東西?！　V義的信息是人類感觀所能感知（直接的或間接的）的一切有意義的東西。電報(bào)、電話、電視、雷達(dá)、聲納可以給人們傳來信息，各類生物神經(jīng)系統(tǒng)所傳遞的也是信息，遺傳學(xué)中研究的各類遺傳因子也傳遞信息給他們的后代?！　≡诋?dāng)代繁多的自然科學(xué)和社會(huì)活動(dòng)中，無處不涉及信息的變換和利用，可以說’人類生活在信息的海洋之中，隨時(shí)隨地都離不開信息?？刂普摰膭?chuàng)始人之一N·維納有一句名言：‘‘要有效地生活，就要有足夠的信息”。也可以說：要有效地工作，明智地行動(dòng)，必須具備充分的信息?！　⌒畔⒄摰膭?chuàng)始人仙農(nóng)，研究了通信系統(tǒng)，在1948年發(fā)表了“通信的數(shù)學(xué)理論”’對(duì)信息引入了定量的規(guī)定，從而開辟了對(duì)信息的初步了解和研究。至今，信息論已有60年的發(fā)展歷史，信息的含義已進(jìn)一步發(fā)展，不過仍然可以認(rèn)為仙農(nóng)理論不失為信息論的基礎(chǔ)?！　〈蠹抑溃赊r(nóng)用概率的方法給信息發(fā)生源和傳輸信道建立了數(shù)學(xué)模型。一般通信系統(tǒng)模型如圖0.1所示。

圖書封面

評(píng)論、評(píng)分、閱讀與下載

---

    信息論與信源編碼理論及應(yīng)用 PDF格式下載

---