信息論與信源編碼理論及應用

前言

　　信息（information）是客觀事物狀態(tài)和運動特征的一種普遍形式，客觀世界中大量地存在、產(chǎn)生和傳遞著以這些方式表示出來的各種各樣的信息。信息具有客觀性、廣泛性、完整性、專一性。在當代繁多的自然科學和社會活動中，無處不涉及信息的變換和利用，可以說，人類生活在信息的海洋之中，隨時隨地都離不開信息?！　⌒畔⒄摰难芯糠秶鷺O為廣闊。狹義信息論是一門應用數(shù)理統(tǒng)計方法來研究信息處理和信息傳遞的科學。它研究存在于通信和控制系統(tǒng)中普遍存在著的信息傳遞的共同規(guī)律，以及如何提高各信息傳輸系統(tǒng)的有效性和可靠性的理論。廣義信息論不僅包括狹義信息論和一般信息論的問題，而且還包括所有與信息有關的領域，如心理學、語言學、神經(jīng)心理學、語義學等?！　∪绾胃行У乩煤吞幚硇畔?，成為日益迫切的問題。人們越來越認識到信息的重要性，認識到信息可以作為與材料和能源一樣的資源而加以充分利用和共享。信息的概念和方法已廣泛滲透到各個科學領域，它迫切要求突破仙農(nóng)信息論的狹隘范圍，以便使它能成為人類各種活動中所碰到的信息問題的基礎理論，從而推動其他許多新興學科進一步發(fā)展。

內(nèi)容概要

本書試圖以知識性、研究性、實用性、先進性、綜合性的內(nèi)容為主線，給大家介紹信息理論和信源編碼這兩個主題。本書分為引論、信息理論和信源編碼三部分，在第1—第5章中介紹了信息理論；第6—第8章闡述了信源編碼的基本理論和方法；第9章介紹了現(xiàn)代編碼技術的幾種方法。本書可作為通信、信息工程、計算機類各專業(yè)本科生和研究生的教材或參考書，也可供從事電子、信息、通信、計算機、自動化等專業(yè)工作的科技人員參考。

書籍目錄

引論 第1章 熵與互信息   1.1 離散隨機變量   1.2 離散隨機矢量   1.3 非離散隨機變量和矢量   1.4 信源的冗余度 第2章 離散無記憶信道及其容量—代價函數(shù)   2.1 引言     2.1.1 無干擾，隋況     2.1.2 有干擾無記憶的情況     2.1.3 有干擾有記憶的情況   2.2 容量—代價函數(shù)   2.3 信道容量的計算   2.4 信道編碼定理 第3章 離散無記憶信源及其速率-失真函數(shù)   3.1 速率—失真函數(shù)   3.2 信源編碼定理 第4章 高斯信道和信源   4.1 高斯信道   4.2 高斯信源 第5章 信源-信道編碼定理 第6章 統(tǒng)計編碼理論   6.1 引言   6.2 固定長度編碼   6.3 變長編碼的基本定理   6.4 變長編碼的編碼方法 第7章 預測變換編碼   7.1 引言   7.2 語音的樹圖編碼   7.3 最小均方誤差(MMSE)準則   7.4 預測編碼的性能估計   7.5 非線性預測及最大誤差準則 第8章 正交變換編碼   8.1 引言   8.2 最佳變換(K-L變換)   8.3 離散付氏變換   8.4 沃爾什—哈德曼變換(WHT)   8.5 HrT、ST、DCT 以及二維變換   8.6 變換域的統(tǒng)計分析   8.7 變換采樣的準則與編碼 第9章 現(xiàn)代編碼技術   9.1 小波編碼   9.2 分形編碼   9.3 模型編碼 附錄 凸函數(shù)和顏森不等式 參考文獻

章節(jié)摘錄

　　人類社會的歷史發(fā)展，表明人們總是離不開消息的傳遞。現(xiàn)代社會的特點之一，就是有可能使許多人同時進行遠距離的瞬時通信。當今已進入高度發(fā)展的信息化時代?！　⌒畔⑹且粋€常用的詞，什么是“信息”？有人說：“信息就是消息”，“通信的內(nèi)容就是信息”。這些提法是不夠嚴謹?shù)?。信息與消息是有區(qū)別的，信息是消息和消息傳輸?shù)母爬ā⑹切畔⒌木唧w化。所謂信息必須具有“能消除某些知識的不肯定性”的秉性’就是說’能改變?nèi)藗儯ń邮苄畔⒄撸┑闹R狀態(tài)，使從無知變?yōu)橛兄牟豢隙ㄗ優(yōu)榭隙?。例如，看報紙’看到一條新聞，從廣播里聽到明天的天氣預報，這些都是信息，而看舊報紙看到以前的天氣預報，或聽到一支熟知的歌曲，這些都不是信息，因為從其中沒有了解到任何新的東西。　　廣義的信息是人類感觀所能感知（直接的或間接的）的一切有意義的東西。電報、電話、電視、雷達、聲納可以給人們傳來信息，各類生物神經(jīng)系統(tǒng)所傳遞的也是信息，遺傳學中研究的各類遺傳因子也傳遞信息給他們的后代。　　在當代繁多的自然科學和社會活動中，無處不涉及信息的變換和利用，可以說’人類生活在信息的海洋之中，隨時隨地都離不開信息?？刂普摰膭?chuàng)始人之一N·維納有一句名言：‘‘要有效地生活，就要有足夠的信息”。也可以說：要有效地工作，明智地行動，必須具備充分的信息。　　信息論的創(chuàng)始人仙農(nóng)，研究了通信系統(tǒng)，在1948年發(fā)表了“通信的數(shù)學理論”’對信息引入了定量的規(guī)定，從而開辟了對信息的初步了解和研究。至今，信息論已有60年的發(fā)展歷史，信息的含義已進一步發(fā)展，不過仍然可以認為仙農(nóng)理論不失為信息論的基礎。　　大家知道，仙農(nóng)用概率的方法給信息發(fā)生源和傳輸信道建立了數(shù)學模型。一般通信系統(tǒng)模型如圖0.1所示。

圖書封面

評論、評分、閱讀與下載

---

    信息論與信源編碼理論及應用 PDF格式下載

---