信息論、編碼及應用

內(nèi)容概要

本書內(nèi)容共七章，主要包括：緒論、離散信源及其信息測度、離散信道及其信道容量、連續(xù)信源與連續(xù)信道、無失真信源編碼和有噪信道編碼簡介、保密通信的基本概念與方法、數(shù)字圖像加密。書中附有一定數(shù)量的習題。本書壓縮了一部分偏深偏難的內(nèi)容和一些偏重于理論證明方面的內(nèi)容，重點突出對信息論、編碼理論及保密通信的基本原理和基本概念的分析與敘述，便于教學與自學。
本書可作為高等學校電子信息科學與技術、信息工程、網(wǎng)絡工程等信息類專業(yè)的本科生教材，也可作為電路與系統(tǒng)專業(yè)研究生的教學參考書。

書籍目錄

第1章.緒論
 1.1 信息的一般含義
 1.2 信息論的基本思路
 1.3 信息論研究的對象和內(nèi)容
 1.4 保密通信的基本理論及其應用
 1.5 信息論的劃分范疇
 1.6 信息論的發(fā)展簡史
 習題1
第2章 離散信源及其信息測度
 2.1 單符號離散信源的數(shù)學模型
 2.2 自信息和信息函數(shù)
 2.3 信息熵
 2.3.1 信息熵的數(shù)學表達式
 2.3.2 信息熵的物理含義
　2.4 信息熵的基本性質(zhì)
 2.4.1 信息熵及其熵函數(shù)表示
 2.4.2 對稱性
 2.4.3 非負性
 2.4.4 確定性
 2.4.5 連續(xù)性
 2.4.6 擴展性
 2.4.7 歸一化聯(lián)合概率和條件概率及其推廣形式
 2.4.8 強可加性
 2.4.9 可加性
　2.5 聯(lián)合熵和條件熵的分解與計算
　2.6 信息熵的解析性質(zhì)
 2.6.1　n型凸函數(shù)及其不等式
 2.6.2 U型凸函數(shù)及其不等式
 2.6.3 熵函數(shù)的極值性
 2.6.4 熵函數(shù)的上凸性
　2.7 離散信源的最大熵值
　2.8 多符號離散平穩(wěn)信源
　2.9 多符號離散平穩(wěn)無記憶信源及其信息熵
 　2.9.1 信源xn的信源空間
 　2.9.2 信源Xn的聯(lián)合熵
　2.10 多符號離散平穩(wěn)有記憶信源及其信息熵
 　……
第3章 離散信道及其信道容量
第4章 連續(xù)信源與連續(xù)信道
第5章 無失真信源編碼和有噪信道編碼簡介
第6章 保密通信的基本概念與方法
第7章　數(shù)學圖像加密
參考文獻

章節(jié)摘錄

　　第1章 緒 論　　信息論是人們在長期的通信工程實踐中，將通信技術、概率論、隨機過程和數(shù)理統(tǒng)計相結(jié)合而逐步發(fā)展起來的一門科學信息息論的奠基人是當代數(shù)學家、美國貝爾實驗室杰出的科學家香農(nóng)（C．E．Shannon）．他在1948年發(fā)表了著名的論文《通信的數(shù)學理論》，為信息論奠定了理論基礎。近半個世紀以來，以通信理論為核心的經(jīng)典信息論，正以信息技術為物化手段，把人類社會推進到了一個信息化時代。隨著信息理論的發(fā)展和概念的不斷深化，信息論所涉及的內(nèi)容早已超越了狹義的通信工程范疇，進入了信息科學這一更廣闊的領域。　　在涉及這門課程的具體內(nèi)容之前，有必要首先從一般意義上闡述信息的基本含義，然后，再把視野集中到信息論特定的研究范疇中，并指明信息論的假設前提和解決問題的基本思路。這樣，才能幫助讀者在學習這門課程之前,有一個正確的思路，以便其更好地理解和掌握本書各章中的具體內(nèi)容?！　?.1 信息的一般含義　　自古以來，人類就生活在信息的海洋之中。當今，人們越來越廣泛地采用“信息”這一詞語，那么．信息的含義到底是什么呢？從信息論的眾多應用中，我們大致可以從以下幾個方面來理解信息的含義。　　1．信息是作為通信的消息來理解的　　從這個意義上講，信息是人們在通信¨寸所要告訴對方的“某種內(nèi)容”。例如，你給朋友寫一封信，你所告訴他的是關于你的學習、工作和生活等方面的信息；醫(yī)生從聽診器中聽到關于心臟病患者的信息；等等?？傊?，這些通信者要告訴對方的消息，或是想要得到的消息，就是人們常說的所謂信息?！　∫话愣?，我們可以把任意兩點問的通信或信息在其問的流通情況，歸納為圖1-1所示的簡化模型。發(fā)出信息的通信者稱為”信源”，接收信息者稱為“信宿”，信息流通的通道稱為“信道”。只要發(fā)生了信息的流通過程，我們就說進行了某種形式的通信；反之．只要進行了通信，就必定有信息的流通與交換?！　⊥ㄟ^上述分析可知．信息流通的主要功能是，把本來相互離散的人類個體，連接成為緊密相關的社會整體。因此，信息不但是人與人之間，而且也是整個人類社會，以至于人類社會與自然界之間的“黏合劑”。沒有信息的世界，必定是一個沉寂的世界。沒有信息的流通與交換，對于人類社會來說，簡直是不可思議的事情?！　?．信息是作為運算的內(nèi)容而明確起來的　　在這種情況下，信息是人們進行運算和處理所需要的條件、內(nèi)容和結(jié)果，常常表現(xiàn)為數(shù)字、數(shù)據(jù)、圖表、內(nèi)容和結(jié)果，并以數(shù)字、數(shù)據(jù)、圖表和曲線等形式出現(xiàn)?！　±?，商品價格表上的數(shù)字是告訴顧客商品價格的信息，出租汽車的計程表上的數(shù)字是顯示汽車行駛路程的信息，等等?！　⌒畔⒁褟V泛應用于計算機科學技術領域中。圖1 2是計算機的一般功能示意圖。用作計算用的計算機，根據(jù)計算的方法和條件（原始輸入信息），編制出計算程序，經(jīng)過運算之后（一般稱做處理）得到相應的解答，并以數(shù)字或圖形的形式送至用戶（輸出信息）。稍為復雜的計算過程往往不是一次完成的，它需要把中間的運算結(jié)果作為補充的輸入信息，反饋到適當?shù)沫h(huán)節(jié)，再進行演算。作控制用的計算機，首先要將理想的控制目標和被控對象的實際原始狀態(tài)（輸入信息）送給計算機，經(jīng)過處理得到相應的輸出信息，并根據(jù)這個信息去控制被控對象，然后將理想控制目標與實際控制的誤差作為補充信息反饋回去，修正和調(diào)整相應的控制程序，直至控制的誤差在允許的范圍內(nèi)，達到控制的?！　o論用于運算或用下控制，計算機的作用都是對輸入信息進行某種形式的處理，從而獲得所需的輸出信息?！　?．信息是作為人類感知的來源而存在的　　信息也是人類自身進化的一個基本條件，人類在與外部世界的聯(lián)系中產(chǎn)生了感知信息和利用信息的需求，閃而逐漸形成和發(fā)展了自己的信息器官，如眼、耳、口、腦等。形成和發(fā)展這些器官，正是為了從自然界獲取信息和利用信息來強化自己，戰(zhàn)勝自然?！　∪魏我环N生物，如果完全不能從外部世界獲得必要的信息，它就無法感知外部世界的變化，當然也就不可能實時地調(diào)整自己的狀態(tài)，改善外部環(huán)境的關系來適應這種變化。　　這樣的生物必然受到自然的淘汰而無法生存，更無從談到改造外部世界了。　　今天能夠存在的一切生物，不論它們多么簡單和低級，都必然有它獨特的從外界獲取信息的本領。在這種意義上，我們可以說，具備從外部世界獲取信息和利用信息的能力，是一切生物得以生存的必要條件。生物越高級，它獲取和利用信息的本領也就越高強。　　4．國內(nèi)外字、詞典中有關信息的定義　　我們可以在國內(nèi)外字、詞典中找到有關信息的定義。我國的《辭海》中對信息一詞的注釋是：“信息是指對消息接受者來說預先不知道的報道。”　　……

圖書封面

評論、評分、閱讀與下載

---

    信息論、編碼及應用 PDF格式下載

---