信息論基礎

內(nèi)容概要

楊孝先等的《信息論基礎》基于編者在中國科學技術(shù)大學多年的教學經(jīng)驗編寫而成，其內(nèi)容包括概述，信息的度量與熵，隨機過程的信息量與熵率、漸近等分性質(zhì)，信源編碼，通信信道與信道容量，信息幾何學等6章。每章都配備了足夠多的例題與習題，書末還附有習題的提示和答案。
《信息論基礎》具有少而精、將主要問題講深講透而非面面俱到、由淺入深、便于自學等特點，可供高等院校應用數(shù)學專業(yè)，統(tǒng)計專業(yè)以及與計算機有關(guān)的信息學院、管理學院等一些專業(yè)作為學習“信息論”的教材或參考書。

書籍目錄

前言
第1章 概論
  1.1 信息論的基本內(nèi)容——信息理論所關(guān)注的信息特征
  1.2 信息論簡史
  1.3 關(guān)于控制論、信息論與系統(tǒng)論
  1.4 信息論的應用
  1.5 有關(guān)的常用不等式
  習題1
第2章 信息的度量與熵
  2.1 自信息
  2.2 熵、條件熵、聯(lián)合熵及其性質(zhì)
  2.3 互信息與相對熵
  2.4 凸函數(shù)與熵的凸性
  2.5 微分熵
    2.5.1 連續(xù)信源的微分熵
    2.5.2 聯(lián)合微分熵、條件微分熵
    2.5.3 連續(xù)信源的相對熵與互信息
    2.5.4 具有最大微分熵的連續(xù)信源——最大熵原理
    2.5.5 信息功率
  習題2
第3章 隨機過程的信息量與熵率、漸近等分性質(zhì)
  3.1 隨機過程的基本概念
  3.2 熵率
  3.3 冗余度與相對冗余度
  3.4 數(shù)據(jù)處理不等式
  3.5 平穩(wěn)Gauss隨機過程的熵率
  3.6 漸近等分性質(zhì)
  3.7 漸近等分性質(zhì)在數(shù)據(jù)壓縮中的應用——信源編碼定理
    3.7.1 無記憶信源的等長編碼定理
    3.7.2 一般離散信源的等長編碼定理
  習題3
第4章 信源編碼
  4.1 等長編碼
  4.2 變長編碼
    4.2.1 Kraft不等式
    4.2.2 離散信源的變長編碼定理
  4.3 Huffman編碼
  4.4 算術(shù)碼
    4.4.1 Shannon碼
    4.4.2 Shannon-Fano-Elias碼
    4.4.3 算術(shù)碼
  4.5 通用信源編碼——LZ碼
  習題4
第5章 通信信道與信道容量
  5.1 離散無記憶信道與信道容量
  5.2 信道容量的計算
    5.2.1 按定義計算的方法
    5.2.2 拉格朗日乘子法
    5.2.3 特征方程法
    5.2.4 信道容量的迭代算法
  5.3 信道的組合
    5.3.1 積信道或平行組合信道
    5.3.2 串聯(lián)信道或級聯(lián)信道
    5.3.3 和信道或并列信道
  5.4 信道編碼定理
    5.4.1 幾個有關(guān)概念
    5.4.2 聯(lián)合典型序列
    5.4.3 信道編碼定理
  5.5 帶反饋信道的信道容量
  5.6 聯(lián)合信源-信道編碼定理
  5.7 信道編碼實例
  5.8 Gauss信道
    5.8.1 加性噪聲的信道模型與信道容量
    5.8.2 Gauss信道編碼定理
  習題5
第6章 信息幾何學
  6.1 微分流形
    6.1.1 切向量與切空間
    6.1.2 Riemann度量
    6.1.3 仿射聯(lián)絡
  6.2 概率分布可作為流形
    6.2.1 概率分布族構(gòu)成一般空間
    6.2.2 Fisher度量
    6.2.3 α-聯(lián)絡
    6.2.4 對偶聯(lián)絡與對偶平坦空間
  6.3 距離與偽距離
    6.3.1 散度
    6.3.2 概率分布流形S的測地線
    6.3.3 典型散度與勾股定理
  6.4 時間序列的信息幾何學
    6.4.1 系統(tǒng)空間L的Fisher度量與α-聯(lián)絡
    6.4.2 系統(tǒng)空間L的α-散度
  習題6
習題提示與答案
參考文獻

圖書封面

評論、評分、閱讀與下載

---

    信息論基礎 PDF格式下載

---