【信息论基础】北京科学教育编辑室.pdf

目帐第一章不肯定程度 S1-1概率空間的不肯定程度H(S1-2H的定义 S1-3H的推导 S1-4常数K的决定.S1-5H的最大值1 习题第二章信息量S2-1信息量的定义S2-2二态检驗定理S2-3检驗效率习题第三章N空間的H(S3-1N潍空間 61 S3-2乘积概率空間的H(20 S3-3条件空間的平均H(习题第四章信源S4-1信源的数学描迹S4-2平稳信源 S4-3馬尔可夫信源4-4周期状态的馬尔可夫信源习题.第五章信源编碼.

言通信的最主要目的,就是把消息多、快、好、省地傅輸到对方。如何描逃消息,是研究通信的基本問题。描远的方法不同,研究的方法也就不同。一般来,消息有下面两种不同的描逃方法:第一种,把消息看成是一种能够展开成为富氏級数(富氏积分)的时間函数,如果富氏級数不是无穷多填的話,也可以根据柯切尼可夫定理变为时間上离散的序列,这种方法称为經典方法.多路通信中的额率划分和間时划分是两个典型的例子.第二种,把消息看成是随机过程,这种方法称为现代方法,或者統計方法.这种方法研究通信周题,有两个主要的学派:着重研究随机过程的关联,即前后間的关系.

第一章不肯定程度本章从我們对不肯定程度的直观概念出发,給出不肯定程度的数学定义.根据定义,推导反映概率空間不肯定程度的菌数H,最后明H的最大值.S1-1概率空間的不肯定程度H首先,我們举一个例子来明几个有关的名.投挪一颗骰子,如果我們研究的是它落下后,朝上一面的点数,那么,每做一次这样的试驗,其结果必然厨于1点、2点、3点、4点、5点、6点中的一个。这6个我们希望加以研究的秸果,无哪一个,都称为基本事件或者样本。所有基本事件的全体称为基本事件集或者样本空間.同样是投一颗骰子,如果我們希望研究的不是朝上一面的点数,而是这些点数属于奇奇数、偶数。