传递作为一种统计现象来考虑,给出了估算通信信道容量的方法。信息传输和信息压缩是信息论研究中的两大领域这两个方面又由信息传输定理信源信道隔离定理相互联系。1信息。从广义上讲,信息是指不同物质在运动过程中发出的各种信号;从狭义上讲,信息是指各种物质在运动过程中发出的映出来的数据。指令消息情报图象信号等对于信息的定义,目前学术界还没有一个一致的看法,信息论的创始人申农认为,信息就是用以消除随机的不定性的东西;控制论的创始人维纳认为,信息是人与环境相互交换内容的名称,也可以叫负商。2信息量。它是信息多少的量度许多科学家对信息进行深入的研究以后,发现事件的信息量与事件出现的概率有密切的关系:事件发生的概率大,信息量就越小;反之,事件发生的概率就越小,信息量就越大。例如:池塘周围的护栏越密,小孩或大人掉进池塘的可能性就越少;反之则反4。3信源和信宿。信源即消息的来源消息一般以符号的形式发出,通常就有随即性信源是多方面的,自然界的一切物体都可以成为信源。如果信源发出的信号是确定的,即是事先知道的,就不会传输任何信息如果符号的出现是时刻变化
f的随机事件,就可以用随机变量来表示以随机变量来研究信息,是信息论的一个基本思想。信宿是信息的接收者,它能够接收消息,并使消息再现,达到通讯的目的信宿可以是人,也可以是机器。例如:我们看电视,电视是信息的发出者,人从电视上了解各种各样的信息,人就是信宿;电视相对于各个电视台来说,也是一个信宿,即信息的接收者。4信道和信道容量。在信源和信宿之间存在着传递信息的通道,其主要任务是传输信息和存储信息。信源发出的信息必须进行编码,使之能转化成为能在信道中传输的信号信道容量是指信道传输信息的多少以及速度。通讯速度的大小并不完全取决于信道的性质,它还随信源性质和编码方法而改变。5编码和译码。“码”是一个符号表达和将这些符号排列起来所必须遵守的一些约定。运用这些符号,遵守相应的约定把信息变成信号,这一过程就是编码用符号来表达消息,称为信源编码;将符号转换成为信道所要求的信号,称为信道编码。在通讯系统里,消息往往要经过几次编码,才能变成适合信道传输的信号当信号系列通过信道输出后,必须经过译码复制成消息,才能送达接收者。译码过程正好与编码过程相反,所以译码就是编码的逆过程。6信息方法。所谓信息方法,是指用信息的观察来考察系统的行为结构和r