浅谈信息论及其应用
摘要
本文主要研究了信息论的起源、信息论的分类、信息论研究的主要内容以及信息论在现实生活中的运用，信息论是运用概率论与数理统计的方法研究信息信息熵通信系统数据传输密码学数据压缩等问题的应用数学学科。主要介绍信息论在数据压缩、密码学、统计及信号处理中的应用。
关键字：信息论数据压缩密码学
f一、信息论的起源
随着社会的发展，科学技术的不断进步，近些年信息论，控制论和系统论被作为一种新的理论方法，在社会科学各个领域中被加以尝试和运用。信息反馈控制机制稳定性等大量新概念和新名词被人们所接受，并涌进许多传统的社会科学领域这是一场方法论的革命，为社会科学各个领域带来了朝气。
信息论最早是美国研究所（信息论之父）克劳德申农提出1，他于1948年10月发表于贝尔系统技术学报上的论文《通信的数学原理》作为现代信息论研究的开端。
二、信息论的定义与分类
（一）定义21申农认为信息论是：通讯的基本问题就是精确地或近似地在一端复现在另
一端所挑选的信号。2信息论是关于信息的本质和传送规律的科学理论，是研究信息的计量、发
送、传递、交换、接收和储存的一门新兴科学。（二）分类
1狭义信息论：是用统计学的方法研究通讯系统中存在的信息传递和处理的规律的科学。
2广义信息论：是用数学和其他有关科学的方法研究一切现实系统中存在的信息传递、处理识别和利用的共同规律的科学。
三、信息论研究的基本内容
实际通信系统比较复杂，但是任何通信系统都可以抽象为信息源发送机信道接收机收信者，因此，通信过程中信息的定量表示信源和信宿信道和信道容量编码和译码等方面的问题，就构成了信息论的基本内容。信息论是运用概率论与数理统计的方法研究信息信息熵通信系统数据传输密码学数据压缩等问题的应用数学学科。信息论将信息的传递作为一种统计现象来考虑，给出了估算通信信
f道容量的方法。信息传输和信息压缩是信息论研究中的两大领域这两个方面又由信息传输定理信源信道隔离定理相互联系3。
1信息。从广义上讲，信息是指不同物质在运动过程中发出的各种信号；从狭义上讲，信息是指各种物质在运动过程中发出的映出来的数据。指令消息情报图象信号等对于信息的定义，目前学术界还没有一个一致的看法，信息论的创始人申农认为，信息就是用以消除随机的不定性的东西；控制论的创始人维纳认为，信息是人与环境相互交换内容的名称，也可以叫负商。
信息依赖于物质和能量，但r