《信息与编码理论》上机实验指导书
应用MATLAB软件实现
UPC通信工程系
f前
言
本实验系列是采用MATLAB软件，主要针对《信息论基础》课程中的相关内容进行的实验。MATLAB是一完整的并可扩展的计算机环境，是一种进行科学和工程计算的交互式程序语言。它的基本数据单元是不需要制定维数的矩阵，它可直接用于表达数学的算式和技术概念，解决同样的数值计算问题，使用MATLAB要比使用Basic、Fortra
和C语言等提高效率许多倍。MATLAB还是一种有利的教学工具，在大学的线性代数课程以及其它领域的高一级课程的教学中，已称为标准的教学工具。该指导书共安排了4个实验，现就一些情况作简要说明：各实验要求学生在MATLAB系统上尽量独立完成，弄懂。实验内容紧扣课程教学内容的各主要基本概念，希望同学们在完成每个实验后，对所学的内容起到巩固和加深理解的作用。每个实验做完后必须交一份实验报告。恳请各位实验老师和同学在实验中提出宝贵意见，以利于以后改进提高。
1
f目
实验一实验二实验三实验四附录
录
离散信源及其信息测度3离散信道及其容量6无失真信源编码8有噪信道编码10部分常用MATLAB命令12
2
f实验一
一、实验目的
离散信源及其信息测度
离散无记忆信源是一种最简单且最重要的信源，可以用完备的离散型概率空间来描述。本实验通过计算给定的信源的熵，加深对信源及其扩展信源的熵的概念的理解。二、实验环境wi
dowsXPMATLAB三、实验原理信源输出的各消息的自信息量的数学期望为信源的信息熵，表达式如下
HXEIxipxilogpxi
i1q
信源熵是信源的统计平均不确定性的描述，是概率函数px的函数。四、实验内容1、有条100字符英文信息，假定其中每字符从26个英文字母和1个空格中等概选取，那么每条信息提供的信息量为多少？若将27个字符分为三类，9个出现概率占2713个出现概率占47，5个出现占17，而每类中符号出现等概，求该字符信源的信息熵。2、二进制通信系统使用0、1由于存在失真，传输会产生误码，用符号表示下列事件：u0一个0发出；u1一个1发出；v0一个0收到；v1一个1收到；给定下列概率：pu012pv0u034pv0u112。求：a已知发出一个0，求收到符号后得到的信息量；b已知发出的符号，求收到符号后得到的信息量；3r