sumP_X1X2H_XsumP_Xlog2P_Xfpri
tfX的信源熵：H_X63f
H_Xb认为有依赖性时的条件熵H（X2｜X1）P_X1_X2P_X1X21P_X1P_X1X22P_X2P_X1X23P_X3条件矩阵P_X1_X2fi
dP_X1_X201将0换为1H_X1_X2sumP_X1X2log2P_X1_X2fpri
tfX的条件熵：
H_X1_X263f
H_X1_X2
6
fc联合熵HX1X2P_X1X2fi
dP_X1X201将0换为1H_X1X2sumP_X1X2log2P_X1X2fpri
tfX的联合熵：
H_X1X263f
H_X1X2test15有两个二元随机变量X和Y同时定义另一随机变量ZXY，试求：a、熵HXHZHXZ和HXYZb、条件熵HXYHYXZc、互信息IXYIXYZ功能函数t03：fu
ctio
H_X1H_X2H_X3t03X1P1t03输入为X1P1分别为信源符号和概率阵输出为原离散信源的熵和扩展信源的熵X2X_grow2p007p11p0H_X1sumP1log2P1lle
gthX1Pzeros1l2fori1l2l1le
gthfi
dX2i
7
fP2ip0ll1p1l1e
dH_X2sumP2log2P2fu
ctio
sX_grow
szeros2
fori22
j
forj611sisi1sijsi1j1forj
11ifsij2sij0sij1sij11e
de
dE
d功能函数t05：fu
ctio
H_X1H_X2H_X3t05P1H_X1sumP1log2P1
8
fxzeros1le
gthP12yzeros1le
gthP13a1b1fori1le
gthP1forj1le
gthP1xaP1iP1jaa1e
de
dH_X2sumxlog2xfori1le
gthP1forj1le
gthP1fork1le
gthP1ybP1iP1jP1kbb1e
de
de
dH_X2sumxlog2xH_X3sumylog2y部分结果：
9
fH14754888H_V_U09056y108813y217626y326439X的信源熵：H_X1543X的条件熵：H_X1_X20209X的条件熵：H_X1_X20472X的条件熵：H_X1_X20191X的联合熵：H_X1X20732X的联合熵：H_X1X20992X的联合熵：
10
fH_X1X20691
2实验中出现的问题及解决方法；
实验中遇到的问题有很多，如各种概率空间的计算，弄混，概念不清楚，公式不熟悉，对信息论的定理概念及意义不理解，不能灵活运用。对于各种概率的计算，需要准确分析，然后逐一进行计算。信息论的定理概念及意义，翻书查阅，尽可能的熟悉，理解，并加以运用。六、实验总结通过实验，回顾了各种概率的求解方法，该实验主要是计算消息的信息量，信息熵。在实验过程中，不断地学习查阅课本，巩固了上课的知识，对所学的定理和公式有了更加深刻的认识和理解。
实验二离散信道及其容量
一、实验目的1、理解离散信道容量的内涵；2、掌握求二元对称信道（BSC）互信息量和容量的设计方法；3、掌握二元扩展信道的设计方法并会求其平均互信息量。二、实验环境wi
dowsXPMATLAB7三、实验原理若某信道输入r