P白白
HY白
4P黑
P白
HY
211有一个可以旋转的圆盘,盘面上被均匀的分成38份,用1,…,38的数字标示,其中有两份涂绿色,18份涂红色,18份涂黑色,圆盘停转后,盘面上的指针指向某一数字和颜色。(1)如果仅对颜色感兴趣,则计算平均不确定度
f(2)如果仅对颜色和数字感兴趣,则计算平均不确定度(3)如果颜色已知时,则计算条件熵解:令X表示指针指向某一数字,则X12………38
Y表示指针指向某一种颜色,则Yl绿色,红色,黑色
Y是X的函数,由题意可知pxiyjpxi
3
(1)HYpyjlog
1
2log38218log38124bit符号
j1
pyj382
3818
(2)HXYHXlog238525bit符号
(3)HXYHXYHYHXHY525124401bit符号
212两个实验X和Y,Xx1x2x3Yy1y2y3l联合概率rxiyjrij为
r11r12r137241240
r21
r22
r23
1
24
14
1
24
r31r32r330124724
(1)如果有人告诉你X和Y的实验结果,你得到的平均信息量是多少?(2)如果有人告诉你Y的实验结果,你得到的平均信息量是多少?(3)在已知Y实验结果的情况下,告诉你X的实验结果,你得到的平均信息量是多少?
解:联合概率pxiyj为
Y
y1
y2
y3
X
x1
724124
0
x2
124
14
124
x3
0
124724
HXYpxiyjlog21
ij
pxiyj
7241
1
2log24log224log24
24724
4
23bit符号
X概率分布
X
x1
x2
x3
P
824
824
824
Y概率分布是
Y
y1
y2
y3
P
824
824
824
HY31log23158bit符号3
HXYHXYHY23158
072bit符号
f213有两个二元随机变量X和Y,它们的联合概率为
Y
X
x10
x21
y10
18
38
y21
38
18
并定义另一随机变量ZXY(一般乘积),试计算:1HXHYHZHXZHYZ和HXYZ;2HXYHYXHXZHZXHYZHZYHXYZHYXZ和HZXY;3IXYIXZIYZIXYZIYZX和IXZY。
解:
1
px1
px1y1
px1y2
18
38
12
px2
px2
y1
px2
y2
38
18
12
HXpxilogpxi1bitsymbol
i
py1
px1y1
px2y1
18
38
12
py2
px1y2
px2
y2
38
18
12
HYpyjlogpyj1bitsymbol
j
ZXY的概率分布如下:
ZPZ
z1
7
8
0
z2
1
1
8
2
HZ
k
pzk
78
log
78
1log8
18
0544
bit
symbol
fpx1px1z1px1z2
px1z20
px1z1px105
pz1px1z1px2z1
px2z1
pz1
px1z1
78
05
38
pz2px1z2px2z2
px2z2
pz2
18
HXZ
i
k
pxizk
log
pxizk
12
log
12
3logr