,B,C,D和E组成,设每一符号独立14
出现,其出现概率为141818316和516。试求该信息源符号的平均信息量。
解:
H
pxilog2
pxi
14
log
2
14
18
log
2
18
log2
18
516
log
2
516
223bit符号
习题111设有四个消息A、B、C、D分别以概率14181812传送,每
一消息的出现是相互独立的。试计算其平均信息量。
解:
H
pxilog2
pxi
14
log2
14
18
log
2
18
18
log
2
18
12
log
2
12
175bit符号
习题112一个由字母A,B,C,D组成的字。对于传输的每一个字母用二进制脉冲编码,00代替A,01代替B,10代替C,11代替D。每个脉冲宽度为5ms。
(1)不同的字母是等概率出现时,试计算传输的平均信息速率。
(2)
若每个字母出现的概率为pB
14
pC
14
pD
310
试计算传输的
平均信息速率。
解:首先计算平均信息量。
(1)
xxH
P
i
log2
p
i
4
14log2
14
2
bit
字母
平均信息速率2(bit字母)25ms字母200bits
(2)
xxH
P
i
log
2
p
i
15
log2
15
14
log2
14
14
log2
14
310
log2
310
1985
bit
字母
平均信息速率1985bit字母25ms字母1985bits
习题113国际莫尔斯电码用点和划的序列发送英文字母,划用持续3单位
f的电流脉冲表示,点用持续1单位的电流脉冲表示,且划出现的概率是点出现的概率的13。
(1)计算点和划的信息量;(2)计算点和划的平均信息量。
解:令点出现的概率为PA划出现的频率为PB1
PAPB13PAPBPA34
1
PB14
IAlog2pA0415bitIBlog2pB2bit
(2)
H
pxilog2
pxi
34log2
34
14log2
14
0811bit符号
习题114设一信息源的输出由128个不同符号组成。其中16个出现的概
率为132,其余112个出现的概率为1224。信息源每秒发出1000个符号,且每
个符号彼此独立。试计算该信息源的平均信息速率。
解
:
H
pxilog2
pxi
16132
112
1224
log
2
1224
64bit符号
平均信息速率为6410006400bits。
习题115对于二电平数字信号,每秒钟传输300个码元,问此传码率RB等
于多少?若数字信号0和1出现是独立等概的,那么传信率Rb等于多少?
解:RB300B
Rb300bits
习题116若题112中信息源以1000B速率传送信息,则传送1小时的信息量为多少?传送1小时可能达到的最大信息量为多少?
解:
传送1小时的信息量
223100036008028Mbit
传送1小时可能达到的最大信息量
先求出最大的熵:
Hmax
log2
15
232bit
符号
f则传送1小时r