信息编码曹雪虹课题答案
第二章
21马尔夫信源3符号转移概率：画出状态图求出符号稳态概率
解：状态图
状态转移矩阵：
设状态u1u2u3稳定概率分W1W2W3
计算
22 符号集{01}组成二阶马尔夫链转移概率：0802020805050505画出状态图计算状态稳态概率
解：
列出转移概率矩阵：
状态图：
设状态00011011稳态分布概率W1W2W3W4
计算
23 时掷出两正常骰子面呈现概率16求：
(1) 35时出现事件信息
(2) 两1时出现事件信息
(3) 两点数种组合（序）熵均信息量
(4) 两点数（2 3 … 12构成子集）熵
(5) 两点数中少1信息量
解：
(1)
(2)
(3)
两点数排列：
11
12
13
14
15
16
21
22
23
24
25
26
31
32
33
34
35
36
41
42
43
44
45
46
51
52
53
54
55
56
61
62
63
64
65
66
21种组合：
中112233445566概率
15组合概率
(4)
参考面两点数排列出两点数求概率分布：
(5)
24
25 居住某区女孩子25学生女学生中75身高160厘米女孩子中身高160厘米占总数半假知身高160厘米某女孩学生消息问获少信息量？
解：
设机变量X代表女孩子学历
X
x1（学生）
x2（学生）
P(X)
025
075
设机变量Y代表女孩子身高
Y
y1（身高>160cm）
y2（身高<160cm）
P(Y)
05
05
已知：女学生中75身高160厘米
：
求：身高160厘米某女孩学生信息量
：
26 掷两颗骰子面圆点3时该消息包含信息量少？圆点7时该消息包含信息量少？
解：
1）圆点3概率
该消息信息量
2）圆点7概率
该消息信息量
27 设离散记忆信源概率空间
（1）求符号信息量
（2）信源发出消息符号序列{202 120 130 213 001 203 210 110 321 010 021 032 011 223 210}求该序列信息量均符号携带信息量
解：
理求
信源记忆消息序列信息量等该序列中符号信息量
：
均符号携带信息量bit符号
28 试问四进制八进制脉含信息量二进制脉少倍？
解：
四进制脉表示4消息例：{0 1 2 3}
八进制脉表示8消息例：{0 1 2 3 4 5 6 7}
二进制脉表示2消息例：{0 1}
假设消息发出等概率：
四进制脉均信息量
八进制脉均信息量
二进制脉均信息量
：
四进制八进制脉含信息量分二进制脉信息量2倍3倍
29 － 三脉 ●脉
(1) I(●) I(－)＝
(2) H
210
(2) P(黑黑) P(白黑)
H(Y黑)
(3) P(黑白) P(白白)
H(Y白)
(4) P(黑) P(白)
H(Y)
211 旋转圆盘盘面均匀分成38份1…38数字标示中两份涂绿色18份涂红色18份涂黑色圆盘停转盘面指针指某数字颜色
（1）果仅颜色感兴趣计算均确定度
（2）果仅颜色数字感兴趣计算均确定度
（3）果颜色已知时计算条件熵
解：令X表示指针指某数字X{12………38}
Y表示指针指某种颜色Y{l绿色红色黑色}
YX函数题意知
（1）bit符号
（2）bit符号
（3）bit符号
212 两实验XYX{x1 x2 x3}Y{y1 y2 y3}l联合概率
（1） 果告诉XY实验结果均信息量少？
（2） 果告诉Y实验结果均信息量少？
（3） 已知Y实验结果情况告诉X实验结果均信息量少？
解：联合概率
Y
X
y1
y2
y3
x1
724
124
0
x2
124
14
124
x3
0
124
724
23bit符号
X概率分布
X
x1
x2
x3
P
824
824
824
bit符号
Y概率分布 072bit符号
Y
y1
y2
y3
P
824
824
824
213 两二元机变量XY联合概率
Y X
x10
x21
y10
18
38
y21
38
18
定义机变量Z XY（般积）试计算：
(1) H(X) H(Y) H(Z) H(XZ) H(YZ)H(XYZ)
(2) H(XY) H(YX) H(XZ) H(ZX) H(YZ) H(ZY) H(XYZ) H(YXZ)H(ZXY)
(3) I(XY) I(XZ) I(YZ) I(XYZ) I(YZX)I(XZY)
解：
(1)
Z XY概率分布：
(2)
(3)
214
(1)
P(ij) P(ij)
(2) 方法1
方法2
215
P(ji)
216 黑白传真机消息元黑色白色两种X{黑白}般气象图黑色出现概率p(黑)＝03白色出现概率p(白)＝07
（1）假设黑白消息视前关求信源熵H(X)画出该信源香农线图
（2）实际元素间关联转移概率：P(白|白)＝09143P(黑|白)＝00857P(白|黑)＝02P(黑|黑)＝08求阶马尔夫信源信源熵画出该信源香农线图
（3）较两种信源熵说明原
解：（1）bit符号
P(黑|白)P(黑)
P(白|白)＝P(白)
P(黑|黑)＝P(黑)
P(白|黑)＝P(白)
（2）根题意阶马尔夫链稳（P(白)＝07时间变化P(黑)＝03时
间变化）
＝0512bit符号
217 帧电视图认3Í105素组成素均独立变化素取128亮度电设亮度电等概出现问帧图含少信息量？广播员约10000汉字中选出1000汉字口述电视图试问广播员描述图广播信息量少（假设汉字字汇等概率分布彼赖）？恰描述图广播员口述中少需少汉字？
解：
1)
2)
3)
220 定语音信号样值X概率密度求Hc(X)证明样方差正态变量连续熵
解：
224 连续机变量XY联合概率密度：求H(X) H(Y) H(XYZ)I(XY)
（提示：）
解：
225 某记忆信源符号集{0 1}已知P(0) 14P(1) 34
(1) 求符号均熵
(2) 100符号构成序列求某特定序列（例m0（100 m）1）信息量表达式
(3) 计算(2)中序列熵
解：
(1)
(2)
(3)
226
P(i) P(ij)
H(IJ)
229 阶稳马尔夫链Xr取值集合已知起始概率P(Xr)转移概率图示
j
i
1
2
3
1
2
3
12
23
23
14
0
13
14
13
0
(1) 求联合熵均符号熵
(2) 求链极限均符号熵
(3) 求说应冗余度
解：（1）
符号
X1X2联合概率分布
1
2
3
1
14
18
18
2
16
0
112
3
16
112
0
1
2
3
1424
524
524
X2概率分布
1209bit符号
X2X3联合概率分布
1
2
3
1
724
748
748
2
536
0
512
3
536
512
0
126bit符号
符号
均符号熵／符号
（2）设a1a2a3稳定概率分布分W1W2W3转移概率距阵
计算
满足约性非周期性
符号
(3)符号 符号 符号
230
(1) 求稳概率 P(ji)
解方程组
(2)
信源熵
231
P(ji) 解方程组 W1 W2 W3
232 阶马尔夫信源状态图图2－13示信源X符号集（012）
（1）求信源稳概率分布P(0)P(1)P(2)
（2）求信源熵
（3）似认信源记忆时符号概率分布稳分布求似信源熵H(X)进行较
解根香农线图列出转移概率距阵
令状态012稳概率分布分W1W2W3
计算
齐次遍历
符号 熵定理知存极值
者通面方法出存极值
p23时
023p23时存极值符号
233
(1)
解方程组
p(0)p(1)p(2)
(2)
(3)
p0p1时 信源熵0
练题：离散记忆信源输出相应概率设计两独立实验观察结果分已知条件概率
P(y1|x)
0
1
0
1
2
1
0
12
1
1
12
P(y2|x)
0
1
0
1
2
1
1
0
0
0
1
(1) 求判断实验
(2) 求计算做Y1Y2两实验做Y1Y2中实验少关X信息
(3) 求解释含义
解(1)题意知
Y1
X
0
1
0
14
0
1
0
14
2
14
14
Y2
X
0
1
0
14
0
1
14
0
2
0
12
P(y10)p(y11)12 p(y21)p(y21)12
05bit符号
符号>
第二实验第实验
P(y1y2x)
00
01
10
11
0
14
0
0
0
1
0
0
14
0
2
0
14
0
14
（2）Y1Y2 相互独立
P(y1y2|x)
00
01
10
11
0
1
0
0
0
1
0
0
1
0
2
0
12
0
12
y1y2
00
01
10
11
p
14
14
14
14
bit符号
15bit符号
见做两实验单独做Y11bit关X信息量单独做Y205bit关X信息量
（3）
15105bit符号
表示已做Y2情况做Y1关X信息量
理
15051bit符号
表示已做Y1情况做Y2关X信息量
欢迎载
第三章
31 设二元称信道传递矩阵
(1) P(0) 34 P(1) 14求H(X) H(XY) H(YX)I(XY)
(2) 求该信道信道容量达信道容量时输入概率分布
解：
1)
2)
佳输入分布
32某信源发送端2符号i＝12秒发出符号接受端3种符号j＝123转移概率矩阵
（1） 计算接受端均确定度
（2） 计算噪声产生确定度
（3） 计算信道容量
解：
联合概率
X Y
0
Y概率分布
Y
（1）
取2底
（2）
取2底
取e底
0
33 扰离散信道传输符号01传输程中100符号发生错误已知P(0)P(1)12信源秒发出1000符号求信道信道容量
解：
题意知该二元信道转移概率矩阵：
BSC信道
BSC信道信道容量计算公式：
34 求图中信道信道容量佳输入概率分布求012时信道容量C
X
0
Y
0
1
1
1
2
2
1－
1－
解 信道矩阵P信道非奇异矩阵rs利方程组求解
(i123)
解
Cloglog[20+2×2(1)log(1)+]
log[1+21H()]log[1+2]
(j123)
P(a1)P(b1)
0时信道应信道
Clog3
12时 Clog2
35 求列二信道信道容量加较
（1） （2）
中p+1
解：
（1）信道准称信道信道矩阵中Y划分成三互相交子集 集列组成矩阵两子矩阵满足称性直接利准称信道信道容量公式进行计算
C1logrH(p1’ p2’ p3’)
中r2N1M112 N2 M24
C1log2H(pε2ε)(12)log(12)2log4
log2+()log()+(pε)log(pε)+2εlog2ε(12ε)log(12ε)2εlog4ε
log22εlog2(12ε)log(12ε)+()log()+(pε)log(pε)
(12ε)log2(12ε)+()log()+(p)log(p)
输入等概率分布时达信道容量
（2）信道准称信道采述两种方法进行计算先采准称信道信道容量公式进行计算信道矩阵中Y划分成两互相交子集子集列组成矩阵两矩阵称矩阵 中r2N1M112 N2M22
ClogrH(pε2ε0)
log2+()log()+(pε)log(pε)+2εlog2ε(12ε)log(12ε)2εlog2ε
log2(12ε)log(12ε)+( )log()+(pε)log(pε)
(12ε)log2(12ε)+2εlog2+()log()+(pε)log(pε)
C1+2εlog2
输入等概率分布（P（a1）P（a2）12）时达信道容量较两信道容量C2C1+2εlog2
36 设扰离散信道传输情况分图3－17示求出该信道信道容量
解：
称信道
取2底 bit符号
37
(1)
条件概率 联合概率验概率
（2）
H(YX)
（3）
接收y2发x1时正确果发x1x3错误概率：
P(x1y2)P(x2y2)P(x3y2)
中错误概率：
PeP(x1y2)+P(x3y2)
（4）均错误概率
（5）0733
（6）信道
原信源等概率分布转移信道
正确发送概率x1y1概率05半失真
x2y2概率03失真严重
x3y3概率0 完全失真
（7）
H(XY)
3 8 设加性高斯白噪声信道中信道带宽3kHz设{(信号功率+噪声功率)噪声功率}10dB试计算该信道信息传输速率Ct
解：
3 9 图片传输中帧约225Í106素重现图分16亮度电假设亮度电等概分布试计算分钟传送帧图片需信道带宽（信噪功率30dB）
解：
310 均功率受限制连续信道通频带1MHZ信道存白色高斯噪声
（1）已知信道信号噪声均功率值10求该信道信道容量
（2）信道信号噪声均功率值降5达相信道容量信道通频带应？
（3）信道通频带减05MHZ时保持相信道容量信道信号噪声均功率值应等？
解：（1）
（2）
（3）
欢迎载
第四章
42 某二元信源失真矩阵求信源DmaxDminR(D)函数
解：
二元等概信源率失真函数：
中n 2 率失真函数：
43 四元称信源接收符号Y {0 1 2 3}失真矩阵求DmaxDmin信源R(D)函数画出曲线（取45点）
解：
n元等概信源率失真函数：
中a 1 n 4 率失真函数：
函数曲线：
中：
43
信源熵
Dmax min{} R(Dmax)0
Dmin0R(Dmin)R(0)H(X)log(4)2
满足p(y1)+p(y2)+p(y3)+p(y4)1[01]区间意取值
欢迎载
第五章
51 表列某六进制信源进行二进制编码试问：
消息
概率
u1
u2
u3
u4
u5
u6
12
14
116
116
116
116
000
001
010
011
100
101
0
01
011
0111
01111
011111
0
10
110
1110
11110
111110
0
10
1101
1100
1001
1111
1
000
001
010
110
110
01
001
100
101
110
111
(1) 码中唯译码？
(2) 码非延长码？
(3) 唯译码求出均码长编译效率
解：首先根克劳夫特等式找出非唯译码
唯译码：
根码树构造码字方法
码字均处终端节点
时码
52
(1) ABCD四字母字母两码码05ms 字母10ms
信源等概率分布时信源熵H(X)log(4)2
均信息传递速率bitms200bits
(2) 信源熵
H(X)
0198bitms198bits
55
(1)
H(U)
(2) 信源3二进制符号出现0次数
出现1次数
P(0)
P(1)
(3)
(4) 相应香农编码
信源符号xi
符号概率pi
累加概率Pi
Logp(xi)
码长Ki
码字
x1
12
0
1
1
0
x2
14
05
2
2
10
x3
18
075
3
3
110
x4
116
0875
4
4
1110
x5
132
0938
5
5
11110
x6
164
0969
6
6
111110
x7
1128
0984
7
7
1111110
x8
1128
0992
7
7
11111110
相应费诺码
信源符号xi
符号概率pi
第次分组
第二次分组
第三次分组
第四次分组
第五次分组
第六次分组
第七次分组
二元码
x1
12
0
0
x2
14
1
0
10
x3
18
1
0
110
x4
116
1
0
1110
x5
132
1
0
11110
x6
164
1
0
111110
x7
1128
1
0
1111110
x8
1128
1
11111110
（5）香农码费诺码相
均码长
编码效率：
511
（1）信源熵
（2）香农编码：
信源符号xi
符号概率pi
累加概率Pi
Logp(xi)
码长Ki
码字
x1
032
0
1644
2
00
x2
022
032
2184
3
010
x3
018
054
2474
3
100
x4
016
072
2644
3
101
x5
008
088
3644
4
1110
x6
004
096
4644
5
11110
均码长：
编码效率
（3）
费诺编码
信源符号xi
符号概率pi
1
2
3
4
编码
码长
x1
032
0
0
00
2
x2
022
1
01
2
x3
018
1
0
10
2
x4
016
1
0
110
3
x5
008
1
0
1110
4
x6
004
1
1111
4
均码长：
编码效率：
（4）哈夫曼编码
信源符号xi
符号概率pi
编码程
编码
码长
x1
032
032
038
040
060
1
01
2
x2
022
022
032
038
040
10
2
x3
018
018
022
032
11
2
x4
016
016
018
000
3
x5
008
012
0010
4
x6
004
0011
4
均码长：
编码效率：
516 已知二元信源{01}p014p134试式（4129）序列11111100编算术码计算序列均码长
解：根算术编码编码规：P(s11111100) P2(0)P6(1) (34)6 (14)2
根（4129）：
F(S) P(0) + P(10) + P(110) + P(1110) + P(11110) + P(111110)
1– 1 – P(11111111) – P(11111110) – P(11111101) – P(11111100)
1– P(111111) 1– (34)6 082202 0110100100111
P(S) A(S) 00000001011011001F(S) + P(S) 01101010
C 01101010 S码字1101010
均码长 0875
文档香网(httpswwwxiangdangnet)户传
《香当网》用户分享的内容，不代表《香当网》观点或立场，请自行判断内容的真实性和可靠性！
该内容是文档的文本内容，更好的格式请下载文档
第二章
21马尔夫信源3符号转移概率：画出状态图求出符号稳态概率
解：状态图
状态转移矩阵：
设状态u1u2u3稳定概率分W1W2W3
计算
22 符号集{01}组成二阶马尔夫链转移概率：0802020805050505画出状态图计算状态稳态概率
解：
列出转移概率矩阵：
状态图：
设状态00011011稳态分布概率W1W2W3W4
计算
23 时掷出两正常骰子面呈现概率16求：
(1) 35时出现事件信息
(2) 两1时出现事件信息
(3) 两点数种组合（序）熵均信息量
(4) 两点数（2 3 … 12构成子集）熵
(5) 两点数中少1信息量
解：
(1)
(2)
(3)
两点数排列：
11
12
13
14
15
16
21
22
23
24
25
26
31
32
33
34
35
36
41
42
43
44
45
46
51
52
53
54
55
56
61
62
63
64
65
66
21种组合：
中112233445566概率
15组合概率
(4)
参考面两点数排列出两点数求概率分布：
(5)
24
25 居住某区女孩子25学生女学生中75身高160厘米女孩子中身高160厘米占总数半假知身高160厘米某女孩学生消息问获少信息量？
解：
设机变量X代表女孩子学历
X
x1（学生）
x2（学生）
P(X)
025
075
设机变量Y代表女孩子身高
Y
y1（身高>160cm）
y2（身高<160cm）
P(Y)
05
05
已知：女学生中75身高160厘米
：
求：身高160厘米某女孩学生信息量
：
26 掷两颗骰子面圆点3时该消息包含信息量少？圆点7时该消息包含信息量少？
解：
1）圆点3概率
该消息信息量
2）圆点7概率
该消息信息量
27 设离散记忆信源概率空间
（1）求符号信息量
（2）信源发出消息符号序列{202 120 130 213 001 203 210 110 321 010 021 032 011 223 210}求该序列信息量均符号携带信息量
解：
理求
信源记忆消息序列信息量等该序列中符号信息量
：
均符号携带信息量bit符号
28 试问四进制八进制脉含信息量二进制脉少倍？
解：
四进制脉表示4消息例：{0 1 2 3}
八进制脉表示8消息例：{0 1 2 3 4 5 6 7}
二进制脉表示2消息例：{0 1}
假设消息发出等概率：
四进制脉均信息量
八进制脉均信息量
二进制脉均信息量
：
四进制八进制脉含信息量分二进制脉信息量2倍3倍
29 － 三脉 ●脉
(1) I(●) I(－)＝
(2) H
210
(2) P(黑黑) P(白黑)
H(Y黑)
(3) P(黑白) P(白白)
H(Y白)
(4) P(黑) P(白)
H(Y)
211 旋转圆盘盘面均匀分成38份1…38数字标示中两份涂绿色18份涂红色18份涂黑色圆盘停转盘面指针指某数字颜色
（1）果仅颜色感兴趣计算均确定度
（2）果仅颜色数字感兴趣计算均确定度
（3）果颜色已知时计算条件熵
解：令X表示指针指某数字X{12………38}
Y表示指针指某种颜色Y{l绿色红色黑色}
YX函数题意知
（1）bit符号
（2）bit符号
（3）bit符号
212 两实验XYX{x1 x2 x3}Y{y1 y2 y3}l联合概率
（1） 果告诉XY实验结果均信息量少？
（2） 果告诉Y实验结果均信息量少？
（3） 已知Y实验结果情况告诉X实验结果均信息量少？
解：联合概率
Y
X
y1
y2
y3
x1
724
124
0
x2
124
14
124
x3
0
124
724
23bit符号
X概率分布
X
x1
x2
x3
P
824
824
824
bit符号
Y概率分布 072bit符号
Y
y1
y2
y3
P
824
824
824
213 两二元机变量XY联合概率
Y X
x10
x21
y10
18
38
y21
38
18
定义机变量Z XY（般积）试计算：
(1) H(X) H(Y) H(Z) H(XZ) H(YZ)H(XYZ)
(2) H(XY) H(YX) H(XZ) H(ZX) H(YZ) H(ZY) H(XYZ) H(YXZ)H(ZXY)
(3) I(XY) I(XZ) I(YZ) I(XYZ) I(YZX)I(XZY)
解：
(1)
Z XY概率分布：
(2)
(3)
214
(1)
P(ij) P(ij)
(2) 方法1
方法2
215
P(ji)
216 黑白传真机消息元黑色白色两种X{黑白}般气象图黑色出现概率p(黑)＝03白色出现概率p(白)＝07
（1）假设黑白消息视前关求信源熵H(X)画出该信源香农线图
（2）实际元素间关联转移概率：P(白|白)＝09143P(黑|白)＝00857P(白|黑)＝02P(黑|黑)＝08求阶马尔夫信源信源熵画出该信源香农线图
（3）较两种信源熵说明原
解：（1）bit符号
P(黑|白)P(黑)
P(白|白)＝P(白)
P(黑|黑)＝P(黑)
P(白|黑)＝P(白)
（2）根题意阶马尔夫链稳（P(白)＝07时间变化P(黑)＝03时
间变化）
＝0512bit符号
217 帧电视图认3Í105素组成素均独立变化素取128亮度电设亮度电等概出现问帧图含少信息量？广播员约10000汉字中选出1000汉字口述电视图试问广播员描述图广播信息量少（假设汉字字汇等概率分布彼赖）？恰描述图广播员口述中少需少汉字？
解：
1)
2)
3)
220 定语音信号样值X概率密度求Hc(X)证明样方差正态变量连续熵
解：
224 连续机变量XY联合概率密度：求H(X) H(Y) H(XYZ)I(XY)
（提示：）
解：
225 某记忆信源符号集{0 1}已知P(0) 14P(1) 34
(1) 求符号均熵
(2) 100符号构成序列求某特定序列（例m0（100 m）1）信息量表达式
(3) 计算(2)中序列熵
解：
(1)
(2)
(3)
226
P(i) P(ij)
H(IJ)
229 阶稳马尔夫链Xr取值集合已知起始概率P(Xr)转移概率图示
j
i
1
2
3
1
2
3
12
23
23
14
0
13
14
13
0
(1) 求联合熵均符号熵
(2) 求链极限均符号熵
(3) 求说应冗余度
解：（1）
符号
X1X2联合概率分布
1
2
3
1
14
18
18
2
16
0
112
3
16
112
0
1
2
3
1424
524
524
X2概率分布
1209bit符号
X2X3联合概率分布
1
2
3
1
724
748
748
2
536
0
512
3
536
512
0
126bit符号
符号
均符号熵／符号
（2）设a1a2a3稳定概率分布分W1W2W3转移概率距阵
计算
满足约性非周期性
符号
(3)符号 符号 符号
230
(1) 求稳概率 P(ji)
解方程组
(2)
信源熵
231
P(ji) 解方程组 W1 W2 W3
232 阶马尔夫信源状态图图2－13示信源X符号集（012）
（1）求信源稳概率分布P(0)P(1)P(2)
（2）求信源熵
（3）似认信源记忆时符号概率分布稳分布求似信源熵H(X)进行较
解根香农线图列出转移概率距阵
令状态012稳概率分布分W1W2W3
计算
齐次遍历
符号 熵定理知存极值
者通面方法出存极值
p23时
0
233
(1)
解方程组
p(0)p(1)p(2)
(2)
(3)
p0p1时 信源熵0
练题：离散记忆信源输出相应概率设计两独立实验观察结果分已知条件概率
P(y1|x)
0
1
0
1
2
1
0
12
1
1
12
P(y2|x)
0
1
0
1
2
1
1
0
0
0
1
(1) 求判断实验
(2) 求计算做Y1Y2两实验做Y1Y2中实验少关X信息
(3) 求解释含义
解(1)题意知
Y1
X
0
1
0
14
0
1
0
14
2
14
14
Y2
X
0
1
0
14
0
1
14
0
2
0
12
P(y10)p(y11)12 p(y21)p(y21)12
05bit符号
符号>
第二实验第实验
P(y1y2x)
00
01
10
11
0
14
0
0
0
1
0
0
14
0
2
0
14
0
14
（2）Y1Y2 相互独立
P(y1y2|x)
00
01
10
11
0
1
0
0
0
1
0
0
1
0
2
0
12
0
12
y1y2
00
01
10
11
p
14
14
14
14
bit符号
15bit符号
见做两实验单独做Y11bit关X信息量单独做Y205bit关X信息量
（3）
15105bit符号
表示已做Y2情况做Y1关X信息量
理
15051bit符号
表示已做Y1情况做Y2关X信息量
欢迎载
第三章
31 设二元称信道传递矩阵
(1) P(0) 34 P(1) 14求H(X) H(XY) H(YX)I(XY)
(2) 求该信道信道容量达信道容量时输入概率分布
解：
1)
2)
佳输入分布
32某信源发送端2符号i＝12秒发出符号接受端3种符号j＝123转移概率矩阵
（1） 计算接受端均确定度
（2） 计算噪声产生确定度
（3） 计算信道容量
解：
联合概率
X Y
0
Y概率分布
Y
（1）
取2底
（2）
取2底
取e底
0
33 扰离散信道传输符号01传输程中100符号发生错误已知P(0)P(1)12信源秒发出1000符号求信道信道容量
解：
题意知该二元信道转移概率矩阵：
BSC信道
BSC信道信道容量计算公式：
34 求图中信道信道容量佳输入概率分布求012时信道容量C
X
0
Y
0
1
1
1
2
2
1－
1－
解 信道矩阵P信道非奇异矩阵rs利方程组求解
(i123)
解
Cloglog[20+2×2(1)log(1)+]
log[1+21H()]log[1+2]
(j123)
P(a1)P(b1)
0时信道应信道
Clog3
12时 Clog2
35 求列二信道信道容量加较
（1） （2）
中p+1
解：
（1）信道准称信道信道矩阵中Y划分成三互相交子集 集列组成矩阵两子矩阵满足称性直接利准称信道信道容量公式进行计算
C1logrH(p1’ p2’ p3’)
中r2N1M112 N2 M24
C1log2H(pε2ε)(12)log(12)2log4
log2+()log()+(pε)log(pε)+2εlog2ε(12ε)log(12ε)2εlog4ε
log22εlog2(12ε)log(12ε)+()log()+(pε)log(pε)
(12ε)log2(12ε)+()log()+(p)log(p)
输入等概率分布时达信道容量
（2）信道准称信道采述两种方法进行计算先采准称信道信道容量公式进行计算信道矩阵中Y划分成两互相交子集子集列组成矩阵两矩阵称矩阵 中r2N1M112 N2M22
ClogrH(pε2ε0)
log2+()log()+(pε)log(pε)+2εlog2ε(12ε)log(12ε)2εlog2ε
log2(12ε)log(12ε)+( )log()+(pε)log(pε)
(12ε)log2(12ε)+2εlog2+()log()+(pε)log(pε)
C1+2εlog2
输入等概率分布（P（a1）P（a2）12）时达信道容量较两信道容量C2C1+2εlog2
36 设扰离散信道传输情况分图3－17示求出该信道信道容量
解：
称信道
取2底 bit符号
37
(1)
条件概率 联合概率验概率
（2）
H(YX)
（3）
接收y2发x1时正确果发x1x3错误概率：
P(x1y2)P(x2y2)P(x3y2)
中错误概率：
PeP(x1y2)+P(x3y2)
（4）均错误概率
（5）0733
（6）信道
原信源等概率分布转移信道
正确发送概率x1y1概率05半失真
x2y2概率03失真严重
x3y3概率0 完全失真
（7）
H(XY)
3 8 设加性高斯白噪声信道中信道带宽3kHz设{(信号功率+噪声功率)噪声功率}10dB试计算该信道信息传输速率Ct
解：
3 9 图片传输中帧约225Í106素重现图分16亮度电假设亮度电等概分布试计算分钟传送帧图片需信道带宽（信噪功率30dB）
解：
310 均功率受限制连续信道通频带1MHZ信道存白色高斯噪声
（1）已知信道信号噪声均功率值10求该信道信道容量
（2）信道信号噪声均功率值降5达相信道容量信道通频带应？
（3）信道通频带减05MHZ时保持相信道容量信道信号噪声均功率值应等？
解：（1）
（2）
（3）
欢迎载
第四章
42 某二元信源失真矩阵求信源DmaxDminR(D)函数
解：
二元等概信源率失真函数：
中n 2 率失真函数：
43 四元称信源接收符号Y {0 1 2 3}失真矩阵求DmaxDmin信源R(D)函数画出曲线（取45点）
解：
n元等概信源率失真函数：
中a 1 n 4 率失真函数：
函数曲线：
中：
43
信源熵
Dmax min{} R(Dmax)0
Dmin0R(Dmin)R(0)H(X)log(4)2
满足p(y1)+p(y2)+p(y3)+p(y4)1[01]区间意取值
欢迎载
第五章
51 表列某六进制信源进行二进制编码试问：
消息
概率
u1
u2
u3
u4
u5
u6
12
14
116
116
116
116
000
001
010
011
100
101
0
01
011
0111
01111
011111
0
10
110
1110
11110
111110
0
10
1101
1100
1001
1111
1
000
001
010
110
110
01
001
100
101
110
111
(1) 码中唯译码？
(2) 码非延长码？
(3) 唯译码求出均码长编译效率
解：首先根克劳夫特等式找出非唯译码
唯译码：
根码树构造码字方法
码字均处终端节点
时码
52
(1) ABCD四字母字母两码码05ms 字母10ms
信源等概率分布时信源熵H(X)log(4)2
均信息传递速率bitms200bits
(2) 信源熵
H(X)
0198bitms198bits
55
(1)
H(U)
(2) 信源3二进制符号出现0次数
出现1次数
P(0)
P(1)
(3)
(4) 相应香农编码
信源符号xi
符号概率pi
累加概率Pi
Logp(xi)
码长Ki
码字
x1
12
0
1
1
0
x2
14
05
2
2
10
x3
18
075
3
3
110
x4
116
0875
4
4
1110
x5
132
0938
5
5
11110
x6
164
0969
6
6
111110
x7
1128
0984
7
7
1111110
x8
1128
0992
7
7
11111110
相应费诺码
信源符号xi
符号概率pi
第次分组
第二次分组
第三次分组
第四次分组
第五次分组
第六次分组
第七次分组
二元码
x1
12
0
0
x2
14
1
0
10
x3
18
1
0
110
x4
116
1
0
1110
x5
132
1
0
11110
x6
164
1
0
111110
x7
1128
1
0
1111110
x8
1128
1
11111110
（5）香农码费诺码相
均码长
编码效率：
511
（1）信源熵
（2）香农编码：
信源符号xi
符号概率pi
累加概率Pi
Logp(xi)
码长Ki
码字
x1
032
0
1644
2
00
x2
022
032
2184
3
010
x3
018
054
2474
3
100
x4
016
072
2644
3
101
x5
008
088
3644
4
1110
x6
004
096
4644
5
11110
均码长：
编码效率
（3）
费诺编码
信源符号xi
符号概率pi
1
2
3
4
编码
码长
x1
032
0
0
00
2
x2
022
1
01
2
x3
018
1
0
10
2
x4
016
1
0
110
3
x5
008
1
0
1110
4
x6
004
1
1111
4
均码长：
编码效率：
（4）哈夫曼编码
信源符号xi
符号概率pi
编码程
编码
码长
x1
032
032
038
040
060
1
01
2
x2
022
022
032
038
040
10
2
x3
018
018
022
032
11
2
x4
016
016
018
000
3
x5
008
012
0010
4
x6
004
0011
4
均码长：
编码效率：
516 已知二元信源{01}p014p134试式（4129）序列11111100编算术码计算序列均码长
解：根算术编码编码规：P(s11111100) P2(0)P6(1) (34)6 (14)2
根（4129）：
F(S) P(0) + P(10) + P(110) + P(1110) + P(11110) + P(111110)
1– 1 – P(11111111) – P(11111110) – P(11111101) – P(11111100)
1– P(111111) 1– (34)6 082202 0110100100111
P(S) A(S) 00000001011011001F(S) + P(S) 01101010
C 01101010 S码字1101010
均码长 0875
文档香网(httpswwwxiangdangnet)户传
《香当网》用户分享的内容，不代表《香当网》观点或立场，请自行判断内容的真实性和可靠性！
该内容是文档的文本内容，更好的格式请下载文档
