信息编码期末考试题
（）
判断题
1 机变量相互独立时条件熵等信源熵 （ ）
2 构成空间基底唯基底生成矩阵生成码集 （ ）
3般情况变长编码均码长定长编码 （ ）
4 信息传输率信道容量总存种信道编译码求意误差概率实现通信 （ ）
5 码字长度符合克拉夫特等式唯译码存充分必条件 （ ）
6 连续信源离散信源熵具非负性 （ ）
7 信源消息通信道传输误差失真越信宿收消息信源存确
定性越获信息量越
8 汉明码种线性分组码 （ ）
9 率失真函数值 （ ）
10必然事件事件信息量 （ ）
二填空题
1码检纠错力取决
2信源编码目 信道编码目
3信息组原封动搬码字前位码做
4香农信息中三极限定理
5设信道输入输出机序列分成立
条件
6香农费诺编码原始香农费诺编码哈夫曼编码编码方法惟
7某二元信源失真矩阵该信源
三计算题
1某信源发送端2种符号接收端3种符号转移概率矩阵
（1） 计算接收端均确定度
（2） 计算噪声产生确定度
（3） 计算信道容量佳入口分布
2阶马尔夫信源状态转移图右图示 信源符号集
（1）求信源稳概率分布
（2）求信源熵
（3）似认信源记忆时符号概率分布
稳分布求似信源熵进行较
3设码符号信源空间试构造种三元紧致码
4设二元线性分组码生成矩阵
（1）出该码致校验矩阵写出陪集首相应伴式
（2）接收矢量试计算出应伴式距离译码准
试着译码
（二）
填空题
1信源编码目 信道编码目
2信源剩余度两方面 二
3三进制信源熵 熵
4失真信源编码均码长理极限制
5 时信源信道达匹配
6根信道特性否时间变化信道分
7根否允许失真信源编码分
8连续信源输出信号均功率输出信号幅度概率密度 时信源具熵值值
9面空格中选择填入数学符号
（1）XY相互独立时H（XY） H(X)+H(XY) H(Y)+H(X)
（2）
（3）假设信道输入X表示信道输出Y表示噪损信道中H(XY) 0
H(YX) 0I(XY) H(X)
二连续信源输出幅度限定26区域输出信号概率密度均匀分布时计算该信源相熵说明该信源绝熵少
三已知信源
（1）霍夫曼编码法编成二进制变长码（6分）
（2）计算均码长（4分）
（3）计算编码信息率（2分）
（4）计算编码信息传输率（2分）
（5）计算编码效率（2分）
四某信源输出ABCDE五种符号符号独立出现出现概率分1818181218果符号码元宽度05计算：
（1）信息传输速率（5分）
（2）数通带宽B2000kHz加性白高斯噪声信道传输噪声单边功率谱密度试计算正确传输数少需发送功率P（5分）
五阶马尔夫信源转移概率
(1) 画出状态转移图(4分)
(2) 计算稳态概率(4分)
(3) 计算马尔夫信源极限熵(4分)
(4) 计算稳态应剩余度(4分)
六设扰信道传输情况分图示试求种信道信道容量
七设XY两相互独立二元机变量取01概率相等定义二元机变量ZXY(般积)试计算
(1)
(2)
(3)
(4)
八设离散记忆信源概率空间通干扰信道信道输出端接收符号集信道传输概率图示
(1) 计算信源中事件包含信息量
(2) 计算信源信息熵
(3) 计算信道疑义度
(4) 计算噪声熵
(5) 计算收消息获均互信息量
信息基础参考答案
填空题
1信源编码目提高效性信道编码目提高性
2信源剩余度两方面信源符号间相关性二信源符号统计均匀性
3三进制信源熵0熵bit符号
4失真信源编码均码长理极限制信源熵（H(S)logr Hr(S)）
5RC（信道剩余度0）时信源信道达匹配
6根信道特性否时间变化信道分恒参信道参信道
7根否允许失真信源编码分失真信源编码限失真信源编码
8连续信源输出信号均功率输出信号幅度概率密度高斯分布正态分布时信源具熵值值
9面空格中选择填入数学符号
（1）XY相互独立时H（XY）H(X)+H(XY)H(Y)+H(X)
（2）
（3）假设信道输入X表示信道输出Y表示噪损信道中H(XY)> 0 H(YX)0I(XY)二连续信源输出幅度限定26区域输出信号概率密度均匀分布时计算该信源相熵说明该信源绝熵少
2bit度
该信源绝熵穷
三已知信源
（1）霍夫曼编码法编成二进制变长码（6分）
（2）计算均码长（4分）
（3）计算编码信息率（2分）
（4）计算编码信息传输率（2分）
（5）计算编码效率（2分）
（1）
编码结果：
（2）
（3）
（4）中
（5）
四某信源输出ABCDE五种符号符号独立出现出现概率分1818181218果符号码元宽度05计算：
（1）信息传输速率
（2）数通带宽B2000kHz加性白高斯噪声信道传输噪声单边功率谱密度试计算正确传输数少需发送功率P
解：
（1）
（2）
五阶马尔夫信源转移概率
(1) 画出状态转移图
(2) 计算稳态概率
(3) 计算马尔夫信源极限熵
(4) 计算稳态应剩余度
解：(1)
(2)公式
(3)该马尔夫信源极限熵：
(4)稳态：
应剩余度
六设扰信道传输情况分图示试求种信道信道容量
解：信道传输矩阵
出称信道L4信道容量
七设XY两相互独立二元机变量取01概率相等定义二元机变量ZXY(般积)试计算
(1)
(2)
(3)
(4)
解：(1)
Z
0
1
P(Z)
34
14
(2)
(3)
(4)
八设离散记忆信源概率空间通干扰信道信道输出端接收符号集信道传输概率图示
(6) 计算信源中事件包含信息量
(7) 计算信源信息熵
(8) 计算信道疑义度
(9) 计算噪声熵
(10) 计算收消息获均互信息量
解：
(1)
(2)
(3)转移概率：
x y
y1
y2
x1
56
16
x2
34
14
联合分布：
x y
y1
y2
x1
23
1215
45
x1
320
120
15
4960
1160
15
(4)
(5)
(三)
选择题
1离散记忆信源X概率空间记忆二次扩展信源熵H(X2)( )
A175特符号 B35特符号
C9特符号 D18特符号
2信道转移矩阵中两两相等该信道
A应噪信道
B具性噪信道
C称信道
D具扩展性噪信道
3设信道容量C列说法正确：（ ）
A互信息量定C
B交互熵定C
C效信息量定C
D条件熵定C
4串联系统中效信息量值（ ）
A趋变
B趋变
C变
D确定
5BSC信道差错率P信道容量：（ ）
A
B
C
D
二 填空题
1 (74)线性分组码中接受端收分组R位数____ 伴式S值____ 种差错图案e长度 系统生成矩阵Gs____ 行矩阵系统校验矩阵Hs____ 行矩阵GsHs满足关系式
2 张1024×512素16位彩色BMP图包含信息量
3 香农编码中概率信源符号xi应码字Ci长度Ki应满足等式
3设信道信道矩阵 信道（填称准称）信道容量 特信道符号
三通干扰信道接受符号集信道转移矩阵
试求（1）H(X)H(Y)H(XY)
(2) H(Y|X)H(X|Y)
(3) I(YX)
(4)该信道容量C
（5）均互信息量达信道容量时接收端Y熵H（Y）
计算结果保留数点2位单位特符号
四简述均互信息量物理意义写出应公式
五假设英文字母表(n26)密钥kabc明文mfamilycome时Vigenere密码算法密文c？请写出具体步骤
六设离散记忆信源概率分布：
进行费诺编码写出编码程求出信源熵均码长编码效率
七信道编码
现生成矩阵
1 求应系统校验矩阵Hs
2求该码字集合码字距离d检错力 纠错力t max
2 填写面es表
e
s
0000000
0000001
0000010
0000100
0001000
0010000
0100000
1000000
4 现接收序列求纠错译码输出
5 5 画出该码编码电路
(四)
四 简答题
1 利公式介绍条件熵条件熵联合熵均互信息量间关系
2 简单介绍哈夫曼编码步骤
五 计算题
1． 某信源含三消息概率分p(0)02p(1)03p(2)05失真矩阵
求DmaxDminR (Dmax)
2． 设称离散信道矩阵求信道容量C
3． 稳态马尔夫信源已知转移概率p(S1 S1) 23p(S1 S2) 1求：
(1) 画出状态转移图状态转移概率矩阵
(2) 求出状态稳态概率
(3) 求出信源极限熵
（五）
填空题
（1） 1948年美国数学家 发表题通信数学理长篇文创立信息
（2） 必然事件信息
（3） 离散稳记忆信源XN次扩展信源熵等离散信源X熵
（4） 离散记忆信源信源熵值时满足条件__ _
（5） 香农编码费诺编码霍夫曼编码编码方法惟
（6） 已知某线性分组码汉明距离3组码检测出______码元错误纠正___码元错误
（7） 设离散记忆稳信道信道容量C传送信息传输率R__ __C（者等）
存种编码输入序列长度n足够译码错误概率意
（8） 均错误概率仅信道身统计特性关___ _____________ ___关
二判断题
（1） 信息种消息 （ ）
（2） 信息研究问题通信系统设计中实现信息传输存储处理效性性 （ ）
（3） 概率事件信息量 （ ）
（4） 互信息量正负零 （ ）
（5） 信源剩余度衡量信源相关性程度信源剩余度说明信源符号间赖关系较 （ ）
（6） 固定信源分布均互信息量信道传递概率凸函数 （ ）
（7） 非奇异码定唯译码唯译码定非奇异码 （ ）
（8） 信源变长编码核心问题寻找紧致码（佳码）霍夫曼编码方法构造佳码 （ ）
（9）信息率失真函数R(D)关均失真度D凸函数 ( )
三 居住某区女孩中25学生女学生中75身高16米女孩中身高16米占总数半 假知身高16米某女孩学生消息问获少信息量？
解：设A表示学生事件B表示身高160事件 P(A)025 p(B)05 p(B|A)075
p(A|B)p(AB)p(B)p(A)p(B|A)p(B)075*025050375
I(A|B)log0375142bit
五黑白气象传真图消息黑色白色两种求：
1） 黑色出现概率03白色出现概率07出两符号信源X数学模型假设图黑白消息出现前没关联求熵
2） 假设黑白消息出现前关联赖关系 求熵
3）分求述两种信源冗余度较说明物理意义
六信源空间
试分构造二元香农码二元霍夫曼码计算均码长编码效率（求编码程）
七设离散信道信道传递矩阵设试分验概率准似然译码准确定译码规计算相应均错误概率1）似然译码准
2）（验概率准
八二元称信道图
1）求
2）求该信道信道容量
解：1）6分
2） 时输入概率分布等概率分布
九设线性分组码具致监督矩阵
1）求分组码nk少码字？
2）求分组码生成矩阵G
3）写出分组码码字
4）接收码字（101001）求出伴式出翻译结果
解：1）n6k38码字（3分）
2）设码字
（3分）
令监督位
（3分）
生成矩阵 （2分）
3）码字000000001101010011011110100110101011110101111000（4分）
4）
（2分）该码字第5位发生错误（101001）纠正（101011）译码（101001）（1分）
（六）
概念简答题
1什均信息量均互信息较两概念异？
2简述离散熵定理m符号离散信源熵少？
3解释信息传输率信道容量佳输入分布概念说明均互信息信源概率分布信道传递概率间分什关系？
4般通信系统试出系统模型框图结合图解释数处理定理
5写出香农公式说明物理意义信道带宽5000Hz信噪30dB时求信道容量
6解释失真变长信源编码定理
7解释噪信道编码定理
8什保真度准？二元信源失真矩阵求a>0时率失真函数？
二综合题
1黑白气象传真图消息黑色白色两种求：
1） 黑色出现概率03白色出现概率07出两符号信源X数学模型假设图黑白消息出现前没关联求熵
2） 假设黑白消息出现前关联赖关系：求熵
2二元称信道图
1）求
2）求该信道信道容量佳输入分布
3信源空间试分构造二元三元霍夫曼码计算均码长编码效率
4 设离散信道信道传递矩阵设试分错误概率准似然译码准确定译码规计算相应均错误概率
5 5已知（85）线性分组码生成矩阵
求：1）输入全0001110100时该码码字2）码距
6 设某信号信息传输率56kbits带宽4kHz高斯信道中传输噪声功率谱NO5×10－6mwHz试求：
（1）差错传输需输入功率少？
（2）时输入信号连续熵少？写出应输入概率密度函数形式
答案
概念简答题
1答：均信息
表示信源均确定度表示均信源消息提供信息量
均互信息
表示Y获关X均信息量表示发X前Y均确定性减少量表示通信前整系统确定性减少量
2答：离散熵定理：离散记忆信源等概率分布时熵
熵值
3答：信息传输率R指信道中均符号传送信息量信道容量信道达信息传输率信息传输率达信道容量时应输入概率分布称佳输入概率分布
均互信息信源概率分布∩型凸函数信道传递概率U型凸函数
4答：通信系统模型：
数处理定理：串联信道输入输出XYZ组成马尔夫链说明数处理般会增加信息损失
5答：香农公式高斯加性白噪声信道单位时间信道容量值取决信噪带宽
6答：N足够长时定存种失真编码
7答：R＜C时码长足够长定找种编码方法译码规译码错误概率穷
8答：1）保真度准：均失真度允许失真度
2）失真矩阵中行0
二综合题
1答：1）信源模型
2）
2答：1）
2）佳输入概率分布等概率分布
3答：1）二元码码字序：10110100111010101110001001
均码长编码效率
2）三元码码字序：10002202122010011
均码长编码效率
4答：1）似然译码准
2）错误概率准
5答：1）输入00011时码字00011110输入10100时码字10100101
2）
6答：1）错传输时
2）时熵
应输入概率密度函数
（七）
名词解释（25道）
1体信息（P3） 2认识信息（P3） 3离散信源（11）
4信息量（12） 5离散稳记忆信源（49） 6马尔夫信源（58）
7信源冗余度 （66） 8连续信源 （68） 9信道容量 （95）
10强称信道 （99） 11称信道 （101102）12符号离散信道（109）
13连续信道 （124） 14均失真度 （136） 15实验信道 （138）
16率失真函数 （139） 17信息价值率 （163） 18游程序列 （181）
19游程变换 （181） 20LD编码（184） 21冗余变换 （184）
22BSC信道 （189） 23码距离 （193）24线性分组码 （195）
25循环码 （213）
二填空（100道）
1 认识层次研究信息时候必须时考虑 形式含义效 三方面素
2 1948年美国数学家 香农 发表题通信数学理长篇文创立信息
3 信息性质信息分成 语法信息语义信息语信息
4 信息位信息分成 客观信息观信息
5 研究信息目 高效安全 交换利种样信息
6 信息 度量性 建立信息基础
7 统计度量 信息度量常方法
8 熵 香农信息基重概念
9 事物确定度时间统计发生 概率数 描述
10单符号离散信源般机变量描述符号离散信源般 机矢量 描述
11机事件发生某结果带信息量称信息量定义 发生概率数负值
12信息量单位般 特奈特哈特
13必然事件信息 0
14事件信息量 ∞
15两相互独立机变量联合信息量等 两信息量
16数处理定理：消息级处理着处理器数目增输入消息输出消息间均互信息量 趋变
17离散稳记忆信源XN次扩展信源熵等离散信源X熵 N倍
18离散稳记忆信源极限熵
19n元m阶马尔夫信源状态空间 nm 状态
20维连续变量X[ab]区间均匀分布时信源熵 log2（ba）
21均功率P高斯分布连续信源信源熵Hc（X）
22限峰值功率N维连续信源概率密度 均匀分布 时连续信源熵具值
23限均功率维连续信源概率密度 高斯分布 时信源熵值
24均值0均功率受限连续信源信源冗余度决定均功率限定值P信源熵功率
25离散记忆信源信源熵H（X）等25信源进行等长失真二进制编码编码长度少 3
26m元长度kii12···n异前置码存充条件：
27掷骰子结果作离散信源信源熵 log26
28时掷两正常骰子面呈现概率1635时出现件事信息量 log218（1+2 log23）
29维变量X取值区间[0∞]概率密度函数中：mX数学期X信源熵
30副充分洗乱扑克牌（52张）中意抽取1张然放回程作离散记忆信源信源熵
31根输入输出信号特点信道分成离散信道连续信道半离散半连续 信道
32信道输出仅信道前输入关输入关信道称 记忆 信道
33具应关系噪信道信道容量C log2n
34强称信道信道容量C log2nHni
35称信道信道容量C log2mHmi
36离散记忆信道信源N次扩展信道容量CN NC
37N立联信道信道容量 CN
38户信道信道容量 维空间区域界限 表示
39户信道分成种基类型： 址接入信道广播信道 相关信源信道
40广播信道 输入端输出端 信道
41信道噪声输入干扰作表现噪声输入线性叠加时信道称 加性连续信道
42高斯加性信道信道容量C
43信道编码定理理想编码存性定理：信道失真传递信息条件 信息率信道容量
44信道矩阵代表信道信道容量C 1
45信道矩阵代表信道信道容量C 1
46高斯加性噪声信道中信道带宽3kHz信噪7该信道信息传输速率Ct 9 kHz
47具性燥信道达信道容量条件 p（yj）1m）
48信道矩阵代表信道分钟传递6*105符号该信道信息传输速率Ct 10kHz
49信息率失真理量化数模转换频带压缩 数压缩 理基础
50求解率失真函数问题：定失真度情况求信息率 极值
51信源消息通信道传输误差失真越信宿收消息信源存确定性 越 获信息量越
52信源消息通信道传输误差失真越道传输消息需信息率 越
53单符号失真度失真函数d（xiyj）表示信源发出符号xi信宿现yj引起 误差失真
54汉明失真函数 d（xiyj）
55方误差失真函数d（xiyj）（yj xi）2
56均失真度定义失真函数数学期d（xiyj）XY 联合概率空间P（XY）中 统计均值
57果信源失真度定均失真度 信道统计特性 函数
58果规定均失真度超某限定值D：称 保真度准
59离散记忆N次扩展信源通离散记忆N次扩展信道均失真度单符号信源通单符号信道均失真度 N 倍
60试验信道集合PD表示PD
61信息率失真函数简称率失真函数：试验信道中均互信息量 值
62均失真度限取0条件失真矩阵 行少零元素
63均失真度限Dmax取{Dj：j12···m}中 值
64率失真函数允许均失真度 单调递减连续
65离散记忆信源率失真函数值 log2n
66失真度均失真度限时Dmax时率失真函数R（D） 0
67连续信源X率失真函数R（D）
68时高斯信源均方差失真度信息率失真函数
69保真度准信源编码定理条件 信源信息率R率失真函数R（D）
70某二元信源失真矩阵D该信源Dmax a2
71某二元信源失真矩阵D该信源Dmin 0
72某二元信源失真矩阵D该信源R（D） 1H（Da）
73编码目编码分三类：分 信源编码信道编码安全编码
74信源编码目： 提高通信效性
75般情况信源编码分 离散信源编码连续信源编码相关信源编码
76连续信源模拟信号信源编码理基础 限失真信源编码定理
77香农编码中第i码字长度kip（xi）间 关系
78信源进行二进制费诺编码编码效率 1
79具8消息单符号离散记忆信源进行4进制哈夫曼编码时均码长短应增加 2 概率0消息
80香农编码费诺编码哈夫曼编码编码方法惟 香农编码
81二元序列0011100000011111001111000001111111相应游程序列 23652457
82设记忆二元序列中01概率分p0p10游程长度L（0）概率
83游程序列熵 等 原二元序列熵
840游程哈夫编码效率η01游程哈夫编码效率η1η0>η1应二元序列编码效率η三者关系 η0>η>η1
85实际游程编码程中长码般采取 截断 处理方法
860游程1游程分进行哈夫曼编码两码表中码字重复 C码 必须
87符号消息序列中量重复出现起占时作符号称 冗余位
88冗余变换：冗余序列转换成二元序列 缩短元序列
89LD编码种 分帧传送冗余位序列 方法
90LD编码适合冗余位 较较少 情况
91信道编码终目 提高信号传输性
92狭义信道编码：检纠错编码
93BSC信道：记忆二进制称信道
94n位重复码编码效率 1n
95等重码检验 全部奇数位错部分偶数位错
96意两码字间汉明距离称码距dmindmin
97纠错码距离dmin纠正意等t 差错
98检错码距离dmin检测出意等l dmin1 差错
99线性分组码时具 分组特性线性特性 纠错码
100循环码采 循环移位特性界定 类线性分组码
三判断（50道）
1 必然事件事件信息量0 错
2 信息量单调递减函数
3 单符号离散信源信息信源熵具非负性
4 单符号离散信源信息信源熵确定值错
5 单符号离散信源联合信息量条件信息量非负单调递减
6 信息量条件信息量联合信息量间关系：
7 信息量条件信息量互信息量间关系：
8 变量XY相互独立时条件熵等信源熵
9 变量XY相互独立时I（XY）H（X） 错
10信源熵具严格凸性错
11均互信息量I（XY）信源概率分布p（xi）条件概率分布p（yjxi）具凸函数性
12m阶马尔夫信源消息长度m记忆信源含符号赖关系相 错
13利状态极限概率状态步转移概率求m阶马尔夫信源极限熵
14N维统计独立均匀分布连续信源熵N维区域体积数
15维高斯分布连续信源信源熵均值方差关 错
16连续信源离散信源熵具非负性 错
17连续信源离散信源具加性
18连续信源离散信源均互信息具非负性
19定长编码效率般定长编码效率
20离散信源（熵H（X））进行二进制失真编码设定长码子长度K变长码子均长度般>K 错
21信道容量CI（XY）关p（xi）条件极值
22离散噪信道信道容量等log2n中n信源X消息数 错
23准称信道时达信道容量C错
24户信道信道容量数代表
25户信道信道容量数代表信道信息率数表示错
26高斯加性信道信道容量信道信噪关
27信道失真传递信息条件信息率信道容量
28信息传输速率：选择某信源概率分布（p（xi））信道传送信息率值 错
29具性燥信道信源等概率分布时（p（xi）1n）达信道容量 错
30求解率失真函数问题：定失真度情况求信息率极值
31信源消息通信道传输误差失真越信宿收消息信源存确定性越获信息量越 错
32p（xi）p（yjxi）d（xiyj）定均失真度变量 错
33率失真函数允许均失真度具凸性
34率失真函数没值 错
35率失真函数值0
36率失真函数值信源输入概率关错
37信源编码提高通信效性目编码
38信源编码通常通压缩信源冗余度实现
39离散信源数字信号信源编码理基础限失真信源编码定理 错
40般情况哈夫曼编码效率香农编码费诺编码
41编m（m>2）进制哈夫曼码时考虑否需增加概率0码字均码长短
42游程序列熵（0游程序列熵1游程序列熵）等原二元序列熵 错
43游程编码程中0游程1游程应分编码码字重复 错
44LD编码适合冗余位较较少情况否压缩码率反扩张
45狭义信道编码指：信道检纠错编码
46BSC信道信道编码应编码消息m长度等码字c长度 错
47等重码奇（偶）校验码检出全部奇数位错
48汉明码种线性分组码
49循环码种线性分组码
50卷积码种特殊线性分组码 错
四简答（20道）
1 信息特征？（4）
2 信息重性质？（4）
3 简述种信息分类准方法（5）
4 信息研究容？（8）
5 简述信息性质（13）
6 简述信源熵基性质（23）
7 简述信源熵条件熵联合熵交互熵间关系（48）
8 信道分类方法？（9394）
9 简述般离散信道容量计算步骤（107）
10简述户信道分类（115116）
11简述信道编码定理（128）
12简述率失真函数性质（140145）
13简述求解般离散信源率失真函数步骤（146149）
14试较信道容量信息率失真函数（164）
15简述编码分累种编码目（168）
16简述费诺编码编码步骤（170）
17简述二元哈夫曼编码编码步骤（173）
18简述广义信道编码分类类编码作（188）
19简述线性分组码性质（196）
20简述循环码系统码构造程（221）
文档香网(httpswwwxiangdangnet)户传
《香当网》用户分享的内容，不代表《香当网》观点或立场，请自行判断内容的真实性和可靠性！
该内容是文档的文本内容，更好的格式请下载文档
（）
判断题
1 机变量相互独立时条件熵等信源熵 （ ）
2 构成空间基底唯基底生成矩阵生成码集 （ ）
3般情况变长编码均码长定长编码 （ ）
4 信息传输率信道容量总存种信道编译码求意误差概率实现通信 （ ）
5 码字长度符合克拉夫特等式唯译码存充分必条件 （ ）
6 连续信源离散信源熵具非负性 （ ）
7 信源消息通信道传输误差失真越信宿收消息信源存确
定性越获信息量越
8 汉明码种线性分组码 （ ）
9 率失真函数值 （ ）
10必然事件事件信息量 （ ）
二填空题
1码检纠错力取决
2信源编码目 信道编码目
3信息组原封动搬码字前位码做
4香农信息中三极限定理
5设信道输入输出机序列分成立
条件
6香农费诺编码原始香农费诺编码哈夫曼编码编码方法惟
7某二元信源失真矩阵该信源
三计算题
1某信源发送端2种符号接收端3种符号转移概率矩阵
（1） 计算接收端均确定度
（2） 计算噪声产生确定度
（3） 计算信道容量佳入口分布
2阶马尔夫信源状态转移图右图示 信源符号集
（1）求信源稳概率分布
（2）求信源熵
（3）似认信源记忆时符号概率分布
稳分布求似信源熵进行较
3设码符号信源空间试构造种三元紧致码
4设二元线性分组码生成矩阵
（1）出该码致校验矩阵写出陪集首相应伴式
（2）接收矢量试计算出应伴式距离译码准
试着译码
（二）
填空题
1信源编码目 信道编码目
2信源剩余度两方面 二
3三进制信源熵 熵
4失真信源编码均码长理极限制
5 时信源信道达匹配
6根信道特性否时间变化信道分
7根否允许失真信源编码分
8连续信源输出信号均功率输出信号幅度概率密度 时信源具熵值值
9面空格中选择填入数学符号
（1）XY相互独立时H（XY） H(X)+H(XY) H(Y)+H(X)
（2）
（3）假设信道输入X表示信道输出Y表示噪损信道中H(XY) 0
H(YX) 0I(XY) H(X)
二连续信源输出幅度限定26区域输出信号概率密度均匀分布时计算该信源相熵说明该信源绝熵少
三已知信源
（1）霍夫曼编码法编成二进制变长码（6分）
（2）计算均码长（4分）
（3）计算编码信息率（2分）
（4）计算编码信息传输率（2分）
（5）计算编码效率（2分）
四某信源输出ABCDE五种符号符号独立出现出现概率分1818181218果符号码元宽度05计算：
（1）信息传输速率（5分）
（2）数通带宽B2000kHz加性白高斯噪声信道传输噪声单边功率谱密度试计算正确传输数少需发送功率P（5分）
五阶马尔夫信源转移概率
(1) 画出状态转移图(4分)
(2) 计算稳态概率(4分)
(3) 计算马尔夫信源极限熵(4分)
(4) 计算稳态应剩余度(4分)
六设扰信道传输情况分图示试求种信道信道容量
七设XY两相互独立二元机变量取01概率相等定义二元机变量ZXY(般积)试计算
(1)
(2)
(3)
(4)
八设离散记忆信源概率空间通干扰信道信道输出端接收符号集信道传输概率图示
(1) 计算信源中事件包含信息量
(2) 计算信源信息熵
(3) 计算信道疑义度
(4) 计算噪声熵
(5) 计算收消息获均互信息量
信息基础参考答案
填空题
1信源编码目提高效性信道编码目提高性
2信源剩余度两方面信源符号间相关性二信源符号统计均匀性
3三进制信源熵0熵bit符号
4失真信源编码均码长理极限制信源熵（H(S)logr Hr(S)）
5RC（信道剩余度0）时信源信道达匹配
6根信道特性否时间变化信道分恒参信道参信道
7根否允许失真信源编码分失真信源编码限失真信源编码
8连续信源输出信号均功率输出信号幅度概率密度高斯分布正态分布时信源具熵值值
9面空格中选择填入数学符号
（1）XY相互独立时H（XY）H(X)+H(XY)H(Y)+H(X)
（2）
（3）假设信道输入X表示信道输出Y表示噪损信道中H(XY)> 0 H(YX)0I(XY)
2bit度
该信源绝熵穷
三已知信源
（1）霍夫曼编码法编成二进制变长码（6分）
（2）计算均码长（4分）
（3）计算编码信息率（2分）
（4）计算编码信息传输率（2分）
（5）计算编码效率（2分）
（1）
编码结果：
（2）
（3）
（4）中
（5）
四某信源输出ABCDE五种符号符号独立出现出现概率分1818181218果符号码元宽度05计算：
（1）信息传输速率
（2）数通带宽B2000kHz加性白高斯噪声信道传输噪声单边功率谱密度试计算正确传输数少需发送功率P
解：
（1）
（2）
五阶马尔夫信源转移概率
(1) 画出状态转移图
(2) 计算稳态概率
(3) 计算马尔夫信源极限熵
(4) 计算稳态应剩余度
解：(1)
(2)公式
(3)该马尔夫信源极限熵：
(4)稳态：
应剩余度
六设扰信道传输情况分图示试求种信道信道容量
解：信道传输矩阵
出称信道L4信道容量
七设XY两相互独立二元机变量取01概率相等定义二元机变量ZXY(般积)试计算
(1)
(2)
(3)
(4)
解：(1)
Z
0
1
P(Z)
34
14
(2)
(3)
(4)
八设离散记忆信源概率空间通干扰信道信道输出端接收符号集信道传输概率图示
(6) 计算信源中事件包含信息量
(7) 计算信源信息熵
(8) 计算信道疑义度
(9) 计算噪声熵
(10) 计算收消息获均互信息量
解：
(1)
(2)
(3)转移概率：
x y
y1
y2
x1
56
16
x2
34
14
联合分布：
x y
y1
y2
x1
23
1215
45
x1
320
120
15
4960
1160
15
(4)
(5)
(三)
选择题
1离散记忆信源X概率空间记忆二次扩展信源熵H(X2)( )
A175特符号 B35特符号
C9特符号 D18特符号
2信道转移矩阵中两两相等该信道
A应噪信道
B具性噪信道
C称信道
D具扩展性噪信道
3设信道容量C列说法正确：（ ）
A互信息量定C
B交互熵定C
C效信息量定C
D条件熵定C
4串联系统中效信息量值（ ）
A趋变
B趋变
C变
D确定
5BSC信道差错率P信道容量：（ ）
A
B
C
D
二 填空题
1 (74)线性分组码中接受端收分组R位数____ 伴式S值____ 种差错图案e长度 系统生成矩阵Gs____ 行矩阵系统校验矩阵Hs____ 行矩阵GsHs满足关系式
2 张1024×512素16位彩色BMP图包含信息量
3 香农编码中概率信源符号xi应码字Ci长度Ki应满足等式
3设信道信道矩阵 信道（填称准称）信道容量 特信道符号
三通干扰信道接受符号集信道转移矩阵
试求（1）H(X)H(Y)H(XY)
(2) H(Y|X)H(X|Y)
(3) I(YX)
(4)该信道容量C
（5）均互信息量达信道容量时接收端Y熵H（Y）
计算结果保留数点2位单位特符号
四简述均互信息量物理意义写出应公式
五假设英文字母表(n26)密钥kabc明文mfamilycome时Vigenere密码算法密文c？请写出具体步骤
六设离散记忆信源概率分布：
进行费诺编码写出编码程求出信源熵均码长编码效率
七信道编码
现生成矩阵
1 求应系统校验矩阵Hs
2求该码字集合码字距离d检错力 纠错力t max
2 填写面es表
e
s
0000000
0000001
0000010
0000100
0001000
0010000
0100000
1000000
4 现接收序列求纠错译码输出
5 5 画出该码编码电路
(四)
四 简答题
1 利公式介绍条件熵条件熵联合熵均互信息量间关系
2 简单介绍哈夫曼编码步骤
五 计算题
1． 某信源含三消息概率分p(0)02p(1)03p(2)05失真矩阵
求DmaxDminR (Dmax)
2． 设称离散信道矩阵求信道容量C
3． 稳态马尔夫信源已知转移概率p(S1 S1) 23p(S1 S2) 1求：
(1) 画出状态转移图状态转移概率矩阵
(2) 求出状态稳态概率
(3) 求出信源极限熵
（五）
填空题
（1） 1948年美国数学家 发表题通信数学理长篇文创立信息
（2） 必然事件信息
（3） 离散稳记忆信源XN次扩展信源熵等离散信源X熵
（4） 离散记忆信源信源熵值时满足条件__ _
（5） 香农编码费诺编码霍夫曼编码编码方法惟
（6） 已知某线性分组码汉明距离3组码检测出______码元错误纠正___码元错误
（7） 设离散记忆稳信道信道容量C传送信息传输率R__ __C（者等）
存种编码输入序列长度n足够译码错误概率意
（8） 均错误概率仅信道身统计特性关___ _____________ ___关
二判断题
（1） 信息种消息 （ ）
（2） 信息研究问题通信系统设计中实现信息传输存储处理效性性 （ ）
（3） 概率事件信息量 （ ）
（4） 互信息量正负零 （ ）
（5） 信源剩余度衡量信源相关性程度信源剩余度说明信源符号间赖关系较 （ ）
（6） 固定信源分布均互信息量信道传递概率凸函数 （ ）
（7） 非奇异码定唯译码唯译码定非奇异码 （ ）
（8） 信源变长编码核心问题寻找紧致码（佳码）霍夫曼编码方法构造佳码 （ ）
（9）信息率失真函数R(D)关均失真度D凸函数 ( )
三 居住某区女孩中25学生女学生中75身高16米女孩中身高16米占总数半 假知身高16米某女孩学生消息问获少信息量？
解：设A表示学生事件B表示身高160事件 P(A)025 p(B)05 p(B|A)075
p(A|B)p(AB)p(B)p(A)p(B|A)p(B)075*025050375
I(A|B)log0375142bit
五黑白气象传真图消息黑色白色两种求：
1） 黑色出现概率03白色出现概率07出两符号信源X数学模型假设图黑白消息出现前没关联求熵
2） 假设黑白消息出现前关联赖关系 求熵
3）分求述两种信源冗余度较说明物理意义
六信源空间
试分构造二元香农码二元霍夫曼码计算均码长编码效率（求编码程）
七设离散信道信道传递矩阵设试分验概率准似然译码准确定译码规计算相应均错误概率1）似然译码准
2）（验概率准
八二元称信道图
1）求
2）求该信道信道容量
解：1）6分
2） 时输入概率分布等概率分布
九设线性分组码具致监督矩阵
1）求分组码nk少码字？
2）求分组码生成矩阵G
3）写出分组码码字
4）接收码字（101001）求出伴式出翻译结果
解：1）n6k38码字（3分）
2）设码字
（3分）
令监督位
（3分）
生成矩阵 （2分）
3）码字000000001101010011011110100110101011110101111000（4分）
4）
（2分）该码字第5位发生错误（101001）纠正（101011）译码（101001）（1分）
（六）
概念简答题
1什均信息量均互信息较两概念异？
2简述离散熵定理m符号离散信源熵少？
3解释信息传输率信道容量佳输入分布概念说明均互信息信源概率分布信道传递概率间分什关系？
4般通信系统试出系统模型框图结合图解释数处理定理
5写出香农公式说明物理意义信道带宽5000Hz信噪30dB时求信道容量
6解释失真变长信源编码定理
7解释噪信道编码定理
8什保真度准？二元信源失真矩阵求a>0时率失真函数？
二综合题
1黑白气象传真图消息黑色白色两种求：
1） 黑色出现概率03白色出现概率07出两符号信源X数学模型假设图黑白消息出现前没关联求熵
2） 假设黑白消息出现前关联赖关系：求熵
2二元称信道图
1）求
2）求该信道信道容量佳输入分布
3信源空间试分构造二元三元霍夫曼码计算均码长编码效率
4 设离散信道信道传递矩阵设试分错误概率准似然译码准确定译码规计算相应均错误概率
5 5已知（85）线性分组码生成矩阵
求：1）输入全0001110100时该码码字2）码距
6 设某信号信息传输率56kbits带宽4kHz高斯信道中传输噪声功率谱NO5×10－6mwHz试求：
（1）差错传输需输入功率少？
（2）时输入信号连续熵少？写出应输入概率密度函数形式
答案
概念简答题
1答：均信息
表示信源均确定度表示均信源消息提供信息量
均互信息
表示Y获关X均信息量表示发X前Y均确定性减少量表示通信前整系统确定性减少量
2答：离散熵定理：离散记忆信源等概率分布时熵
熵值
3答：信息传输率R指信道中均符号传送信息量信道容量信道达信息传输率信息传输率达信道容量时应输入概率分布称佳输入概率分布
均互信息信源概率分布∩型凸函数信道传递概率U型凸函数
4答：通信系统模型：
数处理定理：串联信道输入输出XYZ组成马尔夫链说明数处理般会增加信息损失
5答：香农公式高斯加性白噪声信道单位时间信道容量值取决信噪带宽
6答：N足够长时定存种失真编码
7答：R＜C时码长足够长定找种编码方法译码规译码错误概率穷
8答：1）保真度准：均失真度允许失真度
2）失真矩阵中行0
二综合题
1答：1）信源模型
2）
2答：1）
2）佳输入概率分布等概率分布
3答：1）二元码码字序：10110100111010101110001001
均码长编码效率
2）三元码码字序：10002202122010011
均码长编码效率
4答：1）似然译码准
2）错误概率准
5答：1）输入00011时码字00011110输入10100时码字10100101
2）
6答：1）错传输时
2）时熵
应输入概率密度函数
（七）
名词解释（25道）
1体信息（P3） 2认识信息（P3） 3离散信源（11）
4信息量（12） 5离散稳记忆信源（49） 6马尔夫信源（58）
7信源冗余度 （66） 8连续信源 （68） 9信道容量 （95）
10强称信道 （99） 11称信道 （101102）12符号离散信道（109）
13连续信道 （124） 14均失真度 （136） 15实验信道 （138）
16率失真函数 （139） 17信息价值率 （163） 18游程序列 （181）
19游程变换 （181） 20LD编码（184） 21冗余变换 （184）
22BSC信道 （189） 23码距离 （193）24线性分组码 （195）
25循环码 （213）
二填空（100道）
1 认识层次研究信息时候必须时考虑 形式含义效 三方面素
2 1948年美国数学家 香农 发表题通信数学理长篇文创立信息
3 信息性质信息分成 语法信息语义信息语信息
4 信息位信息分成 客观信息观信息
5 研究信息目 高效安全 交换利种样信息
6 信息 度量性 建立信息基础
7 统计度量 信息度量常方法
8 熵 香农信息基重概念
9 事物确定度时间统计发生 概率数 描述
10单符号离散信源般机变量描述符号离散信源般 机矢量 描述
11机事件发生某结果带信息量称信息量定义 发生概率数负值
12信息量单位般 特奈特哈特
13必然事件信息 0
14事件信息量 ∞
15两相互独立机变量联合信息量等 两信息量
16数处理定理：消息级处理着处理器数目增输入消息输出消息间均互信息量 趋变
17离散稳记忆信源XN次扩展信源熵等离散信源X熵 N倍
18离散稳记忆信源极限熵
19n元m阶马尔夫信源状态空间 nm 状态
20维连续变量X[ab]区间均匀分布时信源熵 log2（ba）
21均功率P高斯分布连续信源信源熵Hc（X）
22限峰值功率N维连续信源概率密度 均匀分布 时连续信源熵具值
23限均功率维连续信源概率密度 高斯分布 时信源熵值
24均值0均功率受限连续信源信源冗余度决定均功率限定值P信源熵功率
25离散记忆信源信源熵H（X）等25信源进行等长失真二进制编码编码长度少 3
26m元长度kii12···n异前置码存充条件：
27掷骰子结果作离散信源信源熵 log26
28时掷两正常骰子面呈现概率1635时出现件事信息量 log218（1+2 log23）
29维变量X取值区间[0∞]概率密度函数中：mX数学期X信源熵
30副充分洗乱扑克牌（52张）中意抽取1张然放回程作离散记忆信源信源熵
31根输入输出信号特点信道分成离散信道连续信道半离散半连续 信道
32信道输出仅信道前输入关输入关信道称 记忆 信道
33具应关系噪信道信道容量C log2n
34强称信道信道容量C log2nHni
35称信道信道容量C log2mHmi
36离散记忆信道信源N次扩展信道容量CN NC
37N立联信道信道容量 CN
38户信道信道容量 维空间区域界限 表示
39户信道分成种基类型： 址接入信道广播信道 相关信源信道
40广播信道 输入端输出端 信道
41信道噪声输入干扰作表现噪声输入线性叠加时信道称 加性连续信道
42高斯加性信道信道容量C
43信道编码定理理想编码存性定理：信道失真传递信息条件 信息率信道容量
44信道矩阵代表信道信道容量C 1
45信道矩阵代表信道信道容量C 1
46高斯加性噪声信道中信道带宽3kHz信噪7该信道信息传输速率Ct 9 kHz
47具性燥信道达信道容量条件 p（yj）1m）
48信道矩阵代表信道分钟传递6*105符号该信道信息传输速率Ct 10kHz
49信息率失真理量化数模转换频带压缩 数压缩 理基础
50求解率失真函数问题：定失真度情况求信息率 极值
51信源消息通信道传输误差失真越信宿收消息信源存确定性 越 获信息量越
52信源消息通信道传输误差失真越道传输消息需信息率 越
53单符号失真度失真函数d（xiyj）表示信源发出符号xi信宿现yj引起 误差失真
54汉明失真函数 d（xiyj）
55方误差失真函数d（xiyj）（yj xi）2
56均失真度定义失真函数数学期d（xiyj）XY 联合概率空间P（XY）中 统计均值
57果信源失真度定均失真度 信道统计特性 函数
58果规定均失真度超某限定值D：称 保真度准
59离散记忆N次扩展信源通离散记忆N次扩展信道均失真度单符号信源通单符号信道均失真度 N 倍
60试验信道集合PD表示PD
61信息率失真函数简称率失真函数：试验信道中均互信息量 值
62均失真度限取0条件失真矩阵 行少零元素
63均失真度限Dmax取{Dj：j12···m}中 值
64率失真函数允许均失真度 单调递减连续
65离散记忆信源率失真函数值 log2n
66失真度均失真度限时Dmax时率失真函数R（D） 0
67连续信源X率失真函数R（D）
68时高斯信源均方差失真度信息率失真函数
69保真度准信源编码定理条件 信源信息率R率失真函数R（D）
70某二元信源失真矩阵D该信源Dmax a2
71某二元信源失真矩阵D该信源Dmin 0
72某二元信源失真矩阵D该信源R（D） 1H（Da）
73编码目编码分三类：分 信源编码信道编码安全编码
74信源编码目： 提高通信效性
75般情况信源编码分 离散信源编码连续信源编码相关信源编码
76连续信源模拟信号信源编码理基础 限失真信源编码定理
77香农编码中第i码字长度kip（xi）间 关系
78信源进行二进制费诺编码编码效率 1
79具8消息单符号离散记忆信源进行4进制哈夫曼编码时均码长短应增加 2 概率0消息
80香农编码费诺编码哈夫曼编码编码方法惟 香农编码
81二元序列0011100000011111001111000001111111相应游程序列 23652457
82设记忆二元序列中01概率分p0p10游程长度L（0）概率
83游程序列熵 等 原二元序列熵
840游程哈夫编码效率η01游程哈夫编码效率η1η0>η1应二元序列编码效率η三者关系 η0>η>η1
85实际游程编码程中长码般采取 截断 处理方法
860游程1游程分进行哈夫曼编码两码表中码字重复 C码 必须
87符号消息序列中量重复出现起占时作符号称 冗余位
88冗余变换：冗余序列转换成二元序列 缩短元序列
89LD编码种 分帧传送冗余位序列 方法
90LD编码适合冗余位 较较少 情况
91信道编码终目 提高信号传输性
92狭义信道编码：检纠错编码
93BSC信道：记忆二进制称信道
94n位重复码编码效率 1n
95等重码检验 全部奇数位错部分偶数位错
96意两码字间汉明距离称码距dmindmin
97纠错码距离dmin纠正意等t 差错
98检错码距离dmin检测出意等l dmin1 差错
99线性分组码时具 分组特性线性特性 纠错码
100循环码采 循环移位特性界定 类线性分组码
三判断（50道）
1 必然事件事件信息量0 错
2 信息量单调递减函数
3 单符号离散信源信息信源熵具非负性
4 单符号离散信源信息信源熵确定值错
5 单符号离散信源联合信息量条件信息量非负单调递减
6 信息量条件信息量联合信息量间关系：
7 信息量条件信息量互信息量间关系：
8 变量XY相互独立时条件熵等信源熵
9 变量XY相互独立时I（XY）H（X） 错
10信源熵具严格凸性错
11均互信息量I（XY）信源概率分布p（xi）条件概率分布p（yjxi）具凸函数性
12m阶马尔夫信源消息长度m记忆信源含符号赖关系相 错
13利状态极限概率状态步转移概率求m阶马尔夫信源极限熵
14N维统计独立均匀分布连续信源熵N维区域体积数
15维高斯分布连续信源信源熵均值方差关 错
16连续信源离散信源熵具非负性 错
17连续信源离散信源具加性
18连续信源离散信源均互信息具非负性
19定长编码效率般定长编码效率
20离散信源（熵H（X））进行二进制失真编码设定长码子长度K变长码子均长度般>K 错
21信道容量CI（XY）关p（xi）条件极值
22离散噪信道信道容量等log2n中n信源X消息数 错
23准称信道时达信道容量C错
24户信道信道容量数代表
25户信道信道容量数代表信道信息率数表示错
26高斯加性信道信道容量信道信噪关
27信道失真传递信息条件信息率信道容量
28信息传输速率：选择某信源概率分布（p（xi））信道传送信息率值 错
29具性燥信道信源等概率分布时（p（xi）1n）达信道容量 错
30求解率失真函数问题：定失真度情况求信息率极值
31信源消息通信道传输误差失真越信宿收消息信源存确定性越获信息量越 错
32p（xi）p（yjxi）d（xiyj）定均失真度变量 错
33率失真函数允许均失真度具凸性
34率失真函数没值 错
35率失真函数值0
36率失真函数值信源输入概率关错
37信源编码提高通信效性目编码
38信源编码通常通压缩信源冗余度实现
39离散信源数字信号信源编码理基础限失真信源编码定理 错
40般情况哈夫曼编码效率香农编码费诺编码
41编m（m>2）进制哈夫曼码时考虑否需增加概率0码字均码长短
42游程序列熵（0游程序列熵1游程序列熵）等原二元序列熵 错
43游程编码程中0游程1游程应分编码码字重复 错
44LD编码适合冗余位较较少情况否压缩码率反扩张
45狭义信道编码指：信道检纠错编码
46BSC信道信道编码应编码消息m长度等码字c长度 错
47等重码奇（偶）校验码检出全部奇数位错
48汉明码种线性分组码
49循环码种线性分组码
50卷积码种特殊线性分组码 错
四简答（20道）
1 信息特征？（4）
2 信息重性质？（4）
3 简述种信息分类准方法（5）
4 信息研究容？（8）
5 简述信息性质（13）
6 简述信源熵基性质（23）
7 简述信源熵条件熵联合熵交互熵间关系（48）
8 信道分类方法？（9394）
9 简述般离散信道容量计算步骤（107）
10简述户信道分类（115116）
11简述信道编码定理（128）
12简述率失真函数性质（140145）
13简述求解般离散信源率失真函数步骤（146149）
14试较信道容量信息率失真函数（164）
15简述编码分累种编码目（168）
16简述费诺编码编码步骤（170）
17简述二元哈夫曼编码编码步骤（173）
18简述广义信道编码分类类编码作（188）
19简述线性分组码性质（196）
20简述循环码系统码构造程（221）
文档香网(httpswwwxiangdangnet)户传
《香当网》用户分享的内容，不代表《香当网》观点或立场，请自行判断内容的真实性和可靠性！
该内容是文档的文本内容，更好的格式请下载文档
