失真信源中信源输出 H(X) 度量失真信源中信源输出 R(D) 度量
1 通信系统做传输信息效保密必须首先 信源 编码
然_____加密____编码______信道_____编码送入信道
2 带限AWGN波形信道均功率受限条件信道容量基公式名香农公式化信道容量CW趋零时信道完全丧失通信力时EbN0 16 dB称作香农限切编码方式达理极限
3 保密系统密钥量越密钥熵H(K)越 密文中含关明文信息量I(MC)越
4 已知n=7循环码信息位长度k 3 校验项式
h(x)
5 设输入符号表X={01}输出符号表Y={01}输入信号概率分布p=(1212)失真函数d(00) d(11) 0d(01) 2d(10) 1Dmin= 0 R(Dmin)= 1bitsymbol 相应编码器转移概率矩阵[p(yx)]=Dmax= 05 R(Dmax)= 0 相应编码器转移概率矩阵[p(yx)]=
6 已知户ARSA公开密钥(en)(355) 40 秘密密钥(dn)=(2755) 户B户A发送m2加密消息该加密消息 8
二判断题
1 克劳夫特等式作唯译码存判 (Ö )
2 线性码定包含全零码 (Ö )
3 算术编码种失真分组信源编码基思想定精度数值作序列
编码外种形式实现佳统计匹配编码 (×)
4 某信源否输出符号符号具某概率特性信息量
(×)
5 离散稳记忆信源符号序列均符号熵着序列长度L增增 (×)
6 限均功率熵定理指出相关矩阵定机矢量X正态分布时具
熵 (Ö )
7 循环码码集中码字循环移位码字 (Ö )
8 信道容量信道中够传输信息量 (×)
9 香农信源编码方法进行编码时需预先计算码字长度 (×)
10 已知收码R条件找出性发码作译码估计值种译码方
法做佳译码 (Ö )
三计算题
某系统(74)码
三位校验位信息位关系:
(1)求应生成矩阵校验矩阵
(2)计算该码距离
(3)列出纠差错图案应伴式
(4)接收码字R1110011求发码
解:1
2 dmin3
3
S
E
000
0000000
001
0000001
010
0000010
100
0000100
101
0001000
111
0010000
011
0100000
110
1000000
4 RHT[001] 接收出错
E0000001 R+EC 1110010 (发码)
四计算题
已知联合概率:
求
解
0918 bitsymbol
1585 bitsymbol
0251 bitsymbol
五计算题
阶齐次马尔夫信源消息集
状态集令条件转移概率
(1)画出该马氏链状态转移图
(2)计算信源极限熵
解:(1)
(2)→
H(X|S1) H(141412)15特符号
H(X|S2)H(131313)1585特符号
H(X|S3)H(2313) 0918特符号
特符号
六计算题
信源秒钟发出255信源符号
信源输出符号送入某二元信道中进行传输
(假设信道噪损容量1bit二元符号)
信道秒钟传递2二元符号
(1) 试问信源通编码(x1®0x2®1信道中传输)
(2) 否直接信道连接?
(3) 通适编码否信道中进行失真传输?
(4) 试构造种哈夫曼编码(两符号起编码)
(5) 该信源信道中失真传输
解:1时信源符号通01信道中传输255二元符号s>2二元符号s
2 信息率进行较 255* 184 < 1*2
进行失真传输
3
156 二元符号2信源符号
时 1562*2551989二元符号s < 2二元符号s
七计算题
两BSC信道级联右图示:
(1)写出信道转移矩阵
(2)求信道信道容量
解: (1)
(2)
信息理编码试卷A答案中南学考试试卷
200 2010 学年 学期期末考试试题 时间100分钟
信息基础 课程 32 学时 学分 考试形式: 闭 卷
专业年级: 通信07级 总分100分占总评成绩70
注:页作答题纸请答案写答题纸
填空题(题20分题2分)
1 失真信源编码中心务编码信息率压缩接 1 限失真压缩中心务定失真度条件信息率压缩接 2
2信息应代数理统计方法研究信息传输存储处理科学称 3 1948年香农贝尔杂志发表两篇关通信数学理文章该文熵信源 4 度量时衡量 5 尺度表现通信领域里发送端发送什确定量通信道传输接收端收信息发送端发送什然存确定量两确定量差值 6 表示表现通信信道流通 7 取值通信线路 8 取值 9
3 分组码H阵列列线性关数n纠错码距离dmin 10
二 简答题 (题20分题4分)
1 根信息理前失真压宿压宿空间速度两方研究价值?
2 知道猫(调制解调器俗称)模拟链路传输数字数设备音频电话线传输二进制数没太高错误率现网猫速度已达56Kbps果网络蚂蚁软件网载东西时会发现时候网络传输速度低远低56Kbps(通常音频电话连接支持频率范围300Hz3300Hz般链路典型信噪30dB)(摘中新网)
3 结合信息课程针信息研究象说明样研究象
4 纠错编码基原理分析列两种生成矩阵形成线性分组码优劣
(1) (2)
5 新华社电2008年 5月16日午6时半离汶川震发生整整100时虚弱已昏迷刘德云救援官兵抬出时女目光指左手腕女扑发现父亲左手腕歪歪扭扭写着句话:欠王老3000元
请列出面段话中 信号 消息 信息
三 计算编码题(题60分)
1 量统计资料知道男性中红绿色盲发病率7女性发病率05(10分)
(1) 问位女士:否色盲?回答否问两回答中含少信息量?计算结果出什结?
(2) 果问位女士问回答(否)前均确定性回答(否)信息量少?
2.黑白气象传真图消息黑色白色两种信源X{黑白}设黑色出现概率P(黑) 05白色出现概率P(白) 05(10分)
(1) 假设图黑白消息出现前没关联求信源H∞熵
(2) 假设消息前关联赖关系P(白白) 08P(黑白) 02P(白黑) 04P(黑黑) 06求信源H∞熵
(3) 较面两H∞说明物理含义
3. 离散记忆信源 P(x1)816 P(x2) 316 P(x3) 416 P(x4)116(10分)
(1) 计算信源逐符号进行二元定长编码码长编码效率
(2) 信源编二进制哈夫曼码计算均码长编码效率
(3) 哈夫曼码实现新信源等概理解
4.设二元称信道传递矩阵
P(0) 34 P(1) 14求该信道信道容量达信道容量时输入概率分布说明物理含义(10分)
5.设信源通干扰信道接收符号Y { y1 y2 }信道转移矩阵求:(10分)
(1) 收消息yj (j1)获关xi (i2)信息量
(2) 信源X信宿Y信息熵信道疑义度H(XY)噪声熵H(YX)
(3) 接收信息Y获均互信息量
6二元(74)汉明码校验矩阵H:(10分)
(1)写出系统生成矩阵G列出错误形式伴矢量表发现间什联系没表译码
(2)收矢量0000011请列出编码发送矢量差错矢量编码前信息矢量
填空题 (空2分20分)
1.设X取值受限限区间[ab]X服 均匀 分布时熵达X均值方差受限X服 高斯 分布时熵达
2.信息等式:意实数仅时等式成立
3.设信源X{01}P(0)18信源熵 特符号信源发出m0(100m)1构成序列序列信息量特符号
4.离散称信道输入等概率时输出 等概 分布
5.根码字含码元数编码分 定长 编码 变长 编码
6.设DMS二元符号表进行定长编码编码{000001010011100101}编码器输出码元维概率 0747 0253
二简答题(30分)
1. 设信源试求(1)信源熵信息含量效率冗余度
(2) 求二次扩展信源概率空间熵
解:
(1)
(2)二次扩展信源概率空间:
X\X
116
316
316
916
2. 什损失熵噪声熵?什损信道确定信道?输入输出分信道容量少?
答:H(X|Y)称信道疑义度损失熵损失熵零信道损信道信道容量logr
H(Y|X)称信道噪声熵噪声熵零信道确定信道信道容量logs
3. 信源编码信道编码目什?
答:信源编码作:
(1)符号变换:信源输出符号信道输入符号相匹配
(2)冗余度压缩:编码新信源概率均匀化信息含量效率等接100
信道编码作:降低均差错率
4. 什香农容量公式?保证足够信道容量采两种方法?
答:香农信道容量公式:B白噪声频带限制常数输入X(t)均功率受限
保证足够信道容量采(1)频带换信噪(2)信噪换频带
5. 什限失真信源编码?
答:失真信源编码中心务:允许失真范围编码信息率压缩
三综合题(20+15+15)
1. 设机变量联合概率空间
定义新机变量(普通积)
(1) 计算熵H(X)H(Y)H(Z)H(XZ)H(YZ)H(XYZ)
(2) 计算条件熵 H(X|Y)H(Y|X)H(X|Z)H(Z|X)H(Y|Z)H(Z|Y)H(X|YZ)H(Y|XZ)H(Z|XY)
(3) 计算均互信息量I(XY)I(X:Z)I(Y:Z)I(XY|Z)I(YZ|X)I(X:Z|Y)
解:(1)
X\Y
0
1
0
18
38
12
1
38
18
12
12
12
(2)
X\Z
0
1
0
12
0
12
1
38
18
12
78
18
Y\Z
0
1
0
12
0
12
1
38
18
12
78
18
(3)
2. 设二元称信道输入概率分布分转移矩阵
(1) 求信道输入熵输出熵均互信息量
(2) 求信道容量佳输入分布
(3) 求信道剩余度
解:(1)信道输入熵
(2)佳输入分布时信道容量
(3)信道剩余度:
3. 设DMC转移矩阵信道输入概率试确定佳译码规极似然译码规计算出相应均差错率
解:
佳译码规:均差错率11416181124
极似然规:均差错率114181812
五(8分)求右图示信道容量达信道容量时输入分布
解:
右图知该信道转移概率矩阵
该信道输入分布取时
时
分布满足信道容量
Clb21(bit符号)达信道容量输入分布取
12.信息等式:意实数仅时等式成立
3.设信源X{01}P(0)18信源熵 特符号信源发出m0(100m)1构成序列序列信息量特符号
4.离散称信道输入等概率时输出 等概 分布
5.根码字含码元数编码分 定长 编码 变长 编码
6.设DMS二元符号表进行定长编码编码{000001010011100101}编码器输出码元维概率 0747 0253
4. 设DMC转移矩阵信道输入概率试确定佳译码规极似然译码规计算出相应均差错率
解:
佳译码规:均差错率11416181124
极似然规:均差错率114181812
1. 信息基概念 确定性
2. 信源发出消息时间幅度分布情况信源分成 离散 信源 连续 信源两类
3. 机事件 信息量 定义出现概率数负值
4. 树图法构成码定满足 时码 定义
5. 扰离散信道编码定理 称香农第二极限定理
6. 纠错码检纠错力指 检测纠正错误码元数目
7. 信道般指传输信息物理媒介分 线 信道 线 信道
8. 信源编码目 提高通信系统效性
分
评卷
二选择题(10 分题2分)
1 定xi条件机事件yj包含确定度条件信息量p(yj xi)(D)
A.数量等单位 B.数量等单位相
C.数量相等单位 D.数量相等单位相
2 条件熵条件熵关系: (C)
A.H(YX)<H(Y) B.H(YX)>H(Y)
C.H(YX)≤H(Y) D.H(YX)≥H(Y)
3 根树图法构成规 (D)
A.树根安排码字 B.树枝安排码字
C.中间节点安排码字 D.终端节点安排码字
4 列说法正确: (C)
A.奇异码唯译码 B.非奇异码唯译码
C.非奇异码定唯译码 D.非奇异码唯译码
5 面项属熵性质: (B)
A.非负性 B.完备性
C.称性 D.确定性
分
评卷
三名词解释(15 分题5分)
1 奇异码
包含相码字码称奇异码
2 码距
两等长码字间应码元相数目称码距
3 输出称矩阵
转移概率矩阵列第列置换(包含样元素)该矩阵称输出称矩阵
分
评卷
三简答题(20 分题10分)
1 简述信息特征
答:信息基概念确定性已确定事物含信息
接收者收信息前容知道信息新知识新容
信息认识体某事物未知性确定性减少知识
信息产生消失时信息携带贮存处理
信息量度信息量少差
2 简单介绍哈夫曼编码步骤
① 信源消息符号出现概率次排列
p(x1)≥p(x2)≥…≥ p(xn)
② 取两概率符号分配01两概率相加作新符号概率未分配码元符号重新排队
③ 重排两概率符号重复步骤2程
④ 继续述程直两符号配01止
⑤ 级开始前返回信源符号应码元序列相应码字
分
评卷
四计算题(35 分)
1 设二进制阶马尔夫信源信源符号X∈(01)条件概率
p(00) p(10)05 p(11)025 p(01)075
画出状态图求出符号稳态概率(15分)
025
0
1
05
05
075
2 设输入符号输出符号X=Y∈{0123}输入符号等概率分布设失真函数汉明失真求DmaxDminR(Dmax)R(Dmin)(20分)
解:
失真矩阵行0Dmin0
填空题
1 设信源X包含4离散消息仅X中消息出现概率___14___时信源熵达值__2__时消息信息量__2 __
2某线性分组码汉明距dmin4该码检测出___3____机错
纠正__1____机错
3克劳夫特等式唯译码___存___充条件
4均互信息量I(XY)信源熵条件熵间关系___(XY)H(X)H(XY)___
5 _信源___提高通信效性_信道____目提高通信性_加密__编码目保证通信安全性
6信源编码目提高通信 效性 信道编码目提高通信 性 加密编码目保证通信 安全性
7设信源X包含8离散消息仅X中消息出现概率__18__时信
源熵达值___3____
8信息量表征信源中符号确定度信源符号概率越信息量越____
9信源冗余度两方面信源符号间__相关性__二信源符号分布
__均匀性__
10验概率译码指 译码器已知r条件找出性发码 作译码估值 令 maxP( |r)_ __
11常检纠错方法__前纠错___反馈重发混合纠错三种
二 单项选择题
1面表达式中正确(A )
A B
C D
2彩色电视显屏幕5×105 元设元64种彩色度种彩度16种亮度层次果彩色品种亮度层次组合均等概率出现组合间相互独立秒传送25帧图需信道容量(C )
A 50´106 B 75´106 C 125´106 D 250´106
3已知某记忆三符号信源abc等概分布接收端二符号集失真矩阵d信源均失真度( D )
A 13 B 23 C 33 D 43
4线性分组码具性质( C )
A意码字线性组合码字
B汉明距离等非0重量
C汉明距离3
D码字校验矩阵积cmHT0
5率失真函数限( B)
A H(U) B0 CI(U V) D没限
6纠错编码中列种措施减差错概率( D )
A 增信道容量 B 增码长 C 减码率 D 减带宽
7珍珠养殖场收获240颗外观重量完全相特珍珠幸外观相重量仅微差异假珠换掉1颗手取出3颗测量恰找出假珠巧假珠滑落进找许久未找说天6次找出结果确事件出信息量( A )
A 0bit B log6bit C 6bit D log240bit
8列陈述中正确( D )
A离散记忆信道中H(Y)输入概率量凸函数
B满足格拉夫特等式码字惟译码
C般说线性码距离越意味着意码字间差越码检错
纠错力越强
D满足格拉夫特等式信源惟译码
9变量x概率密度函数P(x) x 2信源相熵( C )
A 05bit B 072bit C 1bit D 144bit
10列离散信源熵( D )
A H(131313) B H(1212)
C H(0901) D H(12141818)
11列属消息( B )
A文字 B信号 C图 D语言
12提高通信系统传输消息效性信源编码采方法( A )
A压缩信源冗余度 B信息特中适加入冗余特
C研究码生成矩阵 D组信息进行交织处理
13似然译码等价验概率译码条件( D )
A离散记忆信道 B错编码
C扰信道 D消息先验等概
14列说法正确( C )
A等重码线性码
B码生成矩阵唯
C码汉明距离等码非0重量
D线性分组码中包含全0码字
15二进制通信系统符号01存失真传输时会产生误码符号表示列事件u00发出 u11发出 v0 0收 v11收
已知收符号告知发出符号信息量( A )
A H(UV) B H(VU) C H(UV) D H(UV)
16 时扔两正常骰子面呈现概率16点数12信息( B )
A -log36bit B log36bit C -log (1136)bit D log (1136)bit
17列组合中属时码( A )
A { 001011} B {010110} C {001011} D {10100}
18已知某(63)线性分组码生成矩阵计算判断出列码中该码集里码( D )
A 000000 B 110001 C 011101 D 111111
19变量x概率密度函数P(x) x 2信源相熵( C )
A 05bit符号 B 072bit符号 C 1bit符号 D 144bit符号
20设记忆信源发出符号AB已知发出二重符号序列消息信源记忆信源熵 ( A )
A081bit二重符号 B162bit二重符号 C093 bit二重符号 D 186 bit二重符号
三 判断题
1确定性信源熵H(0001)1 ( 错 )
2信源X概率分布P(X){12 13 16}进行哈夫曼编码码唯
( 错 )
3 离散记忆序列信源中均符号符号熵等单符号信源符号熵 ( )
4非奇异定长码定唯译码 ( 错 )
5信息率失真函数R(D)均失真超定失真限度D条件信息率容许压缩值 ( )
6信源X概率分布P(X){12 13 16}信源Y概率分布P(Y){131216}
信源XY熵相等 ( )
7互信息量I(XY)表示收Y信源X确定度 ( )
8信源符号X{a1a2a3a4}进行二元信源编码4信源符号应码字码长分K11K22K33K33满足种码长组合码定唯译码 ( 错 )
9DMC信道转移概率矩阵信道输入端信源分布P(X){1212}时传输信息量达值 ( 错 )
10设C {000000 001011 010110 011101 100111 101100 110001 111010}二元线性分组码该码检测出3机错误 (错 )
四名词解释
1极限熵
2信道容量
3均信息量
五计算题
1设离散记忆信源
发生消息(202120130213001203210110321010020320011223210)
(1) 根离散记忆信源发出消息序列信息等消息中符号信息
求消息信息量
(2)消息中均符号携带信息量少?
2已知二元信源连接二元信道图示中
试求:I(XY)H(XY)H(XY)H(YX)
3 设输入信号概率分布P(1212)失真矩阵试求DminDmaxR(Dmin)R(Dmax)
4信源6符号消息概率分布{037025018010007003}
(1)6符号进行二进制哈夫曼编码(出编码程)写出相应码字求出均码长编码效率
(2)哈夫曼编码结果否唯?果唯请出原
5二进制通信系统符号01存失真传输时会产生误码符号表示列事件
x0:0发出x1:1发出
y0:0收y1:1收
定列概率:p(x0)12p(y0x0)34p(y0x1)12
(1)求信源熵H(X)
(2)已知发出符号求收符号信息量H(YX)
(3)已知发出收符号求信息量H(XY)
6设DMC信道传输情况图示
(1)试写出该信道转移概率矩阵
(2)求该信道信道容量
7设输入信号概率分布P(1212)失真矩阵试求
8设离散记忆信源5符号消息概率分布{0402020101}
(1)5符号进行二进制哈夫曼编码(出编码程)写出相应码字求出均码长编码效率
(2)哈夫曼编码结果否唯?果唯请出原
均信息
表示信源均确定度表示均信源消息提供信息量
均互信息
表示Y获关X均信息量表示发X前Y均确定性减少量表示通信前整系统确定性减少量
2离散熵定理:离散记忆信源等概率分布时熵
3熵值
4通信系统模型:
5香农公式保证足够信道容量采(1)频带换信噪(2)信噪换频带
6N足够长时定存种失真编码
7R<C时码长足够长定找种编码方法译码规译码错误概率穷
8认识层次研究信息时候必须时考虑 形式含义效 三方面素
91948年美国数学家 香农 发表题通信数学理长篇文创立信息
信息性质信息分成 语法信息语义信息语信息
信息位信息分成 客观信息观信息
研究信息目 高效安全 交换利种样信息
信息 度量性 建立信息基础
统计度量 信息度量常方法
熵 香农信息基重概念
事物确定度时间统计发生 概率数 描述
10单符号离散信源般机变量描述符号离散信源般 机矢量 描述
11机事件发生某结果带信息量称信息量定义 发生概率数负值
12信息量单位般 特奈特哈特
13必然事件信息 0
14事件信息量 ∞
15两相互独立机变量联合信息量等 两信息量
16数处理定理:消息级处理着处理器数目增输入消息输出消息间均互信息量 趋变
17离散稳记忆信源XN次扩展信源熵等离散信源X熵 N倍
18离散稳记忆信源极限熵
19n元m阶马尔夫信源状态空间 nm 状态
20维连续变量X[ab]区间均匀分布时信源熵 log2(ba)
21均功率P高斯分布连续信源信源熵Hc(X)
22限峰值功率N维连续信源概率密度 均匀分布 时连续信源熵具值
23限均功率维连续信源概率密度 高斯分布 时信源熵值
24均值0均功率受限连续信源信源冗余度决定均功率限定值P信源熵功率
25离散记忆信源信源熵H(X)等25信源进行等长失真二进制编码编码长度少 3
26m元长度kii12···n异前置码存充条件:
27掷骰子结果作离散信源信源熵 log26
28时掷两正常骰子面呈现概率1635时出现件事信息量 log218(1+2 log23)
29维变量X取值区间[0∞]概率密度函数中:mX数学期X信源熵
30副充分洗乱扑克牌(52张)中意抽取1张然放回程作离散记忆信源信源熵
31根输入输出信号特点信道分成离散信道连续信道半离散半连续 信道
32信道输出仅信道前输入关输入关信道称 记忆 信道
33具应关系噪信道信道容量C log2n
34强称信道信道容量C log2nHni
35称信道信道容量C log2mHmi
36离散记忆信道信源N次扩展信道容量CN NC
37N立联信道信道容量 CN
38户信道信道容量 维空间区域界限 表示
39户信道分成种基类型: 址接入信道广播信道 相关信源信道
40广播信道 输入端输出端 信道
41信道噪声输入干扰作表现噪声输入线性叠加时信道称 加性连续信道
42高斯加性信道信道容量C
43信道编码定理理想编码存性定理:信道失真传递信息条件 信息率信道容量
44信道矩阵代表信道信道容量C 1
45信道矩阵代表信道信道容量C 1
46高斯加性噪声信道中信道带宽3kHz信噪7该信道信息传输速率Ct 9 kHz
47具性燥信道达信道容量条件 p(yj)1m)
48信道矩阵代表信道分钟传递6*105符号该信道信息传输速率Ct 10kHz
49信息率失真理量化数模转换频带压缩 数压缩 理基础
50求解率失真函数问题:定失真度情况求信息率 极值
51信源消息通信道传输误差失真越信宿收消息信源存确定性 越 获信息量越
52信源消息通信道传输误差失真越道传输消息需信息率 越
53单符号失真度失真函数d(xiyj)表示信源发出符号xi信宿现yj引起 误差失真
54汉明失真函数 d(xiyj)
55方误差失真函数d(xiyj)(yj xi)2
56均失真度定义失真函数数学期d(xiyj)XY 联合概率空间P(XY)中 统计均值
57果信源失真度定均失真度 信道统计特性 函数
58果规定均失真度超某限定值D:称 保真度准
59离散记忆N次扩展信源通离散记忆N次扩展信道均失真度单符号信源通单符号信道均失真度 N 倍
60试验信道集合PD表示PD
61信息率失真函数简称率失真函数:试验信道中均互信息量 值
62均失真度限取0条件失真矩阵 行少零元素
63均失真度限Dmax取{Dj:j12···m}中 值
64率失真函数允许均失真度 单调递减连续
65离散记忆信源率失真函数值 log2n
66失真度均失真度限时Dmax时率失真函数R(D) 0
67连续信源X率失真函数R(D)
68时高斯信源均方差失真度信息率失真函数
69保真度准信源编码定理条件 信源信息率R率失真函数R(D)
70某二元信源失真矩阵D该信源Dmax a2
71某二元信源失真矩阵D该信源Dmin 0
72某二元信源失真矩阵D该信源R(D) 1H(Da)
73编码目编码分三类:分 信源编码信道编码安全编码
74信源编码目: 提高通信效性
75般情况信源编码分 离散信源编码连续信源编码相关信源编码
76连续信源模拟信号信源编码理基础 限失真信源编码定理
77香农编码中第i码字长度kip(xi)间 关系
78信源进行二进制费诺编码编码效率 1
79具8消息单符号离散记忆信源进行4进制哈夫曼编码时均码长短应增加 2 概率0消息
80香农编码费诺编码哈夫曼编码编码方法惟 香农编码
81二元序列0011100000011111001111000001111111相应游程序列 23652457
82设记忆二元序列中01概率分p0p10游程长度L(0)概率
83游程序列熵 等 原二元序列熵
840游程哈夫编码效率η01游程哈夫编码效率η1η0>η1应二元序列编码效率η三者关系 η0>η>η1
85实际游程编码程中长码般采取 截断 处理方法
860游程1游程分进行哈夫曼编码两码表中码字重复 C码 必须
87符号消息序列中量重复出现起占时作符号称 冗余位
88冗余变换:冗余序列转换成二元序列 缩短元序列
89LD编码种 分帧传送冗余位序列 方法
90LD编码适合冗余位 较较少 情况
91信道编码终目 提高信号传输性
92狭义信道编码:检纠错编码
93BSC信道:记忆二进制称信道
94n位重复码编码效率 1n
95等重码检验 全部奇数位错部分偶数位错
96意两码字间汉明距离称码距dmindmin
97纠错码距离dmin纠正意等t 差错
98检错码距离dmin检测出意等l dmin1 差错
99线性分组码时具 分组特性线性特性 纠错码
100循环码采 循环移位特性界定 类线性分组码
三判断(题1分)(50道)
必然事件事件信息量0 错
信息量单调递减函数
单符号离散信源信息信源熵具非负性
单符号离散信源信息信源熵确定值错
单符号离散信源联合信息量条件信息量非负单调递减
信息量条件信息量联合信息量间关系:
信息量条件信息量互信息量间关系:
变量XY相互独立时条件熵等信源熵
变量XY相互独立时I(XY)H(X) 错
10信源熵具严格凸性错
11均互信息量I(XY)信源概率分布p(xi)条件概率分布p(yjxi)具凸函数性
12m阶马尔夫信源消息长度m记忆信源含符号赖关系相 错
13利状态极限概率状态步转移概率求m阶马尔夫信源极限熵
14N维统计独立均匀分布连续信源熵N维区域体积数
15维高斯分布连续信源信源熵均值方差关 错
16连续信源离散信源熵具非负性 错
17连续信源离散信源具加性
18连续信源离散信源均互信息具非负性
19定长编码效率般定长编码效率
20离散信源(熵H(X))进行二进制失真编码设定长码子长度K变长码子均长度般>K 错
21信道容量CI(XY)关p(xi)条件极值
22离散噪信道信道容量等log2n中n信源X消息数 错
23准称信道时达信道容量C错
24户信道信道容量数代表
25户信道信道容量数代表信道信息率数表示错
26高斯加性信道信道容量信道信噪关
27信道失真传递信息条件信息率信道容量
28信息传输速率:选择某信源概率分布(p(xi))信道传送信息率值 错
29具性燥信道信源等概率分布时(p(xi)1n)达信道容量 错
30求解率失真函数问题:定失真度情况求信息率极值
31信源消息通信道传输误差失真越信宿收消息信源存确定性越获信息量越 错
32p(xi)p(yjxi)d(xiyj)定均失真度变量 错
33率失真函数允许均失真度具凸性
34率失真函数没值 错
35率失真函数值0
36率失真函数值信源输入概率关错
37信源编码提高通信效性目编码
38信源编码通常通压缩信源冗余度实现
39离散信源数字信号信源编码理基础限失真信源编码定理 错
40般情况哈夫曼编码效率香农编码费诺编码
41编m(m>2)进制哈夫曼码时考虑否需增加概率0码字均码长短
42游程序列熵(0游程序列熵1游程序列熵)等原二元序列熵 错
43游程编码程中0游程1游程应分编码码字重复 错
44LD编码适合冗余位较较少情况否压缩码率反扩张
45狭义信道编码指:信道检纠错编码
46BSC信道信道编码应编码消息m长度等码字c长度 错
47等重码奇(偶)校验码检出全部奇数位错
48汉明码种线性分组码
49循环码种线性分组码
50卷积码种特殊线性分组码 错
1.设X取值受限限区间[ab]X服 均匀 分布时熵达X均值方差受限X服 高斯 分布时熵达
2.信息等式:意实数仅时等式成立
3.设信源X{01}P(0)18信源熵 特符号信源发出m0(100m)1构成序列序列信息量特符号
4.离散称信道输入等概率时输出 等概 分布
5.根码字含码元数编码分 定长 编码 变长 编码
6.设DMS二元符号表进行定长编码编码{000001010011100101}编码器输出码元维概率 0747 0253
二简答题(30分)
设信源试求(1)信源熵信息含量效率冗余度
求二次扩展信源概率空间熵
解:
(1)
(2)二次扩展信源概率空间:
X\X
116
316
316
916
什损失熵噪声熵?什损信道确定信道?输入输出分信道容量少?
答:H(X|Y)称信道疑义度损失熵损失熵零信道损信道信道容量logr
H(Y|X)称信道噪声熵噪声熵零信道确定信道信道容量logs
信源编码信道编码目什?
答:信源编码作:
(1)符号变换:信源输出符号信道输入符号相匹配
(2)冗余度压缩:编码新信源概率均匀化信息含量效率等接100
信道编码作:降低均差错率
什限失真信源编码?
答:失真信源编码中心务:允许失真范围编码信息率压缩
三综合题(20+15+15)
设机变量联合概率空间
定义新机变量(普通积)
计算熵H(X)H(Y)H(Z)H(XZ)H(YZ)H(XYZ)
计算条件熵 H(X|Y)H(Y|X)H(X|Z)H(Z|X)H(Y|Z)H(Z|Y)H(X|YZ)H(Y|XZ)H(Z|XY)
计算均互信息量I(XY)I(X:Z)I(Y:Z)I(XY|Z)I(YZ|X)I(X:Z|Y)
解:(1)
X\Y
0
1
0
18
38
12
1
38
18
12
12
12
(2)
X\Z
0
1
0
12
0
12
1
38
18
12
78
18
Y\Z
0
1
0
12
0
12
1
38
18
12
78
18
(3)
设二元称信道输入概率分布分转移矩阵
求信道输入熵输出熵均互信息量
求信道容量佳输入分布
求信道剩余度
解:(1)信道输入熵
2)佳输入分布时信道容量
(3)信道剩余度:
设DMC转移矩阵信道输入概率试确定佳译码规极似然译码规计算出相应均差错率
解: 佳译码规:均差错率11416181124
极似然规:均差错率114181812
文档香网(httpswwwxiangdangnet)户传
《香当网》用户分享的内容,不代表《香当网》观点或立场,请自行判断内容的真实性和可靠性!
该内容是文档的文本内容,更好的格式请下载文档