信息论与编码试题集与答案考试必看


    信息编码试题集答案考试必
    失真信源中信源输出 H(X) 度量失真信源中信源输出 R(D) 度量
    1 通信系统做传输信息效保密必须首先 信源 编码
    然_____加密____编码______信道_____编码送入信道
    2 带限AWGN波形信道均功率受限条件信道容量基公式名香农公式化信道容量CW趋零时信道完全丧失通信力时EbN0 16 dB称作香农限切编码方式达理极限
    3 保密系统密钥量越密钥熵H(K)越 密文中含关明文信息量I(MC)越
    4 已知n=7循环码信息位长度k 3 校验项式
    h(x)
    5 设输入符号表X={01}输出符号表Y={01}输入信号概率分布p=(1212)失真函数d(00) d(11) 0d(01) 2d(10) 1Dmin= 0 R(Dmin)= 1bitsymbol 相应编码器转移概率矩阵[p(yx)]=Dmax= 05 R(Dmax)= 0 相应编码器转移概率矩阵[p(yx)]=
    6 已知户ARSA公开密钥(en)(355) 40 秘密密钥(dn)=(2755) 户B户A发送m2加密消息该加密消息 8

    二判断题
    1 克劳夫特等式作唯译码存判 (Ö )
    2 线性码定包含全零码 (Ö )
    3 算术编码种失真分组信源编码基思想定精度数值作序列
    编码外种形式实现佳统计匹配编码 (×)
    4 某信源否输出符号符号具某概率特性信息量
    (×)
    5 离散稳记忆信源符号序列均符号熵着序列长度L增增 (×)
    6 限均功率熵定理指出相关矩阵定机矢量X正态分布时具
    熵 (Ö )
    7 循环码码集中码字循环移位码字 (Ö )
    8 信道容量信道中够传输信息量 (×)
    9 香农信源编码方法进行编码时需预先计算码字长度 (×)
    10 已知收码R条件找出性发码作译码估计值种译码方
    法做佳译码 (Ö )

    三计算题
    某系统(74)码
    三位校验位信息位关系:

    (1)求应生成矩阵校验矩阵
    (2)计算该码距离
    (3)列出纠差错图案应伴式
    (4)接收码字R1110011求发码
    解:1
    2 dmin3
    3
    S
    E
    000
    0000000
    001
    0000001
    010
    0000010
    100
    0000100
    101
    0001000
    111
    0010000
    011
    0100000
    110
    1000000

    4 RHT[001] 接收出错
    E0000001 R+EC 1110010 (发码)

    四计算题
    已知联合概率:




    0918 bitsymbol
    1585 bitsymbol
    0251 bitsymbol

    五计算题
    阶齐次马尔夫信源消息集
    状态集令条件转移概率
    (1)画出该马氏链状态转移图
    (2)计算信源极限熵

    解:(1)









    (2)→
    H(X|S1) H(141412)15特符号
    H(X|S2)H(131313)1585特符号
    H(X|S3)H(2313) 0918特符号
    特符号

    六计算题
    信源秒钟发出255信源符号
    信源输出符号送入某二元信道中进行传输
    (假设信道噪损容量1bit二元符号)
    信道秒钟传递2二元符号
    (1) 试问信源通编码(x1®0x2®1信道中传输)
    (2) 否直接信道连接?
    (3) 通适编码否信道中进行失真传输?
    (4) 试构造种哈夫曼编码(两符号起编码)
    (5) 该信源信道中失真传输

    解:1时信源符号通01信道中传输255二元符号s>2二元符号s

    2 信息率进行较 255* 184 < 1*2
    进行失真传输






    3


    156 二元符号2信源符号
    时 1562*2551989二元符号s < 2二元符号s



    七计算题
    两BSC信道级联右图示:
    (1)写出信道转移矩阵
    (2)求信道信道容量

    解: (1)

    (2)
    信息理编码试卷A答案中南学考试试卷
    200 2010 学年 学期期末考试试题 时间100分钟
    信息基础 课程 32 学时 学分 考试形式: 闭 卷
    专业年级: 通信07级 总分100分占总评成绩70
    注:页作答题纸请答案写答题纸
    填空题(题20分题2分)
    1 失真信源编码中心务编码信息率压缩接 1 限失真压缩中心务定失真度条件信息率压缩接 2
    2信息应代数理统计方法研究信息传输存储处理科学称 3 1948年香农贝尔杂志发表两篇关通信数学理文章该文熵信源 4 度量时衡量 5 尺度表现通信领域里发送端发送什确定量通信道传输接收端收信息发送端发送什然存确定量两确定量差值 6 表示表现通信信道流通 7 取值通信线路 8 取值 9
    3 分组码H阵列列线性关数n纠错码距离dmin 10

    二 简答题 (题20分题4分)
    1 根信息理前失真压宿压宿空间速度两方研究价值?
    2 知道猫(调制解调器俗称)模拟链路传输数字数设备音频电话线传输二进制数没太高错误率现网猫速度已达56Kbps果网络蚂蚁软件网载东西时会发现时候网络传输速度低远低56Kbps(通常音频电话连接支持频率范围300Hz3300Hz般链路典型信噪30dB)(摘中新网)
    3 结合信息课程针信息研究象说明样研究象
    4 纠错编码基原理分析列两种生成矩阵形成线性分组码优劣
    (1) (2)
    5 新华社电2008年 5月16日午6时半离汶川震发生整整100时虚弱已昏迷刘德云救援官兵抬出时女目光指左手腕女扑发现父亲左手腕歪歪扭扭写着句话:欠王老3000元
    请列出面段话中 信号 消息 信息

    三 计算编码题(题60分)

    1 量统计资料知道男性中红绿色盲发病率7女性发病率05(10分)
    (1) 问位女士:否色盲?回答否问两回答中含少信息量?计算结果出什结?
    (2) 果问位女士问回答(否)前均确定性回答(否)信息量少?
    2.黑白气象传真图消息黑色白色两种信源X{黑白}设黑色出现概率P(黑) 05白色出现概率P(白) 05(10分)
    (1) 假设图黑白消息出现前没关联求信源H∞熵
    (2) 假设消息前关联赖关系P(白白) 08P(黑白) 02P(白黑) 04P(黑黑) 06求信源H∞熵
    (3) 较面两H∞说明物理含义
    3. 离散记忆信源 P(x1)816 P(x2) 316 P(x3) 416 P(x4)116(10分)
    (1) 计算信源逐符号进行二元定长编码码长编码效率
    (2) 信源编二进制哈夫曼码计算均码长编码效率
    (3) 哈夫曼码实现新信源等概理解
    4.设二元称信道传递矩阵
    P(0) 34 P(1) 14求该信道信道容量达信道容量时输入概率分布说明物理含义(10分)
    5.设信源通干扰信道接收符号Y { y1 y2 }信道转移矩阵求:(10分)
    (1) 收消息yj (j1)获关xi (i2)信息量
    (2) 信源X信宿Y信息熵信道疑义度H(XY)噪声熵H(YX)
    (3) 接收信息Y获均互信息量
    6二元(74)汉明码校验矩阵H:(10分)






    (1)写出系统生成矩阵G列出错误形式伴矢量表发现间什联系没表译码
    (2)收矢量0000011请列出编码发送矢量差错矢量编码前信息矢量


    填空题 (空2分20分)
    1.设X取值受限限区间[ab]X服 均匀 分布时熵达X均值方差受限X服 高斯 分布时熵达
    2.信息等式:意实数仅时等式成立
    3.设信源X{01}P(0)18信源熵 特符号信源发出m0(100m)1构成序列序列信息量特符号
    4.离散称信道输入等概率时输出 等概 分布
    5.根码字含码元数编码分 定长 编码 变长 编码
    6.设DMS二元符号表进行定长编码编码{000001010011100101}编码器输出码元维概率 0747 0253

    二简答题(30分)
    1. 设信源试求(1)信源熵信息含量效率冗余度
    (2) 求二次扩展信源概率空间熵
    解:
    (1)

    (2)二次扩展信源概率空间:
    X\X



    116
    316

    316
    916



    2. 什损失熵噪声熵?什损信道确定信道?输入输出分信道容量少?
    答:H(X|Y)称信道疑义度损失熵损失熵零信道损信道信道容量logr
    H(Y|X)称信道噪声熵噪声熵零信道确定信道信道容量logs
    3. 信源编码信道编码目什?
    答:信源编码作:
    (1)符号变换:信源输出符号信道输入符号相匹配
    (2)冗余度压缩:编码新信源概率均匀化信息含量效率等接100
    信道编码作:降低均差错率
    4. 什香农容量公式?保证足够信道容量采两种方法?
    答:香农信道容量公式:B白噪声频带限制常数输入X(t)均功率受限
    保证足够信道容量采(1)频带换信噪(2)信噪换频带
    5. 什限失真信源编码?
    答:失真信源编码中心务:允许失真范围编码信息率压缩

    三综合题(20+15+15)
    1. 设机变量联合概率空间

    定义新机变量(普通积)
    (1) 计算熵H(X)H(Y)H(Z)H(XZ)H(YZ)H(XYZ)
    (2) 计算条件熵 H(X|Y)H(Y|X)H(X|Z)H(Z|X)H(Y|Z)H(Z|Y)H(X|YZ)H(Y|XZ)H(Z|XY)
    (3) 计算均互信息量I(XY)I(X:Z)I(Y:Z)I(XY|Z)I(YZ|X)I(X:Z|Y)
    解:(1)
    X\Y
    0
    1

    0
    18
    38
    12
    1
    38
    18
    12

    12
    12














    (2)


    X\Z
    0
    1

    0
    12
    0
    12
    1
    38
    18
    12

    78
    18








    Y\Z
    0
    1

    0
    12
    0
    12
    1
    38
    18
    12

    78
    18










    (3)






    2. 设二元称信道输入概率分布分转移矩阵
    (1) 求信道输入熵输出熵均互信息量
    (2) 求信道容量佳输入分布
    (3) 求信道剩余度
    解:(1)信道输入熵





    (2)佳输入分布时信道容量
    (3)信道剩余度:
    3. 设DMC转移矩阵信道输入概率试确定佳译码规极似然译码规计算出相应均差错率
    解:

    佳译码规:均差错率11416181124
    极似然规:均差错率114181812












    五(8分)求右图示信道容量达信道容量时输入分布

    解:
    右图知该信道转移概率矩阵
    该信道输入分布取时

    分布满足信道容量
    Clb21(bit符号)达信道容量输入分布取



    12.信息等式:意实数仅时等式成立
    3.设信源X{01}P(0)18信源熵 特符号信源发出m0(100m)1构成序列序列信息量特符号
    4.离散称信道输入等概率时输出 等概 分布
    5.根码字含码元数编码分 定长 编码 变长 编码
    6.设DMS二元符号表进行定长编码编码{000001010011100101}编码器输出码元维概率 0747 0253
    4. 设DMC转移矩阵信道输入概率试确定佳译码规极似然译码规计算出相应均差错率
    解:

    佳译码规:均差错率11416181124
    极似然规:均差错率114181812
    1. 信息基概念 确定性 
    2. 信源发出消息时间幅度分布情况信源分成  离散  信源 连续  信源两类
    3. 机事件 信息量 定义出现概率数负值
    4. 树图法构成码定满足  时码 定义
    5.  扰离散信道编码定理  称香农第二极限定理
    6. 纠错码检纠错力指  检测纠正错误码元数目    
    7. 信道般指传输信息物理媒介分 线  信道 线 信道
    8. 信源编码目 提高通信系统效性   


    评卷


    二选择题(10 分题2分)



    1 定xi条件机事件yj包含确定度条件信息量p(yj xi)(D)
    A.数量等单位 B.数量等单位相
    C.数量相等单位 D.数量相等单位相
    2 条件熵条件熵关系: (C)
    A.H(YX)<H(Y) B.H(YX)>H(Y)
    C.H(YX)≤H(Y) D.H(YX)≥H(Y)
    3 根树图法构成规 (D)
    A.树根安排码字 B.树枝安排码字
    C.中间节点安排码字 D.终端节点安排码字
    4 列说法正确: (C)
    A.奇异码唯译码 B.非奇异码唯译码
    C.非奇异码定唯译码 D.非奇异码唯译码
    5 面项属熵性质: (B)
    A.非负性 B.完备性
    C.称性 D.确定性


    评卷


    三名词解释(15 分题5分)


    1 奇异码
    包含相码字码称奇异码



    2 码距
    两等长码字间应码元相数目称码距



    3 输出称矩阵
    转移概率矩阵列第列置换(包含样元素)该矩阵称输出称矩阵




    评卷


    三简答题(20 分题10分)



    1 简述信息特征



    答:信息基概念确定性已确定事物含信息
    接收者收信息前容知道信息新知识新容
    信息认识体某事物未知性确定性减少知识
    信息产生消失时信息携带贮存处理
    信息量度信息量少差

    2 简单介绍哈夫曼编码步骤
    ① 信源消息符号出现概率次排列
    p(x1)≥p(x2)≥…≥ p(xn)
    ② 取两概率符号分配01两概率相加作新符号概率未分配码元符号重新排队
    ③ 重排两概率符号重复步骤2程
    ④ 继续述程直两符号配01止
    ⑤ 级开始前返回信源符号应码元序列相应码字


    评卷


    四计算题(35 分)



    1 设二进制阶马尔夫信源信源符号X∈(01)条件概率
    p(00) p(10)05 p(11)025 p(01)075
    画出状态图求出符号稳态概率(15分)
    025

    0
    1
    05
    05

    075









    2 设输入符号输出符号X=Y∈{0123}输入符号等概率分布设失真函数汉明失真求DmaxDminR(Dmax)R(Dmin)(20分)
    解:

    失真矩阵行0Dmin0











    填空题
    1 设信源X包含4离散消息仅X中消息出现概率___14___时信源熵达值__2__时消息信息量__2 __
    2某线性分组码汉明距dmin4该码检测出___3____机错
    纠正__1____机错
    3克劳夫特等式唯译码___存___充条件
    4均互信息量I(XY)信源熵条件熵间关系___(XY)H(X)H(XY)___
    5 _信源___提高通信效性_信道____目提高通信性_加密__编码目保证通信安全性
    6信源编码目提高通信 效性 信道编码目提高通信 性 加密编码目保证通信 安全性
    7设信源X包含8离散消息仅X中消息出现概率__18__时信
    源熵达值___3____
    8信息量表征信源中符号确定度信源符号概率越信息量越____
    9信源冗余度两方面信源符号间__相关性__二信源符号分布
    __均匀性__
    10验概率译码指 译码器已知r条件找出性发码 作译码估值 令 maxP( |r)_ __
    11常检纠错方法__前纠错___反馈重发混合纠错三种
    二 单项选择题
    1面表达式中正确(A )
    A B
    C D
    2彩色电视显屏幕5×105 元设元64种彩色度种彩度16种亮度层次果彩色品种亮度层次组合均等概率出现组合间相互独立秒传送25帧图需信道容量(C )
    A 50´106 B 75´106 C 125´106 D 250´106
    3已知某记忆三符号信源abc等概分布接收端二符号集失真矩阵d信源均失真度( D )
    A 13 B 23 C 33 D 43
    4线性分组码具性质( C )
    A意码字线性组合码字
    B汉明距离等非0重量
    C汉明距离3
    D码字校验矩阵积cmHT0
    5率失真函数限( B)
    A H(U) B0 CI(U V) D没限
    6纠错编码中列种措施减差错概率( D )
    A 增信道容量 B 增码长 C 减码率 D 减带宽
    7珍珠养殖场收获240颗外观重量完全相特珍珠幸外观相重量仅微差异假珠换掉1颗手取出3颗测量恰找出假珠巧假珠滑落进找许久未找说天6次找出结果确事件出信息量( A )
    A 0bit B log6bit C 6bit D log240bit
    8列陈述中正确( D )
    A离散记忆信道中H(Y)输入概率量凸函数
    B满足格拉夫特等式码字惟译码
    C般说线性码距离越意味着意码字间差越码检错
    纠错力越强
    D满足格拉夫特等式信源惟译码
    9变量x概率密度函数P(x) x 2信源相熵( C )
    A 05bit B 072bit C 1bit D 144bit
    10列离散信源熵( D )
    A H(131313) B H(1212)
    C H(0901) D H(12141818)
    11列属消息( B )
    A文字 B信号 C图 D语言
    12提高通信系统传输消息效性信源编码采方法( A )
    A压缩信源冗余度 B信息特中适加入冗余特
    C研究码生成矩阵 D组信息进行交织处理
    13似然译码等价验概率译码条件( D )
    A离散记忆信道 B错编码
    C扰信道 D消息先验等概
    14列说法正确( C )
    A等重码线性码
    B码生成矩阵唯
    C码汉明距离等码非0重量
    D线性分组码中包含全0码字
    15二进制通信系统符号01存失真传输时会产生误码符号表示列事件u00发出 u11发出 v0 0收 v11收
    已知收符号告知发出符号信息量( A )
    A H(UV) B H(VU) C H(UV) D H(UV)
    16 时扔两正常骰子面呈现概率16点数12信息( B )
    A -log36bit B log36bit C -log (1136)bit D log (1136)bit
    17列组合中属时码( A )
    A { 001011} B {010110} C {001011} D {10100}
    18已知某(63)线性分组码生成矩阵计算判断出列码中该码集里码( D )
    A 000000 B 110001 C 011101 D 111111
    19变量x概率密度函数P(x) x 2信源相熵( C )
    A 05bit符号 B 072bit符号 C 1bit符号 D 144bit符号
    20设记忆信源发出符号AB已知发出二重符号序列消息信源记忆信源熵 ( A )
    A081bit二重符号 B162bit二重符号 C093 bit二重符号 D 186 bit二重符号

    三 判断题
    1确定性信源熵H(0001)1 ( 错 )
    2信源X概率分布P(X){12 13 16}进行哈夫曼编码码唯
    ( 错 )
    3 离散记忆序列信源中均符号符号熵等单符号信源符号熵 ( )
    4非奇异定长码定唯译码 ( 错 )
    5信息率失真函数R(D)均失真超定失真限度D条件信息率容许压缩值 ( )
    6信源X概率分布P(X){12 13 16}信源Y概率分布P(Y){131216}
    信源XY熵相等 ( )
    7互信息量I(XY)表示收Y信源X确定度 ( )
    8信源符号X{a1a2a3a4}进行二元信源编码4信源符号应码字码长分K11K22K33K33满足种码长组合码定唯译码 ( 错 )
    9DMC信道转移概率矩阵信道输入端信源分布P(X){1212}时传输信息量达值 ( 错 )
    10设C {000000 001011 010110 011101 100111 101100 110001 111010}二元线性分组码该码检测出3机错误 (错 )

    四名词解释
    1极限熵
    2信道容量
    3均信息量
    五计算题
    1设离散记忆信源

    发生消息(202120130213001203210110321010020320011223210)
    (1) 根离散记忆信源发出消息序列信息等消息中符号信息
    求消息信息量
    (2)消息中均符号携带信息量少?
    2已知二元信源连接二元信道图示中
    试求:I(XY)H(XY)H(XY)H(YX)


    3 设输入信号概率分布P(1212)失真矩阵试求DminDmaxR(Dmin)R(Dmax)
    4信源6符号消息概率分布{037025018010007003}
    (1)6符号进行二进制哈夫曼编码(出编码程)写出相应码字求出均码长编码效率
    (2)哈夫曼编码结果否唯?果唯请出原
    5二进制通信系统符号01存失真传输时会产生误码符号表示列事件
    x0:0发出x1:1发出
    y0:0收y1:1收
    定列概率:p(x0)12p(y0x0)34p(y0x1)12
    (1)求信源熵H(X)
    (2)已知发出符号求收符号信息量H(YX)
    (3)已知发出收符号求信息量H(XY)
    6设DMC信道传输情况图示
    (1)试写出该信道转移概率矩阵
    (2)求该信道信道容量


    7设输入信号概率分布P(1212)失真矩阵试求
    8设离散记忆信源5符号消息概率分布{0402020101}
    (1)5符号进行二进制哈夫曼编码(出编码程)写出相应码字求出均码长编码效率
    (2)哈夫曼编码结果否唯?果唯请出原








    均信息
    表示信源均确定度表示均信源消息提供信息量
    均互信息
    表示Y获关X均信息量表示发X前Y均确定性减少量表示通信前整系统确定性减少量
    2离散熵定理:离散记忆信源等概率分布时熵
    3熵值
    4通信系统模型:
        
    5香农公式保证足够信道容量采(1)频带换信噪(2)信噪换频带

    6N足够长时定存种失真编码
    7R<C时码长足够长定找种编码方法译码规译码错误概率穷
    8认识层次研究信息时候必须时考虑 形式含义效 三方面素
    91948年美国数学家 香农 发表题通信数学理长篇文创立信息
    信息性质信息分成 语法信息语义信息语信息
    信息位信息分成 客观信息观信息
    研究信息目 高效安全 交换利种样信息
    信息 度量性 建立信息基础
    统计度量 信息度量常方法
    熵 香农信息基重概念
    事物确定度时间统计发生 概率数 描述
    10单符号离散信源般机变量描述符号离散信源般 机矢量 描述
    11机事件发生某结果带信息量称信息量定义 发生概率数负值
    12信息量单位般 特奈特哈特
    13必然事件信息 0
    14事件信息量 ∞
    15两相互独立机变量联合信息量等 两信息量
    16数处理定理:消息级处理着处理器数目增输入消息输出消息间均互信息量 趋变
    17离散稳记忆信源XN次扩展信源熵等离散信源X熵 N倍
    18离散稳记忆信源极限熵
    19n元m阶马尔夫信源状态空间 nm 状态
    20维连续变量X[ab]区间均匀分布时信源熵 log2(ba)
    21均功率P高斯分布连续信源信源熵Hc(X)
    22限峰值功率N维连续信源概率密度 均匀分布 时连续信源熵具值
    23限均功率维连续信源概率密度 高斯分布 时信源熵值
    24均值0均功率受限连续信源信源冗余度决定均功率限定值P信源熵功率
    25离散记忆信源信源熵H(X)等25信源进行等长失真二进制编码编码长度少 3
    26m元长度kii12···n异前置码存充条件:
    27掷骰子结果作离散信源信源熵 log26
    28时掷两正常骰子面呈现概率1635时出现件事信息量 log218(1+2 log23)
    29维变量X取值区间[0∞]概率密度函数中:mX数学期X信源熵
    30副充分洗乱扑克牌(52张)中意抽取1张然放回程作离散记忆信源信源熵

    31根输入输出信号特点信道分成离散信道连续信道半离散半连续 信道
    32信道输出仅信道前输入关输入关信道称 记忆 信道
    33具应关系噪信道信道容量C log2n
    34强称信道信道容量C log2nHni
    35称信道信道容量C log2mHmi
    36离散记忆信道信源N次扩展信道容量CN NC
    37N立联信道信道容量 CN
    38户信道信道容量 维空间区域界限 表示
    39户信道分成种基类型: 址接入信道广播信道 相关信源信道
    40广播信道 输入端输出端 信道
    41信道噪声输入干扰作表现噪声输入线性叠加时信道称 加性连续信道
    42高斯加性信道信道容量C
    43信道编码定理理想编码存性定理:信道失真传递信息条件 信息率信道容量
    44信道矩阵代表信道信道容量C 1
    45信道矩阵代表信道信道容量C 1
    46高斯加性噪声信道中信道带宽3kHz信噪7该信道信息传输速率Ct 9 kHz
    47具性燥信道达信道容量条件 p(yj)1m)
    48信道矩阵代表信道分钟传递6*105符号该信道信息传输速率Ct 10kHz
    49信息率失真理量化数模转换频带压缩 数压缩 理基础
    50求解率失真函数问题:定失真度情况求信息率 极值
    51信源消息通信道传输误差失真越信宿收消息信源存确定性 越 获信息量越
    52信源消息通信道传输误差失真越道传输消息需信息率 越
    53单符号失真度失真函数d(xiyj)表示信源发出符号xi信宿现yj引起 误差失真
    54汉明失真函数 d(xiyj)
    55方误差失真函数d(xiyj)(yj xi)2
    56均失真度定义失真函数数学期d(xiyj)XY 联合概率空间P(XY)中 统计均值
    57果信源失真度定均失真度 信道统计特性 函数
    58果规定均失真度超某限定值D:称 保真度准
    59离散记忆N次扩展信源通离散记忆N次扩展信道均失真度单符号信源通单符号信道均失真度 N 倍
    60试验信道集合PD表示PD
    61信息率失真函数简称率失真函数:试验信道中均互信息量 值
    62均失真度限取0条件失真矩阵 行少零元素
    63均失真度限Dmax取{Dj:j12···m}中 值
    64率失真函数允许均失真度 单调递减连续
    65离散记忆信源率失真函数值 log2n
    66失真度均失真度限时Dmax时率失真函数R(D) 0
    67连续信源X率失真函数R(D)
    68时高斯信源均方差失真度信息率失真函数
    69保真度准信源编码定理条件 信源信息率R率失真函数R(D)
    70某二元信源失真矩阵D该信源Dmax a2
    71某二元信源失真矩阵D该信源Dmin 0
    72某二元信源失真矩阵D该信源R(D) 1H(Da)
    73编码目编码分三类:分 信源编码信道编码安全编码
    74信源编码目: 提高通信效性
    75般情况信源编码分 离散信源编码连续信源编码相关信源编码
    76连续信源模拟信号信源编码理基础 限失真信源编码定理
    77香农编码中第i码字长度kip(xi)间 关系
    78信源进行二进制费诺编码编码效率 1
    79具8消息单符号离散记忆信源进行4进制哈夫曼编码时均码长短应增加 2 概率0消息
    80香农编码费诺编码哈夫曼编码编码方法惟 香农编码
    81二元序列0011100000011111001111000001111111相应游程序列 23652457
    82设记忆二元序列中01概率分p0p10游程长度L(0)概率
    83游程序列熵 等 原二元序列熵
    840游程哈夫编码效率η01游程哈夫编码效率η1η0>η1应二元序列编码效率η三者关系 η0>η>η1
    85实际游程编码程中长码般采取 截断 处理方法
    860游程1游程分进行哈夫曼编码两码表中码字重复 C码 必须
    87符号消息序列中量重复出现起占时作符号称 冗余位
    88冗余变换:冗余序列转换成二元序列 缩短元序列
    89LD编码种 分帧传送冗余位序列 方法
    90LD编码适合冗余位 较较少 情况
    91信道编码终目 提高信号传输性
    92狭义信道编码:检纠错编码
    93BSC信道:记忆二进制称信道
    94n位重复码编码效率 1n
    95等重码检验 全部奇数位错部分偶数位错
    96意两码字间汉明距离称码距dmindmin
    97纠错码距离dmin纠正意等t 差错
    98检错码距离dmin检测出意等l dmin1 差错
    99线性分组码时具 分组特性线性特性 纠错码
    100循环码采 循环移位特性界定 类线性分组码

    三判断(题1分)(50道)
    必然事件事件信息量0 错
    信息量单调递减函数
    单符号离散信源信息信源熵具非负性
    单符号离散信源信息信源熵确定值错
    单符号离散信源联合信息量条件信息量非负单调递减
    信息量条件信息量联合信息量间关系:

    信息量条件信息量互信息量间关系:

    变量XY相互独立时条件熵等信源熵
    变量XY相互独立时I(XY)H(X) 错
    10信源熵具严格凸性错
    11均互信息量I(XY)信源概率分布p(xi)条件概率分布p(yjxi)具凸函数性
    12m阶马尔夫信源消息长度m记忆信源含符号赖关系相 错
    13利状态极限概率状态步转移概率求m阶马尔夫信源极限熵
    14N维统计独立均匀分布连续信源熵N维区域体积数
    15维高斯分布连续信源信源熵均值方差关 错
    16连续信源离散信源熵具非负性 错
    17连续信源离散信源具加性
    18连续信源离散信源均互信息具非负性
    19定长编码效率般定长编码效率
    20离散信源(熵H(X))进行二进制失真编码设定长码子长度K变长码子均长度般>K 错
    21信道容量CI(XY)关p(xi)条件极值
    22离散噪信道信道容量等log2n中n信源X消息数 错
    23准称信道时达信道容量C错
    24户信道信道容量数代表
    25户信道信道容量数代表信道信息率数表示错
    26高斯加性信道信道容量信道信噪关
    27信道失真传递信息条件信息率信道容量
    28信息传输速率:选择某信源概率分布(p(xi))信道传送信息率值 错
    29具性燥信道信源等概率分布时(p(xi)1n)达信道容量 错
    30求解率失真函数问题:定失真度情况求信息率极值
    31信源消息通信道传输误差失真越信宿收消息信源存确定性越获信息量越 错
    32p(xi)p(yjxi)d(xiyj)定均失真度变量 错
    33率失真函数允许均失真度具凸性
    34率失真函数没值 错
    35率失真函数值0
    36率失真函数值信源输入概率关错
    37信源编码提高通信效性目编码
    38信源编码通常通压缩信源冗余度实现
    39离散信源数字信号信源编码理基础限失真信源编码定理 错
    40般情况哈夫曼编码效率香农编码费诺编码
    41编m(m>2)进制哈夫曼码时考虑否需增加概率0码字均码长短
    42游程序列熵(0游程序列熵1游程序列熵)等原二元序列熵 错
    43游程编码程中0游程1游程应分编码码字重复 错
    44LD编码适合冗余位较较少情况否压缩码率反扩张
    45狭义信道编码指:信道检纠错编码
    46BSC信道信道编码应编码消息m长度等码字c长度 错
    47等重码奇(偶)校验码检出全部奇数位错
    48汉明码种线性分组码
    49循环码种线性分组码
    50卷积码种特殊线性分组码 错
    1.设X取值受限限区间[ab]X服 均匀 分布时熵达X均值方差受限X服 高斯 分布时熵达
    2.信息等式:意实数仅时等式成立
    3.设信源X{01}P(0)18信源熵 特符号信源发出m0(100m)1构成序列序列信息量特符号
    4.离散称信道输入等概率时输出 等概 分布
    5.根码字含码元数编码分 定长 编码 变长 编码
    6.设DMS二元符号表进行定长编码编码{000001010011100101}编码器输出码元维概率 0747 0253

    二简答题(30分)
    设信源试求(1)信源熵信息含量效率冗余度
    求二次扩展信源概率空间熵
    解:
    (1)

    (2)二次扩展信源概率空间:
    X\X



    116
    316

    316
    916



    什损失熵噪声熵?什损信道确定信道?输入输出分信道容量少?
    答:H(X|Y)称信道疑义度损失熵损失熵零信道损信道信道容量logr
    H(Y|X)称信道噪声熵噪声熵零信道确定信道信道容量logs
    信源编码信道编码目什?
    答:信源编码作:
    (1)符号变换:信源输出符号信道输入符号相匹配
    (2)冗余度压缩:编码新信源概率均匀化信息含量效率等接100
    信道编码作:降低均差错率
    什限失真信源编码?
    答:失真信源编码中心务:允许失真范围编码信息率压缩

    三综合题(20+15+15)
    设机变量联合概率空间

    定义新机变量(普通积)
    计算熵H(X)H(Y)H(Z)H(XZ)H(YZ)H(XYZ)
    计算条件熵 H(X|Y)H(Y|X)H(X|Z)H(Z|X)H(Y|Z)H(Z|Y)H(X|YZ)H(Y|XZ)H(Z|XY)
    计算均互信息量I(XY)I(X:Z)I(Y:Z)I(XY|Z)I(YZ|X)I(X:Z|Y)
    解:(1)
    X\Y
    0
    1

    0
    18
    38
    12
    1
    38
    18
    12

    12
    12














    (2)


    X\Z
    0
    1

    0
    12
    0
    12
    1
    38
    18
    12

    78
    18








    Y\Z
    0
    1

    0
    12
    0
    12
    1
    38
    18
    12

    78
    18










    (3)




    设二元称信道输入概率分布分转移矩阵
    求信道输入熵输出熵均互信息量
    求信道容量佳输入分布
    求信道剩余度
    解:(1)信道输入熵





    2)佳输入分布时信道容量
    (3)信道剩余度:
    设DMC转移矩阵信道输入概率试确定佳译码规极似然译码规计算出相应均差错率
    解: 佳译码规:均差错率11416181124
    极似然规:均差错率114181812


    文档香网(httpswwwxiangdangnet)户传

    《香当网》用户分享的内容,不代表《香当网》观点或立场,请自行判断内容的真实性和可靠性!
    该内容是文档的文本内容,更好的格式请下载文档

    下载文档到电脑,查找使用更方便

    文档的实际排版效果,会与网站的显示效果略有不同!!

    需要 2 香币 [ 分享文档获得香币 ]

    下载文档

    相关文档

    信息论与编码期末考试题

    信息论与编码期末考试题 (一)一、判断题.1. 当随机变量和相互独立时,条件熵等于信源熵. ( )2. 由于构成同一空间的基底不是唯一的,所以不同的基底或生成矩阵有可能生成同一码...

    3年前   
    753    0

    湘潭大学信息论与编码试卷

    湘大信息论与编码试卷一、填空题(每空1分,共30分) (1) 在现代通信系统中,信源编码主要用于解决信息传输中的 有效 性,信道编码主要用于解决信息传输中的 可靠 性 ,加密编码主...

    2年前   
    635    0

    信息论与编码曹雪虹课后习题答案

    《信息论与编码》-曹雪虹-课后习题答案第二章2.1一个马尔可夫信源有3个符号,转移概率为:,,,,,,,,,画出状态图并求出各符号稳态概率。解:状态图如下状态转移矩阵为:设状态u1,u2,u3...

    1年前   
    893    0

    信息论习题集(陈运)

    信息论习题集一、名词解释(25道)1、“本体论”的信息(P2) 2、“认识论”信息(P2) 3、离散信源(P7)4、自信息量(P9) 5、离散平稳无记忆信源(P39) ...

    5个月前   
    289    0

    信息论实验报告(实验四、哈夫曼编码)

    学生实验报告院别电子工程学院课程名称 信息论与编码班级实验名称实验四、哈夫曼编码姓名实验时间学号指导教师成绩报 告 内 容一、实验目的和任务1、 理解信源编码的意义;2、 熟悉 MATLA...

    11个月前   
    239    0

    GCP试题集(附答案)

          第二部分   GCP试题 Part I_单选题 1001  任何在人体进行的药品的系统性研究,以证实或揭示试验用药品的作用、不良反应及/或研究药品的吸收、分布代谢和排泄,...

    7年前   
    10411    0

    教育研究方法试题集及答案

    一、单项选择题(从下列四个备选答案中选出一个正确答案,并将其代号写在题干的空白处)1、在科学史上,首次研究了科学认识的“归纳一演绎”程序及所遵循的方法,并在形式逻辑之上建立了科学方法论的哲学家、...

    1年前   
    673    0

    编码

    编码教学目标:(1)学生通过生活中的事例,初步体会数字编码思想在解决实际问题中的应用。(2)学生通过观察、比较、猜测来探索数字编码的简单方法,学会用数进行编码,初步培养抽象能力和概括能力。(3...

    4年前   
    790    0

    算法分析期末试题集答案

    《算法分析与设计》期末复习题(一)一、 选择题1.应用Johnson法则的流水作业调度采用的算法是(D)A. 贪心算法 B. 分支限界法 C.分治法 D. 动态规划算法2.H...

    1年前   
    527    0

    期末考试试题集自动控制原理(含完整答案)

    期末考试-复习重点自动控制原理1一、 单项选择题(每小题1分,共20分)1. 系统和输入已知,求输出并对动态特性进行研究,称为( )A.系统综合 B.系统辨识 C.系统...

    1年前   
    756    0

    信息论习题解答

    第二章 信息量和熵2.2 八元编码系统,码长为3,第一个符号用于同步,每秒1000个码字,求它的信息速率。解:同步信息均相同,不含信息,因此 每个码字的信息量为 2=23=6 bi...

    2年前   
    1041    0

    PDCA考试试题及答案

    《PDCA》考试试题(一)及答案一、 单项选择题(10题)(3分)1.推动PDCA循环的关键阶段是(B)A 计划B 处理C 检查D 实施2.PDCA反映的规律是关于(A)活动A 质量管理B 改...

    1年前   
    2071    0

    国际物流考试试题及答案

    国际物流考试试题及答案一、选题10分 ( 每题1 分))1. 广义的国际物流是指( D )A. 国际货物物流 B. 贸易型国际物流C. 非贸易型国际物流 ...

    2年前   
    669    0

    党课考试题及答案

      党课考试题及答案 一、党章部分: 1.党的性质? 答:中国共产党是中国工人阶级的先锋队,同时是中国人民和中华民族的先锋队,是中国特色社会主义事业的领导核心,代表中国先进生产力的发展...

    7年前   
    3808    0

    计生考试试题与答案

    计生考试试题与答案 一、填空题:  1、实行计划生育基本国策是全社会____的责任。    2、国家鼓励公民____,提倡一对夫妻_______。    3、夫妻双方在实行计划生育中...

    12年前   
    14075    0

    信贷考试题及答案

    单项选择题: 1.《商业银行法》规定,商业银行资本充足率( A )。     A.不得低于8%       B.不得高于8%     C.不得低于10%       D.不得高于10% ...

    11年前   
    12969    0

    医德医风考试试题及答案

    医德医风考试试题及答案

    4年前   
    3097    0

    linux考试题答案

    linux考试题答案一、试完成下列小题:(1) 在根目录下创建目录aacd /->mkdir aa(2) 在根目录下创建一个文件cc,然后把cc拷贝到aa下 touch cc->cp ...

    8个月前   
    267    0

    广告新人必看

    新广告入门(理论篇)》——序 差不多三年前,我开始做广告。 通过半年的努力,我成为不错的文案;再过半年,成为不错的创作总监;再过半年,成为不错的 客户总监;再过半年,成为不错的...

    15年前   
    19186    0

    会计快速入门必看

    会计是在各种社会力量进行博弈下形成的,是为经济或者政治服务的一个信息系统。企业在发展中出现了委托-代理关系,才产生出现会计的必要,有了会计,随着社会的发展,会计逐渐发展成为一个社会性的而且具有统一性的理论。

    2年前   
    478    0

    文档贡献者

    文***品

    贡献于2020-11-02

    下载需要 2 香币 [香币充值 ]
    亲,您也可以通过 分享原创文档 来获得香币奖励!
    下载文档

    该用户的其他文档