信息论习题集(陈运)


    信息题集

    名词解释(25道)
    1体信息(P2) 2认识信息(P2) 3离散信源(P7)
    4信息量(P9) 5离散稳记忆信源(P39) 6马尔夫信源(P46)
    7信源冗余度 (P51) 8连续信源 (P52) 9信道容量 (P73)
    10强称信道 (P7576) 11称信道 (P78)12符号离散信道(P83)
    13连续信道 (P95) 14均失真度 (P105) 15实验信道 (P107)
    16率失真函数 (P107) 17信息价值率 (P127) 18游程序列 (P143)
    19游程变换 (P143) 20LD编码(P146) 21冗余变换 (P146)
    22BSC信道 (P171) 23码距离 (P174)24线性分组码 (P175)
    25循环码 (P188)

    二填空(100道)
    1 认识层次研究信息时候必须时考虑 形式含义效 三方面素
    2 1948年美国数学家 香农 发表题通信数学理长篇文创立信息
    3 信息性质信息分成 语法信息语义信息语信息
    4 信息位信息分成 客观信息观信息
    5 研究信息目 高效安全 交换利种样信息
    6 信息 度量性 建立信息基础
    7 统计度量 信息度量常方法
    8 熵 香农信息基重概念
    9 事物确定度时间统计发生 概率数 描述
    10单符号离散信源般机变量描述符号离散信源般 机矢量 描述
    11机事件发生某结果带信息量称信息量定义 发生概率数负值
    12信息量单位般 特奈特哈特
    13必然事件信息 0
    14事件信息量 ∞
    15两相互独立机变量联合信息量等 两信息量
    16数处理定理:消息级处理着处理器数目增输入消息输出消息间均互信息量 趋变
    17离散稳记忆信源XN次扩展信源熵等离散信源X熵 N倍
    18离散稳记忆信源极限熵
    19n元m阶马尔夫信源状态空间 nm 状态
    20维连续变量X[ab]区间均匀分布时信源熵 log2(ba)
    21均功率P高斯分布连续信源信源熵Hc(X)
    22限峰值功率N维连续信源概率密度 均匀分布 时连续信源熵具值
    23限均功率维连续信源概率密度 高斯分布 时信源熵值
    24均值0均功率受限连续信源信源冗余度决定均功率限定值P信源熵功率
    25离散记忆信源信源熵H(X)等25信源进行等长失真二进制编码编码长度少 3
    26m元长度kii12···n异前置码存充条件:
    27掷骰子结果作离散信源信源熵 log26
    28时掷两正常骰子面呈现概率1635时出现件事信息量 log218(1+2 log23)
    29维变量X取值区间[0∞]概率密度函数中:mX数学期X信源熵
    30副充分洗乱扑克牌(52张)中意抽取1张然放回程作离散记忆信源信源熵

    31根输入输出信号特点信道分成离散信道连续信道半离散半连续 信道
    32信道输出仅信道前输入关输入关信道称 记忆 信道
    33具应关系噪信道信道容量C log2n
    34强称信道信道容量C log2nHni
    35称信道信道容量C log2mHmi
    36离散记忆信道信源N次扩展信道容量CN NC
    37N立联信道信道容量 CN
    38*户信道信道容量 维空间区域界限 表示
    39*户信道分成种基类型: 址接入信道广播信道 相关信源信道
    40*广播信道 输入端输出端 信道
    41信道噪声输入干扰作表现噪声输入线性叠加时信道称 加性连续信道
    42高斯加性信道信道容量C
    43信道编码定理理想编码存性定理:信道失真传递信息条件 信息率信道容量
    44信道矩阵代表信道信道容量C 1
    45信道矩阵代表信道信道容量C 1
    46高斯加性噪声信道中信道带宽3kHz信噪7该信道信息传输速率Ct 9 kHz
    47具性燥信道达信道容量条件 p(yj)1m)
    48信道矩阵代表信道分钟传递6*105符号该信道信息传输速率Ct 10kHz
    49信息率失真理量化数模转换频带压缩 数压缩 理基础
    50求解率失真函数问题:定失真度情况求信息率 极值
    51信源消息通信道传输误差失真越信宿收消息信源存确定性 越 获信息量越
    52信源消息通信道传输误差失真越道传输消息需信息率 越
    53单符号失真度失真函数d(xiyj)表示信源发出符号xi信宿现yj引起 误差失真
    54汉明失真函数 d(xiyj)
    55方误差失真函数d(xiyj)(yj xi)2
    56均失真度定义失真函数数学期d(xiyj)XY 联合概率空间P(XY)中 统计均值
    57果信源失真度定均失真度 信道统计特性 函数
    58果规定均失真度超某限定值D:称 保真度准
    59离散记忆N次扩展信源通离散记忆N次扩展信道均失真度单符号信源通单符号信道均失真度 N 倍
    60试验信道集合PD表示PD
    61信息率失真函数简称率失真函数:试验信道中均互信息量 值
    62均失真度限取0条件失真矩阵 行少零元素
    63均失真度限Dmax取{Dj:j12···m}中 值
    64率失真函数允许均失真度 单调递减连续
    65离散记忆信源率失真函数值 log2n
    66失真度均失真度限时Dmax时率失真函数R(D) 0
    67连续信源X率失真函数R(D)
    68时高斯信源均方差失真度信息率失真函数
    69保真度准信源编码定理条件 信源信息率R率失真函数R(D)
    70某二元信源失真矩阵D该信源Dmax a2
    71某二元信源失真矩阵D该信源Dmin 0
    72某二元信源失真矩阵D该信源R(D) 1H(Da)
    73编码目编码分三类:分 信源编码信道编码安全编码
    74信源编码目: 提高通信效性
    75般情况信源编码分 离散信源编码连续信源编码相关信源编码
    76连续信源模拟信号信源编码理基础 限失真信源编码定理
    77香农编码中第i码字长度kip(xi)间 关系
    78信源进行二进制费诺编码编码效率 1
    79具8消息单符号离散记忆信源进行4进制哈夫曼编码时均码长短应增加 2 概率0消息
    80香农编码费诺编码哈夫曼编码编码方法惟 香农编码
    81二元序列0011100000011111001111000001111111相应游程序列 23652457
    82设记忆二元序列中01概率分p0p10游程长度L(0)概率
    83游程序列熵 等 原二元序列熵
    840游程哈夫编码效率η01游程哈夫编码效率η1η0>η1应二元序列编码效率η三者关系 η0>η>η1
    85实际游程编码程中长码般采取 截断 处理方法
    860游程1游程分进行哈夫曼编码两码表中码字重复 C码 必须
    87符号消息序列中量重复出现起占时作符号称 冗余位
    88冗余变换:冗余序列转换成二元序列 缩短元序列
    89LD编码种 分帧传送冗余位序列 方法
    90LD编码适合冗余位 较较少 情况
    91信道编码终目 提高信号传输性
    92狭义信道编码:检纠错编码
    93BSC信道:记忆二进制称信道
    94n位重复码编码效率 1n
    95等重码检验 全部奇数位错部分偶数位错
    96意两码字间汉明距离称码距dmindmin
    97纠错码距离dmin纠正意等t 差错
    98检错码距离dmin检测出意等l dmin1 差错
    99线性分组码时具 分组特性线性特性 纠错码
    100循环码采 循环移位特性界定 类线性分组码

    三判断(50道)
    1 必然事件事件信息量0 错
    2 信息量单调递减函数
    3 单符号离散信源信息信源熵具非负性
    4 单符号离散信源信息信源熵确定值错
    5 单符号离散信源联合信息量条件信息量非负单调递减
    6 信息量条件信息量联合信息量间关系:

    7 信息量条件信息量互信息量间关系:

    8 变量XY相互独立时条件熵等信源熵
    9 变量XY相互独立时I(XY)H(X) 错
    10信源熵具严格凸性错
    11均互信息量I(XY)信源概率分布p(xi)条件概率分布p(yjxi)具凸函数性
    12m阶马尔夫信源消息长度m记忆信源含符号赖关系相 错
    13利状态极限概率状态步转移概率求m阶马尔夫信源极限熵
    14N维统计独立均匀分布连续信源熵N维区域体积数
    15维高斯分布连续信源信源熵均值方差关 错
    16连续信源离散信源熵具非负性 错
    17连续信源离散信源具加性
    18连续信源离散信源均互信息具非负性
    19定长编码效率般定长编码效率
    20离散信源(熵H(X))进行二进制失真编码设定长码子长度K变长码子均长度般>K 错
    21信道容量CI(XY)关p(xi)条件极值
    22离散噪信道信道容量等log2n中n信源X消息数 错
    23准称信道时达信道容量C错
    24户信道信道容量数代表
    25户信道信道容量数代表信道信息率数表示错
    26高斯加性信道信道容量信道信噪关
    27信道失真传递信息条件信息率信道容量
    28信息传输速率:选择某信源概率分布(p(xi))信道传送信息率值 错
    29具性燥信道信源等概率分布时(p(xi)1n)达信道容量 错
    30求解率失真函数问题:定失真度情况求信息率极值
    31信源消息通信道传输误差失真越信宿收消息信源存确定性越获信息量越 错
    32p(xi)p(yjxi)d(xiyj)定均失真度变量 错
    33率失真函数允许均失真度具凸性
    34率失真函数没值 错
    35率失真函数值0
    36率失真函数值信源输入概率关错
    37信源编码提高通信效性目编码
    38信源编码通常通压缩信源冗余度实现
    39离散信源数字信号信源编码理基础限失真信源编码定理 错
    40般情况哈夫曼编码效率香农编码费诺编码
    41编m(m>2)进制哈夫曼码时考虑否需增加概率0码字均码长短
    42游程序列熵(0游程序列熵1游程序列熵)等原二元序列熵 错
    43游程编码程中0游程1游程应分编码码字重复 错
    44LD编码适合冗余位较较少情况否压缩码率反扩张
    45狭义信道编码指:信道检纠错编码
    46BSC信道信道编码应编码消息m长度等码字c长度 错
    47等重码奇(偶)校验码检出全部奇数位错
    48汉明码种线性分组码
    49循环码种线性分组码
    50卷积码种特殊线性分组码 错

    四简答(20道)
    1 信息特征?(P3)
    2 信息重性质?(P3)
    3 简述种信息分类准方法(P4)
    4 信息研究容?(P6)
    5 简述信息性质(P910)
    6 简述信源熵基性质(P1720)
    7 简述信源熵条件熵联合熵交互熵间关系(P3839)

    8 信道分类方法?(P71)
    9 简述般离散信道容量计算步骤(P82)
    10简述户信道分类(P88)
    11简述信道编码定理(P98)
    12简述率失真函数性质(P108111)
    13简述求解般离散信源率失真函数步骤(P112114)
    14试较信道容量信息率失真函数(P128)
    15简述编码分类种编码目(P131)
    16简述费诺编码编码步骤(P135)
    17简述二元哈夫曼编码编码步骤(P136137)
    18简述广义信道编码分类类编码作(P170)
    19简述线性分组码结构参数(P181)
    20简述循环码系统码构造程(P195)

    五证明(10道)
    1 离散熵定理:信源X中n离散消息时信源熵H(X)

    仅X中消息出现概率全相等时式取等号
    2 证明均互信息量极值性:说明等式成立条件
    3 证明条件熵信源熵:说明等式成立条件
    4 设XX1X2···XN稳离散记忆信源试证明:
    H(X1X2···XN)H(X1)+H(X2X1)+···+H(XNX1X2···XN1)
    5 XYZ三变量试证明:
    I(XYZ)I(XY)+I(XZY)I(XZ)+XYZ)
    6试证明:信道输入X值相应Y值输出X值应Y值相互重合时H(Y)H(X)H(YX)
    7设XXN次扩展信源信道记忆信道时试证明:
    I(XY)N*I(XY)
    8试证明离散记忆N次扩展信源RN(D)NR(D)中N意正整数D
    9试证明离散二元记忆信源熵等应游程序列熵
    10试证明:线性分组码码距dmind仅致效验矩阵H中意d1列线性关某d列线性相关

    六计算(20道)
    1设信源产生01序列信息意时刻前发生什符号均P(0)04P(1)06概率发出符号试计算:
    (1)H(X2) (2)H(X3X1X2) (3)
    2已知信源X条件概率P(YX):

    试计算:H(X)H(Y)H(XY)H(XY)H(YX)H(XY)
    3时扔两正常骰子面呈现概率16求:
    (1)35时出现事件信息量
    (2)两1时出现 事件信息量
    (3)两点数种组合(序)熵均信息量
    (4)两点数(23…12构成子集)熵
    (5)两点数中少1信息
    ( LOG23≈1585 LOG25≈23236 LOG211≈346 )

    4某校入学考试中14考生录取34考生未录取录取考生中50市落榜考生中10市市考生学英语外落榜考生录取外考生中40学英语
    (1)已知考生市时出少关考生否录取信息
    (2)已知考生学英语时出少关考生否录取信息
    (3)x表示否落榜y表示否市学生z 表示否学英语试求H(X)H(Y|X)H(Z|XY)
    5A ensemble X has the nonnegative integers as its sample space Find the probability assignment PX(n)n012 …that maximizes H(X) subject to the constraint that the mean value of X(n0∞)

    is a fixed value A Evaluate the resulting H(X)
    6设单符号离散信源
    (1) 该信源编二进制费诺(Fano)码
    (2) 计算信息熵均码长信息率编码效率
    7已知信源包含八符号消息概率分布表
    A
    B
    C
    D
    E
    F
    G
    H
    01
    018
    04
    005
    006
    01
    007
    004
    ① 该信源秒钟发出符号求该信源熵信息传输速率
    ② 八符号作二进制码元霍夫曼编码写出代码组求出编码效率
    ③ 八符号作三进制码元霍夫曼编码写出代码组求出编码效率
    8设具性噪信道信道矩阵P求信道容量达信道容量时信源概率分布p(xi)
    9设二进制称记忆信道信道矩阵[P]中:0试计算:
    (1)[P]代表信道信道容量C
    (2)[P3]代表信道信道容量C3
    10信道矩阵[P]计算[P]代表信道信道容量
    提示:利公式
    (1)k12···s
    (2)
    11彩色电视显象屏幕5×105 象元设象元64种彩色度种彩度16种亮度层次果彩色品种亮度层次组合均等概率出现组合间相互独立
    (1)计算秒传送25帧图象需信道容量
    (2)果加性高斯白噪声信道信号噪声均功率值63实时传送彩色电视图象信道带宽应?
    12设离散记忆信源失真度汉明失真度
    试计算:(1)DminR(Dmin)
    (2)DmaxR(Dmax)
    13某记忆信源失真矩阵D求该信源失真度
    14设信源(p<12)失真度汉明失真度
    试计算:(1)DminDmax
    (2)率失真函数R(D)
    (3)d时信息率(R(D))
    (4)粗略绘制DR关系曲线
    15某二元等概率信源失真矩阵汉明失真矩阵试计算:
    (1) DminDmaxR(D)
    (2) 信道传输矩阵P(YX)
    19题特例
    16证明错误概率译码似然译码先验等概条件等价设M=2两消息等概令通信道转移概率p<12信道传输译码区间分 试出译码错误概率错判决概率(244位01序列分Y1Y2Y3)
    17设二元(7 4)线性分组码生成矩阵
    出该码致校验矩阵写出伴式相应陪集首接收矢量试计算出应伴式S距离译码准试着译码
    18组码二位信息位编成五位长码字规:
    00 00000
    01 01101
    10 10111
    11 11010
    (1)证明码系统致校验码
    (2)找出生成矩阵致校验矩阵
    (3)记忆二元称信道(p<<)列出似然译码译码表
    (4)计算正确译码概率
    19设分组码具致校验矩阵
    H =
    (1)求分组码n?k?少码字?
    (2)求分组码生成矩阵
    (3)矢量101010否码字?
    (4)设发送码字C(001111)接收序列R(000010)伴式S 什?伴式指出已发生错误什方?什实际错误?

    20Consider two parity check codesCode I is generated by the rule
    x1u1 x4u1⊕u2
    x2u2 x5u1⊕u3
    x3u3 x6u2⊕u3
    x7u1⊕u2⊕u3
    Code II is the same except that x6u2
    (1)Write down the generator matrix and parity check matrix for code I
    (2)Write out a decoding table for code I assuming a BSC with crossover probability ε<
    (3)Give an exact expression for the probability of decoding error for code I and for code II Which is larger
    (4)Find dmin for code I and for code II
    (5)Give a counter example to the conjecture that if one (Nk) parity check code has a larger minimum distance than another (Nk) parity check code it has a samaller error probability on a BSC


    文档香网(httpswwwxiangdangnet)户传

    《香当网》用户分享的内容,不代表《香当网》观点或立场,请自行判断内容的真实性和可靠性!
    该内容是文档的文本内容,更好的格式请下载文档

    下载文档到电脑,查找使用更方便

    文档的实际排版效果,会与网站的显示效果略有不同!!

    需要 2 香币 [ 分享文档获得香币 ]

    下载文档

    相关文档

    金工实习报告-高分子丙 陈运隆

    金工实习报告--高分子丙 陈运隆  实习报告                                       03  高分子丙  陈运隆 090                  ...

    9年前   
    502    0

    信息论习题解答

    第二章 信息量和熵2.2 八元编码系统,码长为3,第一个符号用于同步,每秒1000个码字,求它的信息速率。解:同步信息均相同,不含信息,因此 每个码字的信息量为 2=23=6 bi...

    2年前   
    1205    0

    环境影响 习题集

    环境影响 习题集

    4年前   
    1112    0

    湘潭大学信息论与编码试卷

    湘大信息论与编码试卷一、填空题(每空1分,共30分) (1) 在现代通信系统中,信源编码主要用于解决信息传输中的 有效 性,信道编码主要用于解决信息传输中的 可靠 性 ,加密编码主...

    2年前   
    667    0

    井控技术习题集

    井控技术习题集.中原油田井控培训中心目 录一、 井控根本概念二、 一级井控技术三、 二级井控技术四、 井控装备五、参考答案一、井控根本概念一、名词解释:1 密度2 压力3 当量泥浆密度4 压力...

    1年前   
    308    0

    机械设计习题集

    1.问:常见的齿轮传动失效有哪些形式?  答:齿轮的常见失效为:轮齿折断、齿面磨损、齿面点蚀、齿面胶合、塑性变形等。 2.问:在不改变材料和尺寸的情况下,如何提高轮齿的抗折断能力?  答:可采取...

    4年前   
    1748    0

    主要工作及其细化陈(陈建勤)

     岗位目的、岗位职责、任职资格 岗位名称: 打单员 岗位职责: 1.统计库存娄数 2.统计回款报表 3.打印发机单 4.核销单的领用 ...

    9年前   
    13827    0

    陈总讲话

    陈总车迷交流会发言稿各位来宾、媒体朋友、车迷朋友:大家好!很荣兴应黑龙江《生活报-汽车专刊》邀请,郑州日产帕拉丁车队来到美丽的冰城哈尔滨举行“帕拉丁车队黑龙江车友见面会”,感谢大家对郑州日产、...

    9年前   
    700    0

    陈馨贤

    陈馨贤陈馨贤-《企业公文写作与处理》课程大纲一、课程性质 公文写作是我们经常碰到的工作难题之一,虽然网上有许多通用的公文写作模版和现成的范文,但关键是如何提高自身的公文写作水平,写出既符合规范...

    9年前   
    637    0

    陈主席讲话

      在纪念抗战胜利70周年座谈会上的讲话 陈兴照 同志们: 今天的活动是区诗词楹联学会今年举办的纪念抗日战争胜利70周年座谈会。是学会纪念抗战胜利70周年系列活动之一。过去全民抗战,现...

    5年前   
    1296    0

    陈丽娟作品

    陈丽娟作品《爱的奉献》散是满天星,聚是一团火,在2020年最重要的日子里,全县人民放弃了相聚,放弃了娱乐快速地投入到一场没有硝烟的战争里,搭建起爱的桥梁,以绵薄之力护卫灾区,为前线增送力量。 ...

    4年前   
    1078    0

    管理学的习题集(有答案)

    习题集 第一章 思想 一、判断题 1、管理学反映了管理过程的客观规律性,具有显著的科学性。但是,管理过程中的诸多不确定因素使管理本身无法完全量化,故而只是一种不精确的科学。 (...

    5年前   
    1424    0

    药理学习题集大全

    药理学习题 第一章  绪言 以下每一道考题下面有A、B、C、D、E五个备选答案。请从中选择一个最佳答案。   1、药效学是研究: A、药物的疗效 B、药物在体内的变化过程 C、药物对机体的作用...

    5年前   
    2128    0

    数据结构习题集附答案

    数据结构习题集附答案第一章 绪 论一、选择题1.组成数据的基本单位是( )A.数据项 B.数据类型 C.数据元素 D.数据变量2.数据结构是研究数据的( )以及它们之间的相互关系。A.理...

    3年前   
    858    0

    无答案微机原理习题集

    1.电子计算机主要由 、 、 、 和 等五部分组成。2. 和 集成在一块芯片上,被称作CPU。3.总线按其功能可分 ...

    3年前   
    712    0

    大堂经理任职资格习题集

    大堂经理任职资格习题集 一、单选题 1、大堂经理的职责定位是:()    A.组织与管理网点服务销售    B.组织网点内店堂服务销售、识别分流客户、销售产品、处理客户投诉。    ...

    11年前   
    9902    0

    计量经济学习题集

    《计量经济学》习题集第一章 绪论一、单项选择题1、变量之间的关系可以分为两大类,它们是【 】A 函数关系和相关关系 B 线性相关关系和非线性相关关系C ...

    1年前   
    320    0

    2022安规习题集营销专业部分

    一、单选题(205题)1.全国安全生产电视电话会议于2020年4月10日在北京召开,会议传达学习了习近平重要指示和李克强批示。中共中央总书记、国家主席、中央军委主席习近平就安全生产作出重要指示强...

    2年前   
    1052    0

    《数字信号处理》习题集(附答案)

    第一章 数字信号处理概述简答题:1. 在A/D变换之前和D/A变换之后都要让信号通过一个低通滤波器,它们分别起什么作用?答:在A/D变化之前让信号通过一个低通滤波器,是为了限制信号的最高频率,...

    2年前   
    571    0

    《教育管理原理》复习题集

    1.管理具有两重性,它是(非政治性)与政治性的统一。 2.教育管理属于管理中(公共事业)管理中的一种。 3.学校管理的产生角之于教育阶级的产生要(早) 4.教育阶级是国家发展到一定阶段的(产物)...

    2年前   
    418    0

    文档贡献者

    文***享

    贡献于2023-10-23

    下载需要 2 香币 [香币充值 ]
    亲,您也可以通过 分享原创文档 来获得香币奖励!
    下载文档

    该用户的其他文档