1、第 1 页 共 12 页考试科目名称：信息论一. 单选（每空 2 分，共 20 分）1. 信道编码的目的是（ C ） ，加密编码的目的是（ D ） 。A保证无失真传输 B压缩信源的冗余度，提高通信有效性C提高信息传输的可靠性D提高通信系统的安全性2. 下列各量不一定为正值的是（ D ）A信源熵B自信息量C信宿熵D互信息量3. 下列各图所示信道是有噪无损信道的是（ B ）AB第 2 页 共 12 页CD4. 下表中符合等长编码的是（ A ）第 3 页 共 12 页5. 联合熵 H（XY）与熵 H（X）及条件熵 H（X/Y）之间存在关系正确的是（ A ）AH（XY）H（X）H（YX）BH（XY）H
2、（X）H（XY）CH（XY）H（Y）H（X）D若 X 和 Y 相互独立，H（Y）=H（YX ）6. 一个 n 位的二进制数，该数的每一位可从等概率出现的二进制码元（0，1）中任取一个，这个 n 位的二进制数的自信息量为（ C ）A n2B1 bitCn bitD 27. 已知发送 26 个英文字母和空格，其最大信源熵为 H0 = log27 = 4.76比特/符号；在字母发送概率不等时，其信源熵为 H1 = 4.03 比特/ 符号；考虑字母之间相关性时，其信源熵为 H2 = 3.32 比特 /符号；以此类推，极限熵 H =1.5 比特/符号。问若用一般传送方式，冗余度为（ B ）A0.32第
3、4 页 共 12 页B0.68C0.63D0.378. 某对称离散信道的信道矩阵为 ，信道容量为（ B ）A )61,3,(24logHCB ),(lC )61,3,(2logHD ),(l9. 下面不属于最佳变长编码的是（ D ）A香农编码和哈夫曼编码B费诺编码和哈夫曼编码C费诺编码和香农编码D算术编码和游程编码二. 综合（共 80 分）1. （10 分）试写出信源编码的分类，并叙述各种分类编码的概念和特性。第 5 页 共 12 页 非分组码分组码 奇异码非奇异码 非唯一可译码唯一可译码 非即时码即时码（非延长码）码（5分）（1 分）将信源消息分成若干组，即符号序列 xi，xi(xi1xi2
4、xilxiL)，xilA=a1，a2，ai ，an每个符号序列 xi 依照固定码表映射成一个码字 yi，yi(yi1yi2yilyiL)，yilB=b1，b2 ，bi，bm这样的码称为分组码，有时也叫块码。只有分组码才有对应的码表，而非分组码中则不存在码表。（1 分）奇异码和非奇异码 若信源符号和码字是一一对应的，则该码为非奇异码。反之为奇异码。（1.5 分）唯一可译码 任意有限长的码元序列，只能被唯一地分割成一个个的码字，便称为唯一可译码 （1.5 分）即时码：只要收到符号就表示该码字已完整，可以立即译码。即时码又称为非延长码，任意一个码字都不是其它码字的前缀部分，有时叫做异前缀码。2. （
5、15 分）有一个二元二阶马尔可夫信源,其信源符号集为0，1 ，已知符号条件概率：p(0|00) = 1/2 p(1|00)=1/2第 6 页 共 12 页p(0|01) = 1/3 p(1|01)=2/3p(0|10) = 1/4 p(1|10)=3/4p(0|11) = 1/5 p(1|11)=4/5求：（1）. 信源全部状态及状态转移概率；（2）. 画出完整的二阶马尔可夫信源状态转移图；（3）. 求平稳分布概率。解：（1）. 符号条件概率矩阵状态转移概率矩阵（5分）12234()/3(|)(/4015jiaspas5/410/343/2/2)|(314sspsij第 7 页 共 12 页（
6、2）. （5 分）（3）. 平稳分布概率（5分）3. （20 分）具有符号集 的二元信源，信源发生概率为：,10uU。Z 信道如图 所示，接收符号2,)(,)(10 pup集 ，转移概率为： 。发,10vV quvquvq1)|(,1)|(0出符号与接收符号的失真：。),(),(0),(),( 100110dud（1）. 计算平均失真 ；D（2）. 率失真函数 R(D)的最大值是什么？当 q 为什么值时可达到该最大值？此时平均失真 是多大？15432131424321 4321WWWpijji 7,56,54311()(|)iiias22 63426|35573iii 19第 8 页 共 12
7、 页（3）. 率失真函数 R(D)的最小值是什么？当 q 为什么值时可达到该最小值？此时平均失真 是多大？D（4）. 画出 R(D)-D 曲线。解：（1）. 已知信源符号概率 ；210,1)(,)(0 pup转移概率矩阵 ；quvqij)|(失真矩阵 ；01),(jid联合概率矩阵 ；)1()(0),( qpqvupji。 （5分）vudpDjiji 110),(,ij （2）. maxR(D)=R(Dmin)=H(X)=-plogp-(1-p)log(1-p)；当 q=0 时，Dmin=0，即得到 maxR(D)；=0。 （5 分）D（3）. minR(D)=R(Dmax)=0；当 q=1
8、时，转移概率矩阵 ，可使得到01)|(ijuvqminR(D)；第 9 页 共 12 页=1-p。 （5 分）D（4）. （5 分）4. （15 分）一个平均功率受限制的连续信道，其通频带为 1MHz，信道上存在白色高斯噪声。（1）. 已知信道上的信号与噪声的平均功率比值为 20，求该信道的信道容量；（2）. 信道上的信号与噪声的平均功率比值降至 10，要达到相同的信道容量，信道通频带应为多大？（3）. 若信道的通频带增加至 2MHz 时，要保持相同的信道容量，信道通频带应为多大？解：（1）. 已知 SNR=20 sMbitSNRWNsPC /392.41log)1log()01log( 第
9、10 页 共 12 页（5 分）（2）. 若 SNR=10，C=4.392Mbit/s；)10log(392.4WW=1.27MHz（5 分）（3）. 若 W=2MHz，C=4.392Mbit/s ；)1log(29.4SNRSNR=3.582（5 分）5. （20 分）信源符号 X 有 6 种字母，概率为0.32，0.22，0.18，0.16，0.08，0.04。（1）. 求符号熵 H（X） ；（2）. 用费诺（Fano）编码法编成二进制变长码，求出平均码长和编码效率；（3）. 用香农（Shannon）编码法编成二进制变长码，求出平均码长和编码效率；（4）. 用哈夫曼（Huffma）编码法编成三进制变长码，求出平均码长和编码效率。解：（1）. （5 分）i ii bitapXH号/3.2)(log)()(（2）. 费诺编码法编成二进制变长码（5 分）信源符号符号概率p(ai)第 1分组第 2分组第3分组第4分组平均码长 )(logp-Kia 码字a1 0.32 0 2 00a2 0.2201 2 01
