信息理论与编码-期末试卷A及答案6页.doc

题号 题号一二信息论与编码三四总分统分人题分35102332100得分一、填空题（每空1分，共35分） 得分| |阅卷人| 1、1948年，美国数学家 发表了题为“通信的数学理论”的长篇论文，从而创立了信息论。信息论的基础理论是 ，它属于狭义信息论。2、信号是 的载体，消息是 的载体。3、某信源有五种符号，先验概率分别为，则符号“a”的自信息量为 bit，此信源的熵为 bit/符号。4、某离散无记忆信源X，其概率空间和重量空间分别为和，则其信源熵和加权熵分别为 和 。5、信源的剩余度主要来自两个方面，一是 ，二是 。6、平均互信息量与信息熵、联合熵的关系是