信息论与编码知识点分布(共5页).doc

精选优质文档-倾情为你奉上信息论与编码知识点分布注：（1）复习过程中参考如下知识点，重点复习教材与多媒体讲义中的相关内容，在理解的基础上进行针对性公式记忆。（2）期末考试题量较大，题型较为灵活，求解速度很重要。因此复习中对典型例题、讲义中典型习题、教材中模拟题等要熟练掌握求解方法。第二章 信源与信源熵1信源的不确定性2单符号离散信源 （1）单符号离散信源的数学模型（2）单符号离散信源的信息量（自信息量 、联合信息量、条件信息量及三种信息量的关系） 自信息量：条件信息量：联合信息量：互信息量： 信源熵：条件熵：联合熵：熵函数的性质：非负性；对称性；最大离散熵定理；扩展性；可加性；极值性；平均互信息量：各种熵之间的关系：例题：在理解的基础上求解实际问题：3多符号离散平稳信源 离散无记忆扩展信源：定义； 离散无记忆信源X的N次扩展信源的熵就是离散信源X的熵的N倍 离散平稳信源：定义；平均符