第五章:信道与信道容量信道与信道容量 杨杰本章节达到的目的了解信息论研究信道的目的、内容了解信道的基本分类并掌握信道的基本描述方法掌握信道容量/信道容量代价函数的概念,以及与互信息、信道输入概率分布、信道转移函数的关系能够计算简单信道的信道容量/信道容量代价函数(对称离散信道、无记忆加性高斯噪声信道)了解信道容量/容量代价函数在研究通信系统中的作用理解香农第一定理又称无噪信道编码的物理意义进一步从信息论的角度理解香农公式及其用途概念问题熵熵率无失真信源编码定理中的作用互信息信道容量信道编码定理中的作用回顾互信息函数的性质1互 信息与信道输入概率分布的关系性质1:I(X;Y)是信道输入概率分布p(x)的上凸函数.回顾互信息函数的性质2 信息量与信道转移概率分布的关系 性质2:I(X;Y)是信道转移概率分布p(y/x)的下凹函数.回顾互信息函数的性质3信息量与信道输入符号相关性的关系 性质3:信道的输入是离散无记忆的,回顾互信息函数的性质4 信息量与信道输入符号相关性的关系 性质4:信道是离散无记忆的,回顾互信息函数的性质5性质3、性质4的推论:信道的输入和信道本身都是离散无记忆的信道与信