信息论复习题一、名词解释1、信息2、离散信源3、自信息量4、离散平稳无记忆信源5、马尔可夫信源6、连续信源7、信源冗余度8、连续信道9、信道容量10、强对称信道11、对称信道12、信息熵13、平均互信息14、平均失真度15、码的最小距离16、率失真函数二、判断1、必然事件和不可能事件的自信息量都是0。错2、自信息量是p(xi)的单调递减函数。对3、单符号离散信源的自信息和信源熵都具有非负性。对4、自信息量、条件自信息量和联合自信息量之间有如下关系:I(xy)=I(x)+I(y/x)=I(y)+I(x/y)ijijijij5、自信息量、条件自信息量和互信息量之间有如下关系:I(X;y)=I(x)-1(x/y)=I(y)-1(y/x)对ijiijjji对6、当随机变量X和Y相互独立时,条件熵等于信源熵。对7、当随机变量X和Y相互独立时,1(X;Y)二H(X)。错8、信源熵具有严格的下凸性。错9、平均互信息量I(X;Y)对于信源概率分布p(x)和条件概率分布p(y/x)都具有凸