精选优质文档-倾情为你奉上3-1 设有一离散无记忆信源，其概率空间为，信源发出符号通过一干扰信道，接收符号为，信道传递矩阵为，求：（1） 信源中事件和分别含有的自信息量；（2） 收到消息（j1，2）后，获得的关于（i1，2）的信息量；（3） 信源和信宿的信息熵；（4） 信道疑义度和噪声熵；（5） 接收到消息后获得的平均互信息量。解：（1）（2），（3）（4）（5）3-2 设有扰离散信道的输入端是以等概率出现的A、B、C、D四个字母。该信道的正确传输概率为0.5，错误传输概率平均分布在其他三个字母上。验证在该信道上每个字母传输的平均信息量为0.21比特。证明：信道传输矩阵为：，信源信宿概率分布为：，H(Y/X)=1.79（bit/符号），I(X;Y)=H(Y)- H(Y/X)=2-1.79=0.21（bit/符号）3-3 已知信源包含两种消息：，且，信道是有扰的，信宿收到的消息集合包含。给定信道矩阵为：，求平均互信息。解：I(X;Y)=H(X)+H(Y)-H(XY)H(X)=1 bit/符
