《信息论与编码》复习试题.docx

1.2.3.4.5.6.7.8.9.10.11.12.13.14.15.16.17.18.19.20.21.22.23.24.25.26.27.28.29.30.31.32.33.34.35.36.37.38.39.40.41.42.43.44.45.46.47.48.49.50.51.52.填空人们研究信息论的目的是为了高效、可靠、安全地交换和利用各种各样的信息。信息的可度量性是建立信息论的基础。统计度量是信息度量最常用的方法。是香农信息论最基本最重要的概念。事物的不确定度是用时间统计发生概率的对数来描述的。单符号离散信源一般用随机变量描述，而多符号离散信源一般用随机矢量描述。一个随机事件发生某一结果后所带来的信息量称为自信息量，定义为其发生概率对数的负值。自信息量的单位一般有比特、奈特和哈特。必然事件的自信息是亠。不可能事件的自信息量是亠。两