精选优质文档-倾情为你奉上一、霍夫曼编码(Huffman Codes)最佳编码定理：在变长编码中，对于出现概率大的信息符号编以短字长的码，对于出现概率小的信息符号编以长字长的码，如果码字长度严格按照符号出现概率大小的相反的顺序排列，则平均码字长度一定小于按任何其他符号顺序排列方式的平均码字长度。霍夫曼编码已被证明具有最优变长码性质，平均码长最短，接近熵值。霍夫曼编码步骤：设信源有个符号(消息)，1. 1. 把信源中的消息按概率从大到小顺序排列，2. 2. 把最后两个出现概率最小的消息合并成一个消息,从而使信源的消息数减少，并同时再按信源符号（消息）出现的概率从大到小排列；3. 3. 重复上述2步骤,直到信源最后为为止；4. 4. 将被合并的消息分别赋予1和0，并对最后的两个消息也相应的赋予1和0；通过上述步骤就可构成最优变长码(Huffman Codes)。例：则平均码长、平均信息量、编码效率、冗余度为分别为：二 预测编码（Predictive encoding）在各类编码方法中，预测编码是比较易于实现
