1、第二章 信源及信源熵2-1 (4)2-22-3 2-4 38Log83 14Log 4( )14Log 4( )18Log 8( ) 1.906601.906 114.362-5 (1,2) (2,1) 共两种 Log362 4.17(1,6) (6,1) (2,5) (5,2) (3,4) (4,3) 共六种 Log 366 2.5852-6 014 个 1-13 个 2-12 个 3-6 个P=I= 2-7 Log 2( ) 1 Log 4( ) 2 Log 8( ) 32-8 “” 用三个脉冲 “”用一个脉冲(1) I()= Log 4( ) 2 I() Log43 0.415(2) H
2、= 14Log 4( )34Log43 0.8112.9 (2) P(黑/黑)= P(白/黑)= H(Y/黑)= (3) P(黑/白)= P(白/白)= H(Y/白)= (4) P(黑)= P(白)= H(Y)= 2-10 (1) H(色)=(2) P(色数)= H(色数)=(3) H(数/色)= H(色数)- H(色)=2-11 (1)H(XY)=724Log247 124Log 24( ) 0124Log 24( )14Log 4( )124Log 24( ) 0124Log 24( )724Log247 2.301(2) P= 得到 H(Y)=(3) H(X/Y)=H(XY)-H(Y)=
3、2-12 (1) HX( ) 1 HY( ) 1 (2)(3)2-13 P(i)= P(ij)= H(IJ)= 2-14 (1)P(ij)= P(i/j)=(2) 方法 1: = 方法 2: 2-15P(j/i)= 2-16 (1) (2) 设最后平稳概率为 W1,W2得 W1=07 W2=0.31 1黑 白H(Y/黑)= 0.9143 Log 0.9143( ) 0.0857Log 0.0857( ) 0.422H(Y/白)= 0.2 Log 0.2( ) 0.8Log 0.8( ) 0.722H(Y/X)=W1 H(Y/黑)+ W 2 H(Y/白)= 2-17 (1)(2)2-24(1)
4、H(X)= (2) = (3) 2-25解方程组黑 白PTW WW1 W2 1即0.250.750.50.5W1W2W1W2解得W1=0.4 W2=0.62-26 P(j/i)= 解方程组 求得 W=2-27 S1S2 S31/31/21/22/31/32/3求平稳概率符号条件概率 状态转移概率 解方程组得到 W=2-28(1) 求平稳概率 P(j/i)= 解方程组得到 (2) 信源熵为: 2-29 P(j/i)= 解方程组 得到 W1= , W2= , W3= 2-30P(i/j)= 解方程组 得 W1=W2=W3=信源熵为 2-31P(X1)= P(j/i)= P(X1X2)= （1）a. b. 求 H(X2/X1)有两种方法：方法 1：方法 2：H(X 2/X1)=P(x 1x2)log(x2/x1)=c. 求 H(X3/X2)P(X2)= 则方法 1：P(X3/X2)= ) + + = 方法 2：P(X 3/X2)=d. 最后（2）首先求解稳定情况下的概率解方程组得到W1 ）W 2 W 3 =(3) 不做2-32 (1)P(j/i)= 求解方程组
