马尔可夫链的状态分类马尔可夫链的状态分类一、互通与闭集一、互通与闭集1互通则称自状态i可到达状态j则称状态i和状态j互通说明说明如果自状态i不能到达状态j,定理定理1即它满足(1)自反性)自反性(2)对称性)对称性证(3)传递性)传递性(1),(2)显然,下证(3)证证3则由相通定义,根据切普曼-柯尔莫哥洛夫方程,有同理可证说明说明 按互通关系是等价关系,可以把状态空间 S 划分为若干个不相交的集合(或者说等价类),并称之为状态类。若两个状态互通,则这两个状态属于同一类。任意两个类或不相交或者相同。2闭集设C为状态空间S 的一个子集,则C称为闭集注1 若C为闭集,则表示自C内任意状态i出发,始终不能到达C以外的任何状态j。显然,整个状态空间构成一个闭集。吸收态指一个闭集中只含一个状态注2若状态空间含有吸收状态,那么这个吸收状态构成一个最小的闭集。3不可约的 若除整个状态空间 S 以外没有其它的闭集,则称此马氏链是不可约的。如果闭集C的状态都是互通的,则称闭集C是不可约的。例例1其一步转移矩阵为试研究各状态间的关系,并画出状态传递图。解先按一步转移概率,画出各状态间的传递图2/31/41