1、例 1 (随机徘徊 ) 无限制地抛掷一枚硬币,并按照每次抛掷结果是正面或反面,让一个粒子从初始位置 0 点出发,在直线上分别向右或向左走一步。问:抛掷了 n 次后,粒子恰走到 m 的概率。事实上,由于粒子是从初始位置 0 点出发的,因此,当 n|m|时,粒子是不可能走到m 的,而“抛掷了 n 次后,粒子恰走到 m”意味着:在 n 次走动中,恰好向左走了步;而向右走了 步此即 n 次抛掷中恰有 次掷得正面;有 次2n222m掷得反面因此,这就需要 m 与 n 同为奇偶数。所求概率为 (当 n|m|且 m 与 nmnC1同为奇偶数时),否则概率为 0。综上所述,研究一个随机试验,就是要有一个三元组
2、:(,F,P),它称为概率空间,其中 是全体可能结果组成的集合;F 是全体可观测事件 (可以合理地给出概率的事件)组成的事件族;而 P 应该看成一个整体,而不是单个概率值,即 P 是 F 上定义的一个取值于0,1区间的函数。同时,加法公理应该满足,而且必然事件的概率应该为 1。随机过程的定义:研究对象是随时间演变的随机现象。例 1随机相位正弦波 X(t)=Acos(t +),t(,+) ;U(0,2)图 1例 2以 X(t)表示电话交换台在时间间隔0,t内接到的呼叫的次数,是一随机过程。0,例 3独立地连续掷一骰子,设 为第 n 次独立地掷一骰子所出现的点数,则X为一相互独立同分布的随机序列(
3、过程) ,其指标集为 T1,2,3, ;状1n,态空间为 S 1,2,3,4,5,6 ;如果把序列3,2,3,4,6,5,l,3,称为的一条轨道,它表示第 1,3,8 次掷得“3”点,第 2 次掷得“2”点,第 4 次掷得nX“4”点,第 5 次掷得“6”点,且此时 有均值为 E 3.5,方差为 D( )nXnnX17.5,n1,2,协方差为 Cov( , )0,ijiX定义 1 设(,F,P)是一个概率空间,一族随机变量 称为一个随机过程,TtX),(其中 T 称为指标集,对 T 中的每个 t,X(t)是一个随机变量 X(t, ),对每个固定的 ,是一个定义在 T 上,和 X(t)有同样取值
4、范围的实值函数,称之为随机过tX:),(程 X 的一条(样本)轨道对所有固定的 t,X(t)的全体可能的取值,称为 X 的状态空间,对离散随机变量的随机过程,状态空间都可认为是正整数集,因为任何可数集与一正整数集是一一对应的把全体状态编号,以其编号代表状态就行了。我们常常把 t 解释为时间一般来说, T 是一个无限集合,如果它是可数集合,如T0,1,2, ,此时称 X 为离散参数的随机过程,或随机序列,当 T0,+)或(,+ )则称 X 为连续参数的随机过程。X 的全体有限维联合分布族称为 X 的概率分布。例 4在上例中,如果根据每次掷得的点数决定一个粒子在平面格点上作如下运动:如果掷得 l,
5、2,3,4 点,则分别向上、下、左、右移动 1 步,如果掷得“5”或“6” ,点,则不动。如果粒子从原点(0, 0)出发,记在第 n 步粒子所在位置为 (X(n),y(n) ,则我们就得到两个随机过程X(n) ;n 0,l ,以及Y(n);n0,l, 这个随机模型称为2-维随机徘徊。例 5 无限制地抛掷一枚硬币,并按照每次抛掷结果是正面或反面,让一个粒子在直线上分别向右或向左走一步。如果我们要研究,这样走下去,最终随机运动的趋向等问题,就需要将无穷多步粒子各自所在的位置作为一个整体来考虑,找出它取值的统计规律。为此,我们先要考虑无限制地抛掷硬币所得结果这一随机序列,因为它完全决定了粒子的走法。
6、假设每次抛掷得到正面的概率是 p,这个试验的全部可能的结果组成的集合是 21021 ,;,:, nn(其中“1”表示正面, “0”表示反面 )。于是,我们就有了概率空间(,F,P)若将第 n 步粒子所在的位置记为 Sn,那么,在这里我们就需要研究一连串随机变量之间的动态关系,即同时研究 这无21,:穷个随机变量作为整体时,它取值的统计规律。令其 它 情 形次 抛 掷 出 现 正 面若 第0,n1)(nnX由于随机徘徊是按照硬币的抛掷结果或向右或向左走一步,因此,我们可引入一独立随机变量序列Z n满足P(Zn1)p, P(Zn1) 1p (nl,2, )显然SnS n1 Z nS 0 十 k1注
7、意到 Zn 与 2Xn1 是同分布的,于是 , kXS10210,ia显然,这里的 是一列同分布的随机变量序列:,2P(Xn1)p, P(Xn0)1p (nl,2,)又因为各次抛掷是独立的,我们有ki ininknn aXPaXaXP121,可见 又是相互独立的,所以, 是一列相互独立同分布的序列, ,(简记为 iid序列)上述这样的随机序列 是一个最简单的随机过程,称之为贝努利序列。我们1nX,称 的取值范围 S0, 1为随机过程 的状态空间对每一个固定的nX1nX,, 就是一个取值为“0”或“l”的无穷序列,称之为 X 的一条轨n,道(或样本轨道)。X 的一条典型的样本轨道如图 2 所示我
8、们称 为随机徘0nS,徊,它的一条轨道是一个取值为整数的无穷序列,它的状态空间是全体整数它的与图 2相对应的一条轨道如图 3 所示。图 2 图 3在例 1 中,我们已经给出了一个随机变量 的概率分布(这里 ):nX0X(qlp,n1,2,)22knknnpCXP因为上面的概率就是:n 个相互独立的随机事件 ,(i = l,2,n)中恰好有iZ个发生的概率这是因为 要到达状态 k,所需的步数 n 不可能小于| k |,故 n| k 2kn|。若记 :和 ;分别表示在前 n 步中正面和反面的出现次数,则显然有nNnNnX两式相加,可得 n21因此 kn nXN注意到 必为偶数,因此,若 n 为偶数
9、,则 也为偶数;若 n 为奇n nX数,则 也为奇数。nXniinii kMPkPk110 22表示 n 次抛掷中正面恰好出现 次的概率,故只有当 n|k|niiM1且 n 与 k 的奇偶性相同时,此概率才为非零,即等于 22knnqpCXP同理,一般地,对初始状态为 的简单随机徘徊 ,类似xX0 iixZ1可得 其 它 情 形 同 为 奇 偶 数与且若0, x-kn|-|22,xknxknxnqpCXP例 6 对简单随机徘徊 ,求出经过,n4 步, =2 的概率。1X, nX解 由上式知331442ppCP下面我们来考察 x 的最重要的统计特征有限维联合分布,这里我们先讨论简单的情形(2 维
10、的情形),我们要求的概率是2222211 1rsnmrsnmrsnrrnmiiii nnn pCpCZPrsXrsXr ,在前面我们已经看到:随机徘徊 X 是一列相互独立的随机变量的部分和序列。于是,它在s 个互不相交的区间 上的增量分别为s,21,111mniimZX2221mniiZX,ssssmniimZX1它们各自是 s 组相互独立的随机变量的和,因此它们也相互独立而且对任意 s 个互不相交的区间,都有上述的独立性。随机过程的这种性质称为独立增量性。定义 2 设 是一个随机过程,如果它在任意 s 个互不相交的区间上n,的增量 , , 都相互独立,称随机过程 X 为一个独11nmX22m
11、ssnmX立增量过程又如果对任意的 n0,都有 (n0) 对一切 m 同分布,则称 X 为一个时齐的独立增量过程显然,简单随机徘徊就是一个时齐的独立增量过程。对独立增量过程,容易知道有如下的结论:命题 1设 是一个独立增量过程,我们增补定义 ,则全部随1nX, 0机变量 , (mn)的概率分布 就决定了随机过程nm21,;jzXPnmX 的概率分布如果 X 还是时齐的,则全部随机变量 (n0) 的分布就决定了随机过程X 的分布 在物理学中,很多确定性现象遵从如下演变原则:由时刻 系统或过程所处的状态,0t可以决定系统或过程在时刻 所处的状态,而无需借助于 以前系统或过程所处状态0t的历史资料。
12、例如,我们考虑一在直线上作对称随机徘徊的粒子,以 表示粒子在时刻 n 时的位nX置,则其状态空间为 Z(全体整数组成的集合),若在 n 时刻粒子位于 i (即 i) ,那么,粒子在下一时刻 n1,或者以 0.5 的概率跳到 i l,或者以 0.5 的概率跳到 i1在这一模型中,最有趣的现象是:粒子在 n1 时刻的位置:只依额于它在 n 时刻的位置,而不依赖于它在 n 时刻前的位置。这一性质就是所谓的 Markov 性( 这个名字由它的首创者俄国数学家 Markov 而得名)。具有 Markov 性的随机过程称为 Markov 过程,它是一类广泛适用于各种领域的重要的随机过程。定义 3一随机过程
13、 称为一个离散参数的 Markov 链,如果 ,0Xn, SXnnl ,2,3,),其中 S 为个有限或可数集合( 称为此 Markov 链的状态空间),并且对任意的 都有,iijn10 iXjPiXinn nn | ,1 110称条件概率 为该 Markov 链的( 一步)转移概率;并记为 ,若| )(npij与 n 无关,则称 Markov 链为齐次的。)(pij例 7 (随机徘徊) 对简单随机徘徊 ,其状态空间为 S=Z,由 的定义0nX, nXnknZX10)(其中 若为独立同分布随机变量序列,满足 ,Zk, pPk1,这里 表示一个粒子分别以概率 p、q 向右与向左走一步。前qpPn
14、X面所讲简单对称随机徘徊就是这里 p=0.5 的情况。由于 都是nX,10的部分和,因此,它们和 相互独立,故nZ,10 1nZ 其 它011 11010ijqpijZP iXiiXij iiiijXn nn, ,| ,| 从而: iXjPiXinn nn | ,1 110故简单随机徘徊 是一齐次 Markov 链且:,其 它01ijqpij, pqpPij 0例 8(两端反射壁的随机徘徊 ),在上例中,如果在位置 a 与 b(ab)分别设立一个反射壁,即当粒子到达 a 与 b 时,下一步以概率 1 分别反射到 a+1 与 b-1,于是粒子运动仍然是一Markov 链,其它统计规律和例 7 相
15、同,只是 , ; , 1ap, )(,ajja01bp, )(,bjpjb00100001 pqpqpPij例 74(品牌选择)市场上销售 A,B,C ,D 四种牌子的牙膏根据市场调查表明,可近似地认为,消费者购买哪一种品牌的牙膏,仅与他前一次购买的品牌有关,而与这之前购买的品牌无关记 xo 为某消费者最初所购买的牙膏的品牌,Xl,x2,分别表示他在这之后各轮所购买的牙膏的品牌,则 Ix”,720l 为一 MEm 儿 ov 链,其状态空间为 SIA ,月,C ,D 6,它的转移概率矩阵可以从市场调查中获得,比如说为在这个问题中,我们感兴趣的是这四种品牌的牙膏的市场占有率随时间的推移而发生的变化
16、情况,关于它,我们在以后将作具体的讨论例 7。5 (赌博模型,两端吸收壁随机徘徊) 设某赌徒有赌本 i(31)元,其对手有赔本 oi0 元,每赌一次该赌徒均以夕的概率赢一元,以 g1夕的概率输一元赌博一直到两赌徒中有一人破产才告结束,因此,赢的赌徒最终有总赌资“元,求该赌徒的破产概率解 记 A 为赌徒有赌本 i 元而最终破产的概率求此概率的关键是给出下面的事件关系式,其方法称为首步分析法: 、Aj1 有赌本 i 元而最终破产 1 若记 B1 该赌徒第 1 次赌赢 9,则由上述关系式及全概率公式,我们可得这是一个差分方程,且它有边界条件 一加二尸(有赔本 0 元而最终破产 )1久尸(有赔本。元而最终破产 )o为解(18) ,注意到它等价于故当多0 且夕乒十时,有令 z,“,则可求得从而得到:当夕o 且多,E 专(即户,6g) 时当户g音时,由(19)式,我们有第 l 章中所讲的赌徒破产问题也可归结为一 M 比奴)v 链问题来研究假如一赌徒在每局赌博中,赢 1 元概率为夕,而输 l 元的概率为 g1入一旦该赌徒输光或他的赌金变为 N 元时,他就退出赌博设 X”为该赌徒在 n 时刻时的赌金,那么,容易验证 1xg,n01 是一齐次 Markov 链,它的状态空间为 510,l,2,Nl,N1,其转移概率为状态 0 和 N 有特殊的含义,一旦进入这两个状态后,再也不能从这些状态中出