1、第二章 随机过程基本概念,自然界和现实生活中发生的现象一般分为两类现象，一类为确定性现象，另一类为不确定性现象。何谓确定性现象呢？如果我们向上抛一支粉笔，则该粉笔必然下落；水在100必然会开；同性相斥，异性相吸等等，这类现象称为确定性现象。大学一二年级所学的微积学、代数、议程等主要是研究确定性现象。对于确定性现象又可称为必然现象。必然现象的主要特点是条件和结果之间存在着必然联系，即条件具备，某种结果必然发生，因此我们可由条件预测结果。,而另一类现象在自然界社会工程中也是经常出现，即不确定性现象，又可称为随机现象，或偶然现象，其特点是条件和结果之间不存在的必然联系，无必然的因果关系，因此不能用必
2、然条件的方法来加以定量研究。如，在相同条件抛同一枚硬币，其出现的结果可能有两种，正面或反面，但最终结果到底是正面还是反面不能预先断言。又如商店每天的营业额，一天中不同时刻的气温等这些现象都是不确定现象。由于不确定现象不存在因果关系，是不是它们就没有规律可研究呢？事实上，人们经过长期实践研究后发现，虽然随机现象就每一次试验结果来说具有不确定性，但在相同条件下大量重复试验其结果就呈现出某种规律性，著名的蒲丰试验表明在相同条件下大量重复抛一枚硬币出现正面的次数大致等于出现反面的次数。,上述事实表明，随机现象从一次试验上看，似乎没有什么规律存在，但当它们大量出现时，从总体上讲却呈现出一种总体规律性，这
3、就是统计规律，这种统计规律的存在，就是随机数学的研究基础。因此今后我们在随机数学中，一说“统计规律”时大家就要想到大量重复的试验。概率统计随机过程就是研究随机现象是否具有统计规律性的一门数学学科。统计方法的基本思想是从一组样本分析、判断整个系统的状态，或判定某一论断以多大的概率来保证其正确性，或算出发生错误判断的概率，简言之就是“由局部推测总体”，“由特殊来研究一般”，是归纳法的具体应力。,为了研究随机现象，下面我们首先需要给出如下几个定义解释：,随机试验：具有下述三个特点的试验称为随机试验。可以在相同的条件下重复进行。每次试验的可能结果不止一个，并且能事先确定试验的所有可能结果。每次试验前不
4、能确定哪个结果会出现。随机事件：随机试验的所有可能出现的结果。必然事件：随机试验中必然发生的事情。 注意：必然事件和不可能事件不是随机事件，但为了 今后讨论，我们把它作一种特殊的随机事件。,样本空间：随机试验中所有可能出现的结果(事件样本)，组成的集合叫做随机试验的样本空间，记为S。随机变量：设E是随机试验，它的样本空间S=e，如果对于每一个，都有一个实数X(e)与之对应，则X为定义在S上的随机变量。有了随机变量我们就可以在一定的统计意义下，定量地用随机变量描述随机现象的变化规律，从而达到认识世界和改造世界的目的。再者，引入了随机变量，我们可以利用数学分析的方法更好地研究随机现象。由此我们可以
5、简单的说概率统计的研究对象就是研究随机世界(空间)中随机变量的变化规律，为此我们自然需要考虑建立随机变量的“函数关系”，这个“函数关系”在随机数学中我们一般用随机变量的分布函数、或者分布律及数字特征等来描述。,2.1 随机过程的概念引入,我们知道，在自然界中的变化过程可以广义地分为两类。一类为确定性过程，另一类为不确定性过程或随机过程。何谓过程呢？通俗讲凡和时间有关的变化称为过程。例如真空中的自巾落体运动，假定初速为零，则有,这个函数关系确定了物体在任意时刻离开初点的精确位置，存在必然确定的因果关系，显然X与时间t有关，构成一个过程。这个过程我们把它称为确定性过程。另一类过程是没有确定的变化形
6、式，没有必然的变化规律，如商店每天的营业额M，显然是一个不确定量即随机变量，进一步分析知该营业额M还和时间t有关，即M(t)，由此M构成一个过程，这里称这个过程为随机过程；又如传呼台传呼小组每天接到传呼的次数，X显然不能确定，即为随机变量，进一步分析知这个X还和时间t有关，即X(t)，所以X(t)也构成一个过程，即随机过程；类似地，气温、气压、商店每天的顾客流量等都构成一个随机过程。,下面我通过一个具体的过程实例来导出随机过程一般的数学定义。,设有一电子直流放大器,其中U(t)为输入信号，K为放大器，也表示对输入 信号U(t)的放大倍数，X(t)为放后的输出信号。,显然对于该放大器，当U(t)
7、=0，也就是没有输入信号时，X(t)应为零，但是由于放大器内部元件以及外部电磁波等各种干挠的影响，使得当U(t)= 0时，输出U(t)0，由此造成所谓的输出零点漂移。,进一步分析发现这个输出零点漂移在相同条件，比如每天的某一时刻进行观测，如果我们观测是了n天，就可得n条输出零点漂移曲线， 把这些曲作出，如图1.2所示。,可以发现这些曲线形态不一样，即每条曲线各不相同，不能用统一的确定函数表示，但它们都是时间t的函数即零点漂移构成一个随机过程记为X(t)，也可以说这些曲线的全体（时间函数的全体）集合就构成了一个零点漂移随机过程，即X(t)=x1(t),xn(t)，其中每一曲线xi(t)又可称为随
8、机过程的样本曲线函数（时间函数），i=1,2,n。显然，由图1.2所所示的在一次实验结果中，随机过程必取一个样本函数，但究竟取哪一个函数则在试验前不能确定，但是在大量的重复实验中，可知道随机过程呈现出统计规律性。因此直观地讲，随机过程既是时间t的函数，也是试验可能结果e的函数，记为X(t,e)。,进一步分析可以看出对于随机过程X(t)=x1(t)。当我们取定t=ti时刻时有由图1.2可以看出，取值各不相同，没有必然的规律。若把x1(ti),xn(ti)看成是随机过程X(t)在时刻ti的各种可能取值，很显然X(ti)是一个随机变量。,在地震勘探工作中，我们通过检波器把混有随机干扰的随时间变动的地
9、层结构信号记录下来，如图1.3所示。,在O点放炮，在A点记录仪把接收到的混有干扰的地震信号波记录下来，我们在相同条件下做了n次记录，则可得n个彼此有差异的地震波形（曲线）。如在时间t0观察它们的信号波的值X(t0)是一个随机变量，也就是说，混有随机干扰的地层结构信号波构成一个依赖于时间t的随机过程。定义随机过程：设E是随机试验，它的样本空间是，若对于每一个，总有一个确定的时间函数与之对应。这样对于所有，就可能得到一族时间t的函数，称为随机过程，族中的每一个函数称为这个随机过程的样本函数。,由定义可知，对于一个特定的试验结果 ，总有一个确定时间函数 。该函数是普通意义下确定的时间函数（样本函数）
10、，又由定义知，当取定 与e有关，由于 是一个随机变量，如果让 变动， ，可得一族随机变量 。因此从这个意义上讲随机过程又可看成是依赖于时间t的一族随机变量。由此可给出下面另一种形式的随机过程定义。为简便起见，省略e，用表示随机过程。 如是对于每一给定的都是随机变量，则X(t)是一个随机过程。或者说，随机过程是依赖于时间的一族随机变量。随机过程的两种定义本质是一致的，一般在理论分析采用第二定义，在实际应用中采用第一定义。,2.2 随机过程的分类,1. 按随机变量和指标集类型分类（1）连续型随机过程：对于随机过程X(t,e)，如果随机变量X(e)是连续变化的，也是连续变化的，则称X(t,e)为连续
11、型随机过程。注意这里指标集为0t+，or 。如正弦波随机过程 。（2）离散型随机过程：对于随机过程，如果取值离散，而t是连续，则称为离散型随机过程，如电报信号过程。也可简单地说时间连续，状态离散。,（3）连续型随序列：对于随机过程 ，如果 连续，而 是离散变化，如 或 ，则称 为连续型随机序列，也就是时间离散，状态连续 。（4）离散型随机序列：对于随机过程 ，如果 状态离散，时间t也是离散，则称 为离散型随机序列。注意，为了适应数字技术的需要，对连续型随机过程进行量化、分层，就得离散随机序列。如伯努力试验、随机游动等。,2. 按随机过程功能分类 平稳过程；高斯过程；马尔可夫过程；二阶过程；独立
12、增量过程；维也纳过程；白噪声过程等。 其它过程还很多，如泊松过程、分枝过程、更新过程、生灭过程等。,2.3 随机过程的描述,我们知道概率统计的研究对象是随机变量的变化规律，由此我们需要建立随机变量的数学模型或称函数关系，这里函数关系在概率统计中就叫分布函数（或称概率密度函数）。类似的，随机过程也是要研究X(t)的变化规律，进而建立随机过程的数学模型或函数关系，下面我们来分析如何建立所谓随机过程的函数关系。对于一个随机过程X(t)，严格地说我们不能在图上用一条曲线简单地表示一个过程，因为按随机过程的定义，该随机过程可表为：,为了研究随机过程的变化规律，我们暂且假定随机过程可以在图上用一条曲线来表
13、示，如图1.4。当然这条曲线不能作为具体的样本函数，而应把它看作全部可能样本函数的集合。,图1.4,现在我们动用记录器来记录X(t)的变化过程，由于记录器不可能连续地记下过程，而只能记下过程X(t)在确定时刻下的状态。前面已讲过，在确定的时刻t上，随机过程变成为通常的随机变量，于是记录器在时刻，就记录下相应的结果。显然，当记录器的速度相当快时，即时间间隔很小（或n很大）时，我们可用这n个随机变量的变化来描述随机过程的变化规律。这样，在一定的近似程度下，我们可以通过研究多维随机变量的变化规律，即分布函数关系来代替研究随机过程的变化规律，由此进而建立起近似随机过程的数学模型。,定义一维分布函数：对
14、于随机过程X(t)，当取定 时， 为随机变量，该随机变量X(t1)的分布函数记为则称 为随机过程X(t)的一维分布函数。同随机变量一样，若 对x1的偏导数存在，则有,这里称 为随机过程的一维概率密度。,例6.1.1 求随机过程 的一维概率密度函数，式中 是常数，x是一个服从标准正态分布的随机变量。,解 对于任意取定时间 是一个随机变量，由随机过程的一维分布函数及一维概率密度函数定义知又 ,注意， 的二元函数， 又可称为是 时刻的状态,结合概率统计知识，显然随机过程X(t)的一维分布函数、一维概率密度具有普遍随机变量分布函数和概率密度函数的各种性质。惟一的差别是随机过程的一维分布函数和一维密度都
15、是时间t的函数，即是一个动态的分布函数和概率密度。由上面的分布知随机过程的一维分布函数仅仅描述了随机过程X(t)在t=(t1)时刻所对应的一个状态X(t1)的变化规律。显然此时由随机过程的一维分布函数来近似描述X(t)的变化规律，其数学模型误差太大。为了比较全面地描述随机过程X(t)的变化规律，我们引入随机过程的二维分布函数。,定义随机过程的二维分布函数：,对于随机过程X(t)在任意两个时刻 两个随机变量（两个状态），我们把这两个随机变量的二维分布函数记为：,称 为随机函数过程X(t)的二维分布函数。,若 对 的二阶偏异数存在， 则有,称之为随机过程X(t)的二维概率密度。,随机过程的二维分布
16、函数比一维分布函数包含了随机过程变化规律更多的信息，但它仍不能完整地反映出随机过程的全部特性及变化规律。用同样的方法，我们可以引入随机过程X(t)的n维分布函数和n维概率密度。,显然，当n取得愈大，随机过程X(t)的n维分布函数就愈能描述随机过程的变化规律及其统计特性。,还需要指出，在实际工程中还会遇到需要同时研究两个或两上以上随机过程的变化规律，如商店每天营业额M(t)和顾客流量Q(t)相互间的关系及其变化规律。类似地，我们可引入两个随机过程X(t)，Y(t)的联合分布函数与联合概率密度函数定义。,同理，,仿概率统计的性质,性质 若 相互独立，则这里我们要告诉大家在实际工程中，要想通过将n取
17、得很在来得到过程的我维分布函数进而用多维分布函数作为X(t)的数学模型，理论上可行，但实际操作很复杂。,习题,1. 若随机过程 ，式中A为（0，1）上均匀分布的随机变量，求X(t)的一维概率密度 。2. 设随机过程 ，其中振幅A及角频率 均为常数，相位 是在 上服从均匀分布的随机变量，求X(t)的一维分布。,引言,从上面的分析可知，对于一个随机过程X(t)，要研究它的变化规律，常常需要建立起它的“函数关系”，也就是建立随机过程的多维分布。因为随机过程X(t)的多维分布可以比较全面地描述随机过程的整个变化规律的统计特性，但要建立过程的分布函数一般比较复杂，使用也不便，甚至不可能。,怎么办呢？事实
18、上，在许多实际应用中，当随机过程的“函数关系”不好确定时，我们往往可以退而求其次，像引入随机变量的数字特征一样，引入随机过程的数字特征。用这些数字特征我们认为基本上能刻划随机过程变化的重要统计规律，而且用随机过程的X(t)的数字特征，又便于运算和实际测量。显然，对于随机变量X，它的的数字特征我们主要介绍了数学期望、方差、相关函数来描述随机过程X(t)的主要统计特性。,例1 设随机变量X具有概率密度,求,解：,注意：随机变量的数字特征计算结果是一个确定的数。而随机过程的数字特征不是数，是一个关于时间的确定函数。,2.3 随机过程X(t)的数学期望,对于某个给定时刻t，随机过程成为一个随机变量，因
19、此可按通常随机变量的数学期望方法来定义随机过程的数学期望。 定义X(t)的数学期望 式中， 是X(t)的一维概率密度函数。 又可称为X(t)的均值，这个均值函数可以理解为在某一给定时刻t随机过程的所有样本函数的平均值。如图2.1所示。,显然由图2.1可看出，随机过程 X(t) 就在 附近起伏变化，图中细线表示样本函数，粗线表示均值函数。如果我们计论的随机过程是接收机输出端的一条噪声电压，这个 就是噪声电压在某一瞬时t的统计平均值（又称集平均值）。,2.4 随机过程的均匀方值与方差,对于某一固定的时刻，随机过程X(t)就成为一个随机变量，由此可给出随机过程均方值定义。定义随机过程X(t)的均方值
20、： 式中， 的一维概率密度函数。 定义随机过程的方差（又可称二阶中心矩）： 显然 是关于t的函数，且为非负函数。,定义随机过程的标准离差：注：随机过程的标准差是表示了随机过程在t时刻偏离均值的程度大小，如图2.2所示。,图2.2,2.5 随机过程的自相关函数,随机过程的数学期望、方差描述了随机过程在各个孤立时刻的重要数字特征值，但它们不能反映随机过程的内在联系，这一点可以通过下图的两个随机过程X(t)、Y(t)来说明。,对于这两个随机过程，从直观上讲，它们都具有大致相同的数学期望和方差，但两个过程的内部结构却有着非常明显的差别，其中X(t)随机时间变化缓慢，这个过程在两个不同的时刻的状态之间有
21、着较强的相关性，而过程Y(t)的变化要急剧得多，其不同时刻的状态之间的相关性，显然很弱。怎样去研究和反映一个随机过程在不同时刻的内在联系呢？为此我们引入自相关函数（简称相关函数）来描述随机过程在两个不同时刻状态之间的内在联系。,定义随机过程的自相关函数： 这就是随机过程X(t)在两个不同时刻 的状态 之间的混合原点矩，自相关函数就反映了X(t)在两个不同时刻的状态之间的相关程度。若在定义式中取 ，则有 此时自相关函数即为均方值。 式中， 为过程X(t)的二维概率密度函数。,例2.2 求随机相位正弦波过程 的均值、方差和自相关函数，其中 的概率密度为,解： 当取定 是一个随机变量，且该随机变量X
22、(t)显然是随机变量 的函数。由求随机变量函数的数学期望定理，有,又,当令,，,例7.3 给定随机过程 ，式中 是常数，A和B是两个独立的正态随机变量，而且 ，试求X(t)的均值和自相关函数。,解 ,，且A，B独立,当取定t时，X(t)为随机变量,有时为了描述随机过程在任意两个不同时刻t1、t2间内在联系，我们还可以用协方差函数中心化自相关函数来定义。,定义协方差函数：称 为随机过程X(t)的协方差函数。由定义可知，当取 此时的协方差就是方差。注意，实际上自相关函数 所描述的特性是几乎一致的。,性质2.1证 从上式分析可知，随机过程的协方差函数 与其自相关函数 只差一个统计平均值，特别当随机过
23、程的任意时刻数学期望 时，二者完全相同。,2.6 两个随机过程之间的互相关函数,随机过程的自相关函数描述了一个随机过程本身的内在联系，而要描述两个过程在不同时刻 之间的相互关系，我们引入了互相关函数的定义。 定义互相关函数：称 为两个随机过程的互相关函数。式中： 为在两个不同时刻随机变量 、 的联合概率密度函数。,定义互协方差函数：称 为两个随机过程的互协方差函数。性质2.2,在上式中，若对任意 都有 则称X(t)，Y(t)为正交过程，此时 在上式中，若 ，又称X(t)，Y(t)互不相关；此时 推论：若两个随机独立，则它们必不相关。反之， 两个随机过程不相关，还不能断言它们的相互独立。（除非是正态过程）。 注：自相关函数、互相关函数、协议差函数其结果是数，而不再是一个过程。,习题,若随机过程X(t)为X(t)=At ，式中A为（0,1）上均匀分布的随机变量，求 给定一随机过程X(t)和常数a，试以X(t)的相关函数表示随机过程的自相关函数,3. 已知随机过程X(t)的均值 和协方差函数 是普通函数，试求随机过程 是普通函数，试求随机过程 的均值和协方差函数。4. 设 ，其中A，B是相互独立且服从同一高斯（正态）分布 的随机变量，a为常数，试求X(t)的值与相关函数。,
