随机过程概率论基本知识.ppt

1、1,随机过程（概率论基础知识）（研究生教材）,2016年6,2,学习随机过程的原因：该门课程是研究生随机控制和信号处理相关专业的课程： 1、在电子工程、通讯技术、生命科学、管理、控制等新兴领域的广泛成功的应用，已成为从事科学研究和工程技术开发的重要分析工具。特别是通信、信号处理的理论基础。 2、各种社会、自然现象，都是随机的。 3、高级统计信号处理，自适应信号处理、雷达等高级信号处理基础。 4、考博课程,3,课程要求： 1、本课程理论严谨、系统性强: 理论为主，数学公式和推导繁多，应用性强。 2、任务在于研究随机过程的基本理论和基本分析方法，学生进一步学习和掌握信号检测与估计、现代信号处理等课

2、程打好基础。 3、主要内容包括随机过程概念、重要的随机过程、随机信号时域分析，随机信号的功率谱，随机信号通过线性系统，窄带随机信号、平稳随机过程、马尔可夫过程。 4、要求： （1）课外：研读至少一本国内外相关书籍。 （2）做作业：课后布置习题。 （3）MATLAB编程和仿真实验。,4,1.1 概率空间,一. 概念与术语： 随机试验（Experiment）： 结果无法预先确定的试验。 定义1：如果一个实验E，满足下列条件： 1）在相同的条件下可以重复进行； 2）每次试验的结果不止一个，并且能事先明确试验的所有 结果； 3）一次试验结束之前，不能确定哪一个结果会出现。 称此试验为随机试验。 例：语

3、音通信，天气预报，掷骰子,定义2. 随机试验E的每一个最简单的结果，称为样本点，记为 ，全体实验结果构成的集合，称为样本空间，记为 。,定义3. 样本空间 的子集组成的集合类 ，若满足1）2）3）称 为随机事件体（域）或 代数。,随机事件： 随机事件体的任意事件A ；基本事件：仅包含一个样本点的事件；可测空间：样本空间和随机事件体的二元体,事件的运算（略）,二. 概率与概率空间,定义4,定义5 样本空间 、随机事件体 和概率 组成的三元体 称为概率空间。,8,概率的性质与基本公式：,（3）,（4）,（5）,2019/7/6,9,3. 概率性质：连续性,9,10,例：分析掷均匀骰子问题。,古典概

4、型、几何概型,11,12,三. 条件概率：,13,四. 乘法公式（可推广到任意有限个）,五. 随机事件的独立性,14,六. 全概率公式与贝叶斯公式,16,1.2 随机变量,2019/7/6,17,1.2 随机变量,一. 随机变量r.v.X：,注：在测度论中，随机变量X对应于定义在可测空间 上的F可测函数。,18,分布函数：,19,类型：,20,二 离散型随机变量及其分布律：,21,例 均匀骰子实验。定义随机变量X为骰子顶面的编号，取值为1,2,6。 显然X是离散型的，其概率特性通常用分布律描述最为方便. 思考：随机变量分布律f(x)和分布函数F(x)？,例 设随机变量X的分布律为,求X的概率密

5、度和分布函数,解,23,三. 连续型随机变量及其分布函数,24,5. 常见的随机变量及其分布,25,26,27,28,29,30,其中,如果r.v.X的概率密度为,则陈r.v.X服从参数为 的 分布，记为,7、 分布,8.对数正态分布,如r.v.X的概率密度为,其中 为常数，称r.v.X服从参数为 的对数正态分布,31,9. 分布,则称r.v.X服从自由度为 的 分布，记为 显然,10. 分布,如r.v.X的概率密度为,则称r.v.X服从自由度为 的 分布，记为,11. 分布,如r.v.X的概率密度为,则称r.v.X服从第一自由度为 第二自由度为 的 分布，记为,其中 ， 为正整数。,35,五

6、、二维随机变量（向量）,(4) 对任意的 有,二维随机变量分为离散型和连续型,36,37,思考题：P13 验证。,38,39,40,例 二维正态分布,六. n 维随机变量及其分布,1.n维随机变量的定义,2.n维随机变量的联合分布函数,3.离散型n维随机变量 和连续型n维随机变量的定义,4.k维边缘概率密度,5.条件概率密度,6.n维随机变量相互独立的定义及充要条件,43,1.离散型随机变量,如求 （1） （2） （3） 概率分布,45,46,3.两个连续型随机变量函数的分布,设连续型r.v. 的联合概率密度为 ， 为二元连续函数，则 为连续型一维随机变量，其分布函数为,密度函数为,以下5中情

7、况都设 相互独立。,（1） 的概率密度,（2） 的分布函数和概率密度分别为,（3） 的分布函数和概率密度分别为,（4） 的概率密度,（5） 的概率密度,50,51,例13：,例14：,52,1.3 随机变量的数字特征,刻画随机变量的平均值,53,54,55,平方再期望？,56,57,58,59,60,4 许瓦兹不等式,5协方差性质,6 方差的计算公式,7,62,64,1.4 条件数学期望,一.条件数学期望的概念,表示 条件下 的条件分布律，,定义1：设 二维离散型随机变量，联合分布律为,表示 条件下 的条件分布律。设,则称,分别为 已知 条件下 条件数学期望 已知 条件下 条件数学期望,定义2

8、：设 二维连续型随机变量，称,为已知 条件下 条件数学期望，称,注：上式右端的积分要求绝对收敛。,为已知 条件下 条件数学期望。,定理1： 为连续函数 ，若,则,这里 是随机变量函数 在条件 下的条件数学期望。同理可得 条件下 的条件数学期望。,定义3 称 为 条件下随机变量 的条件方差。,二.条件数学期望的性质,定理2：,证明：,证明（7）,例1,例2,例3,解：,74,1.5 随机变量的特征函数,75,76,其他几种随机变量的特征函数：二项分布、泊松分布、几何分布、指数分布，见P37-39,作为公式使用,77,79,定理：若随机变量 为连续型，且其特征函数 绝对可积，则有反演公式,81,三

9、. 多维随机变量的特征函数,定义2. 二维随机变量 的联合特征函数定义为,当 为离散型随机变量时,当 为离连续型随机变量时,定义3. n维随机变量 的联合特征函数定义为,下面介绍多为随机变量特征函数的几个性质:,四. n维正态分布,1. 二维正态分布,向量形式为,2. n维正态分布,联合特征函数为,向量形式为,联合特征函数为,下面介绍一些性质,概率密度为,特征函数为,例 （P45eg14),证明：,93,1.6 收敛性与极限定理,94,以概率1收敛,均方收敛,以概率收敛,以分布收敛,96,定理2（伯努利大数定律）,98,【应用】,习题,100,以上，为第一章的全部内容。,实验与专题1：随机变量的仿真与实验 用MATLAB分别产生服从（二项分布、泊松分布、正态分布、均匀分布、指数分布、瑞利分布）的随机变量，并分析他们的： 1、分布函数或概率密度函数 2、均值、方差 提交实验报告。 可参考MATLAB帮助文档、随机信号分析P31,