1、1,随机过程(概率论基础知识)(研究生教材),2016年6,2,学习随机过程的原因:该门课程是研究生随机控制和信号处理相关专业的课程: 1、在电子工程、通讯技术、生命科学、管理、控制等新兴领域的广泛成功的应用,已成为从事科学研究和工程技术开发的重要分析工具。特别是通信、信号处理的理论基础。 2、各种社会、自然现象,都是随机的。 3、高级统计信号处理,自适应信号处理、雷达等高级信号处理基础。 4、考博课程,3,课程要求: 1、本课程理论严谨、系统性强: 理论为主,数学公式和推导繁多,应用性强。 2、任务在于研究随机过程的基本理论和基本分析方法,学生进一步学习和掌握信号检测与估计、现代信号处理等课
2、程打好基础。 3、主要内容包括随机过程概念、重要的随机过程、随机信号时域分析,随机信号的功率谱,随机信号通过线性系统,窄带随机信号、平稳随机过程、马尔可夫过程。 4、要求: (1)课外:研读至少一本国内外相关书籍。 (2)做作业:课后布置习题。 (3)MATLAB编程和仿真实验。,4,1.1 概率空间,一. 概念与术语: 随机试验(Experiment): 结果无法预先确定的试验。 定义1:如果一个实验E,满足下列条件: 1)在相同的条件下可以重复进行; 2)每次试验的结果不止一个,并且能事先明确试验的所有 结果; 3)一次试验结束之前,不能确定哪一个结果会出现。 称此试验为随机试验。 例:语
3、音通信,天气预报,掷骰子,定义2. 随机试验E的每一个最简单的结果,称为样本点,记为 ,全体实验结果构成的集合,称为样本空间,记为 。,定义3. 样本空间 的子集组成的集合类 ,若满足1)2)3)称 为随机事件体(域)或 代数。,随机事件: 随机事件体的任意事件A ;基本事件:仅包含一个样本点的事件;可测空间:样本空间和随机事件体的二元体,事件的运算(略),二. 概率与概率空间,定义4,定义5 样本空间 、随机事件体 和概率 组成的三元体 称为概率空间。,8,概率的性质与基本公式:,(3),(4),(5),2019/7/6,9,3. 概率性质:连续性,9,10,例:分析掷均匀骰子问题。,古典概
4、型、几何概型,11,12,三. 条件概率:,13,四. 乘法公式(可推广到任意有限个),五. 随机事件的独立性,14,六. 全概率公式与贝叶斯公式,16,1.2 随机变量,2019/7/6,17,1.2 随机变量,一. 随机变量r.v.X:,注:在测度论中,随机变量X对应于定义在可测空间 上的F可测函数。,18,分布函数:,19,类型:,20,二 离散型随机变量及其分布律:,21,例 均匀骰子实验。定义随机变量X为骰子顶面的编号,取值为1,2,6。 显然X是离散型的,其概率特性通常用分布律描述最为方便. 思考:随机变量分布律f(x)和分布函数F(x)?,例 设随机变量X的分布律为,求X的概率密
5、度和分布函数,解,23,三. 连续型随机变量及其分布函数,24,5. 常见的随机变量及其分布,25,26,27,28,29,30,其中,如果r.v.X的概率密度为,则陈r.v.X服从参数为 的 分布,记为,7、 分布,8.对数正态分布,如r.v.X的概率密度为,其中 为常数,称r.v.X服从参数为 的对数正态分布,31,9. 分布,则称r.v.X服从自由度为 的 分布,记为 显然,10. 分布,如r.v.X的概率密度为,则称r.v.X服从自由度为 的 分布,记为,11. 分布,如r.v.X的概率密度为,则称r.v.X服从第一自由度为 第二自由度为 的 分布,记为,其中 , 为正整数。,35,五
6、、二维随机变量(向量),(4) 对任意的 有,二维随机变量分为离散型和连续型,36,37,思考题:P13 验证。,38,39,40,例 二维正态分布,六. n 维随机变量及其分布,1.n维随机变量的定义,2.n维随机变量的联合分布函数,3.离散型n维随机变量 和连续型n维随机变量的定义,4.k维边缘概率密度,5.条件概率密度,6.n维随机变量相互独立的定义及充要条件,43,1.离散型随机变量,如求 (1) (2) (3) 概率分布,45,46,3.两个连续型随机变量函数的分布,设连续型r.v. 的联合概率密度为 , 为二元连续函数,则 为连续型一维随机变量,其分布函数为,密度函数为,以下5中情
7、况都设 相互独立。,(1) 的概率密度,(2) 的分布函数和概率密度分别为,(3) 的分布函数和概率密度分别为,(4) 的概率密度,(5) 的概率密度,50,51,例13:,例14:,52,1.3 随机变量的数字特征,刻画随机变量的平均值,53,54,55,平方再期望?,56,57,58,59,60,4 许瓦兹不等式,5协方差性质,6 方差的计算公式,7,62,64,1.4 条件数学期望,一.条件数学期望的概念,表示 条件下 的条件分布律,,定义1:设 二维离散型随机变量,联合分布律为,表示 条件下 的条件分布律。设,则称,分别为 已知 条件下 条件数学期望 已知 条件下 条件数学期望,定义2
8、:设 二维连续型随机变量,称,为已知 条件下 条件数学期望,称,注:上式右端的积分要求绝对收敛。,为已知 条件下 条件数学期望。,定理1: 为连续函数 ,若,则,这里 是随机变量函数 在条件 下的条件数学期望。同理可得 条件下 的条件数学期望。,定义3 称 为 条件下随机变量 的条件方差。,二.条件数学期望的性质,定理2:,证明:,证明(7),例1,例2,例3,解:,74,1.5 随机变量的特征函数,75,76,其他几种随机变量的特征函数:二项分布、泊松分布、几何分布、指数分布,见P37-39,作为公式使用,77,79,定理:若随机变量 为连续型,且其特征函数 绝对可积,则有反演公式,81,三
9、. 多维随机变量的特征函数,定义2. 二维随机变量 的联合特征函数定义为,当 为离散型随机变量时,当 为离连续型随机变量时,定义3. n维随机变量 的联合特征函数定义为,下面介绍多为随机变量特征函数的几个性质:,四. n维正态分布,1. 二维正态分布,向量形式为,2. n维正态分布,联合特征函数为,向量形式为,联合特征函数为,下面介绍一些性质,概率密度为,特征函数为,例 (P45eg14),证明:,93,1.6 收敛性与极限定理,94,以概率1收敛,均方收敛,以概率收敛,以分布收敛,96,定理2(伯努利大数定律),98,【应用】,习题,100,以上,为第一章的全部内容。,实验与专题1:随机变量的仿真与实验 用MATLAB分别产生服从(二项分布、泊松分布、正态分布、均匀分布、指数分布、瑞利分布)的随机变量,并分析他们的: 1、分布函数或概率密度函数 2、均值、方差 提交实验报告。 可参考MATLAB帮助文档、随机信号分析P31,