1、第0章 概率论知识,1 随机变量及其概率分布,2 数字特征,3 多维正态分布及其性质,4 大数定律与中心极限定理,随机变量及其概率分布,1 一维随机变量,2 二维随机变量,3 常用分布,设随机试验E的样本空间为，若对于任意样本点都有一个实数与其对应，记为X（），称X为随机变量。,1.一维随机变量,几何意义：一维随机变量X可看直线上随机点P的坐标。,。,1）分布函数: 对于任意的实数x, 称函数,为X的分布函数。,F (x)表示随机点落在直线上点P (x)左边的概率（质量）。,分布函数几何意义,（3） F (x)是单调不减的函数；,分布函数的性质,（1）,（2）,（4） F (x)是右连续的函数
2、；,（5）,2）分布率（列）: 对于离散型随机变量X,称pk为X的分布率。,性质,X的所有可能取值为,3）概率密度 对于连续型随机变量X，若分布,称 f (x) 为X的概率密度。,性质,函数F (x)满足：存在非负函数f (x),使得,2.二维随机变量,在许多实际问题中，随机试验的结果需要同时用两个或两个以上的随机变量来描述，例如：,考察某城市某年7月的气候，需要用到平均气温和降雨量；,考察学生的身体素质，包括身高和体重等。,对于二维随机变量，需要对其作整体研究。,设 X,Y 是定义在样本空间上的两个随机变量，称向量（X,Y）为二维随机变量或二维随机向量。,几何意义：二维随机变量（X,Y）可看
3、做平面上随机点P的坐标。,。,1）联合分布函数: 对于任意的实数x, y 称函数,为X, Y 的联合分布函数。,F (x, y)表示落在平面上以 (x, y)为顶点的左下方无穷区域内的概率（质量）。,联合分布函数几何意义,（2）F (x, y)是关于x, y 的单调不减的函数；,联合分布函数的性质,（1）,（3）,（5）,（4） F (x, y)是关于x, y的右连续函数；,2）联合分布率（列）: 二维离散型随机变量,称pij为（X，Y）的联合分布率。,性质,（X，Y）的所有可能取值对为,3）联合概率密度 二维连续型随机变量（X，Y）,称 f (x,y) 为（X，Y）的联合概率密度。,性质,若
4、联合分布函数F (x，y)满足：存在非负函数f (x,y), 使得,1）,（3）,（2）,4）边缘分布计算公式,边缘分布函数,边缘分布律,边缘分布密度,X与Y相互独立,5）随机变量的独立性, 离散型：,X与Y相互独立, 连续型：,X与Y相互独立,3.常用分布,（1）两点分布或（0-1）分布,用于描述试验结果只有两个的情形。,离散型,（2）二项分布 X B（n，p）,试验E中， 设A发生的概率为p，重复做n次独立试验。记事件A在这n次试验中发生的次数X,离散型,（3）几何分布 X G（）,离散型,试验E中，设A发生的概率为p，独立重复此试验。直到A发生为止。记试验的次数X。,（4）泊松分布 X
5、（）,离散型,描述服务系统顾客到达数量的概率分布。,（1）均匀分布 X U (a, b),连续型,在区间上(a, b)随机取点。记为所取点的坐标。,（2）指数分布 X E（ ）,连续型,描述寿命的概率分布，用于可靠性分析问题。,（3）正态分布 X N (,2 ),连续型,描述寿命的概率分布，用于可靠性分析问题。,第0章 概率论知识,1 随机变量及其概率分布,2 随机变量数字特征,3 多维正态分布及其性质,4 大数定律与中心极限定理,随机变量的数字特征,1 数学期望,3 协方差与相关系数,2 方差,4 矩 协方差矩阵,1. 数学期望,1）离散型设离散型随机变量X的分布律为,若 绝对收敛，则称级数
6、为随机变量X的数学期望，简称为期望或均值。,2）连续型 设连续型随机变量X的概率密度函数为f ( x )，若积分 绝对收敛，则称此积分值为X的数学期望，记作 E(X)。即,3）二维随机变量的数学期望对二维随机变量(X,Y) 定义它的数学期望为,E(X,Y)=(EX, EY),是一个二维向量！,随机变量X的数学期望用来描述随机变量的平均值。 数学期望的统计意义，就是对随机变量进行长期观测所得到数据的算数平均数，是随机变量的理论平均数。,4） 随机变量函数的数学期望,定理1设 g(X)是随机变量X的函数,(1)若X为离散型随机变量，其分布律为,当级数 绝对收敛时，则有：,定理2设 g(X,Y)是随
7、机变量X,Y的函数,(1)若X,Y为离散型随机变量，其分布律为,当级数 绝对收敛时，则有：,(2)若X,Y为连续型随机变量，其分布密度为f (x,y )，则当 积分,绝对收敛时，有：,5） 数学期望的性质,假定所提及的数学期望均存在 , （a,b,c为常数）,特别,特别,可推广到多个情形.,3）设X, Y相互独立，则,？,一般：设X, Y相互独立，则,2.方 差,计算公式,注意！,方差是一个常用来体现随机变量X取值分散程度的量.如果D(X)值大, 表示X 取值分散程度大, E(X)的代表性差;而如果D(X) 值小, 则表示X 的取值比较集中,以E(X)作为随机变量的代表性好.,方差的意义,1）
8、方差的计算,计算公式,有用的公式,函数的期望,按定义计算,(2) 设 X ,Y是随机变量, a,b是常数, 则有,2） 方差的性质,特别当X ,Y独立时,(3) D(X) =0的充要条件是X以概率1取常数,有用的公式,(4),分布,参数,数学期望,方差,3）几种常见分布的期望和方差,这一不等式称为切比雪夫不等式,4）切比雪夫不等式,等价形式,定理 设随机变量X具有数学期望和方差,则对任意的正数，以下不等式成立,3 协方差与相关系数,1）协方差,定义,称为是两个随机变量X，Y的协方差。,一般，协方差用下式计算,显然,如何描述两个随机变量之间的关系？,协方差具有下述性质,6. 当X，Y独立时，,一
9、个一般的公式,特别,两个随机变量X，Y的协方差描述的是它们取值变化的相关关系。,比如：一个人的身高X ，体重Y，一般来说， X越大， Y越大， X越小，越小Y。,随机变量X，Y之间具有正相关关系,若,随机变量X，Y之间具有负相关关系,缺点：协方差受量纲的影响。如何改进？,2）相关系数,令,X*，Y*分别称为X，Y的标准化随机变量。,易知,是无量纲的量。,是一个无量纲的量。,定义,设随机变量X，Y的数学期望与方差都存在，称,为随机变量X，Y的相关系数。,相关系数的性质,使得,说明：XY描述了X,Y之间的线性关联程度。,XY = 0, 称X,Y（线性）不相关；,XY 0, 称X,Y 正相关；,XY
10、 0, 称X,Y 负相关。,4 矩 协方差矩阵,1）矩,（1）原点矩,（2）中心矩,单个随机变量的矩,特别 数学期望E(X)是一阶原点矩,特别 方差D(X)是二阶中心矩,（1）混合原点矩,（2）混合中心矩,2）两个随机变量的混合矩,特别 协方差Cov(X，Y)是1+1阶混合中心矩,3）协方差矩阵,二维随机变量(X1， X2 )有四个二阶中心矩,称为(X1， X2 )的协方差矩阵,将它们排成矩阵,对n维随机变量,其协方差矩阵定义为,其中,1）是称性矩阵，即,协方差矩阵性质,2）是非负定矩阵，即,3） 对任意一组实数,协方差矩阵性质,第0章 概率论知识,1 随机变量及其概率分布,2 数字特征,3
11、多维正态分布及其性质,4 大数定律与中心极限定理,3 多维正态分布及其性质,1 一维正态分布,2 二维正态分布,3 多维正态分布的性质,1.一维正态分布,概率密度,（1）正态分布 X N (,2 ),（2）标准正态分布 X N (0, 1),若 X N (,2 )，则,特别,（3）若,且相互独立，则其线性组合,此结论可推广到多个的情形,2.二维正态分布,设二维随机变量(X1， X2 )的联合密度为,称(X1， X2 )服从二维正态分布,二维正态分布曲面如图所示,性质,3）(X1， X2 )独立,为此引入下面的列向量和矩阵,为X 的均值向量，C为 X 的协方差矩阵,密度函数表示的简化,二维正态分
12、布可记为,引入列向量和矩阵,将此表达式推广到n维.,若n维随机向量X=(X1, X2 , . , Xn )T的联合密度为,称 X 服从 n 维正态分布,记为,3. n 维正态分布,其中l为任意n维非零常数向量.,n 维正态分布的性质,1）设 ，则 X的每个分量 Xi,也服从正态分布，且,且,其中L为任意mn非零常数矩阵.,3）,且,则,则 X的各分量独立,（两两互不相关）,（C为对角矩阵）,设,第0章 概率论知识,1 随机变量及其概率分布,2 数字特征,3 多维正态分布及其性质,4 大数定律与中心极限定理,1 大数定律,2 中心极限定理,4 大数定律与中心极限定理,1. 大数定律,大数定律的定
13、义切比晓夫大数定律贝努里大数定律辛钦大数定律,概率论与数理统计是研究随机现象统计规律性的学科. 随机现象的规律性只有在相同的条件下进行大量重复试验时才会呈现出来. 也就是说，要从随机现象中去寻求必然的法则，应该研究大量随机现象.,问题的引入,研究大量的随机现象，常常采用极限形式，由此导致对极限定理进行研究. 极限定理的内容很广泛，其中最重要的有两种是:,下面我们先介绍大数定律,大量的随机现象中平均结果的稳定性,大数定律的客观背景,大量抛掷硬币正面出现频率,字母使用频率,生产过程中的废品率,问题：测量一个工件时，由于测量具有误差，为什么以各次的平均值来作为测量的结果？而且只要测量的次数足够多，总
14、可以达到要求的精度？,这里反映了什么样的客观统计规律呢？, :工件的真实值k :本次测量误差,第k次测量结果 Xk= + k,n次测量的算术平均,即大量测量值的算术平均值具有稳定性。,这就是大数定律所阐述的结论。,k :由于测量误差的均值一般为0,此处的极限不是通常的极限,定义,对任意,或,记为,条件？,定理1（贝努里大数定律）(Bernoulli大数定律),频率的稳定性,即,关于贝努利定理的说明,1）当n很大时, 事件发生的频率与事件发生的概率有较大偏差的可能性很小. 在实际应用中, 当试验次数很大时, 便可以用事件发生的频率来代替事件的概率.,令,2）频率的稳定性是算数平均稳定性的特例。,
15、定理2,（契比雪夫大数定律）,且具有相同的数学,期望及方差，,注：贝努里大数定律是辛钦大数定律的特殊情况。,定理3（辛钦大数定律）,且具有数学期望,思考：比较辛钦大数定律与切比晓夫大数定律条件的 差别及强弱。,2 . 中心极限定理,定义,独立同分布的中心极限定理,德莫佛-拉普拉斯定理,有许多随机变量，它们是由大量的相互独立的随机变量的综合影响所形成的，而其中每个别的因素作用都很小，这种随机变量往往服从或近似服从正态分布，或者说它的极限分布是正态分布，中心极限定理正是从数学上论证了这一现象，它在长达两个世纪的时期内曾是概率论研究的中心课题。, : 对象的真实值; Xk : 微小的随机因素的影响.,测量结果 U= + X1 + X2 + . + Xn,大量的相互独立的随机因素的综合影响,为了消除量纲的影响，将其做中心化、标准化处理。,大量微小因素的综合影响，在经过中心化、标准化处理之后近似服从标准正态分布。,这就是中心极限定律所阐述的结论。,条件？,定义,定理1 （独立同分布的中心极限定理）,中心极限定理说明了正态分布的重要地位，它也是统计学中处理大样本时的重要工具。,定理2（德莫佛-拉普拉斯定理）,(De Moivre-Laplace),推论：,说明：这个公式给出了n 较大时二项分布的概率 计算方法。,
