1、1概率论与数理统计第一章 概率论的基本概念2样本空间、随机事件1事件间的关系 则称事件 B 包含事件 A,指事件 A 发生必然导致事件 B 发生 A称为事件 A 与事件 B 的和事件,指当且仅x 或当 A,B 中至少有一个发生时,事件 发生称为事件 A 与事件 B 的积事件,指当 且A,B 同时发生时,事件 发生BA称为事件 A 与事件 B 的差事件,指当且仅x 且当 A 发生、B 不发生时,事件 发生,则称事件 A 与 B 是互不相容的,或互斥的,指事件 A 与事件 B 不能同时发生,基本事件是两两互不相容的,则称事件 A 与事件 B 互为逆事件,又称事件且S BA 与事件 B 互为对立事件
2、2运算规则 交换律 BA 结合律 )()()()( CC分配律 B)()()(徳摩根律 BAA 3频率与概率定义 在相同的条件下,进行了 n 次试验,在这 n 次试验中,事件 A 发生的次数 称为事An件 A 发生的频数,比值 称为事件 A 发生的频率A概率:设 E 是随机试验,S 是它的样本空间,对于 E 的每一事件 A 赋予一个实数,记为P(A) ,称为事件的概率1概率 满足下列条件:)((1)非负性:对于每一个事件 A 1)(0P(2)规范性:对于必然事件 S (3)可列可加性:设 是两两互不相容的事件,有n,212( 可以取 )nkknkAP11)()(2概率的一些重要性质:(i) 0
3、)((ii)若 是两两互不相容的事件,则有 ( 可以取 )nA,21 nkknkAP11)()((iii )设 A,B 是两个事件若 ,则 ,B)()(BAP)((iv)对于任意事件 A, 1)((v) (逆事件的概率)1)(P(vi)对于任意事件 A,B 有 )()()( ABP4 等可能概型(古典概型)等可能概型:试验的样本空间只包含有限个元素,试验中每个事件发生的可能性相同若事件 A 包含 k 个基本事件,即 ,里21 kiii ee个 不 同 的 数 , 则 有中 某,是, kkn2,1ii,21 中 基 本 事 件 的 总 数包 含 的 基 本 事 件 数S)(1j AePji5条件
4、概率(1) 定义:设 A,B 是两个事件,且 ,称 为事件 A 发生的0)(AP)(|(PBA条件下事件 B 发生的条件概率(2) 条件概率符合概率定义中的三个条件1。 非负性:对于某一事件 B,有 0)|(2。 规范性:对于必然事件 S, 1|AP3 可列可加性:设 是两两互不相容的事件,则有,2111)()(iii BAP3(3) 乘法定理 设 ,则有 称为乘法公式0)(AP)|()(BAP(4) 全概率公式: ni iiB1)|()(贝叶斯公式: ni iikkkAPAP1)|()|(6独立性定义 设 A,B 是两事件,如果满足等式 ,则称事件 A,B 相互独)()(B立定理一 设 A,
5、B 是两事件,且 ,若 A,B 相互独立,则0)(PBPA)|(定理二 若事件 A 和 B 相互独立,则下列各对事件也相互独立:A 与与,与,第二章 随机变量及其分布1 随机变量定义 设随机试验的样本空间为 是定义在样本空间 S 上的实值单值函X(e) .S数,称 为随机变量X(e)2 离散性随机变量及其分布律1 离散随机变量:有些随机变量,它全部可能取到的值是有限个或可列无限多个,这种随机变量称为离散型随机变量满足如下两个条件(1) , (2) =1k)(pxXP0kp1kP2 三种重要的离散型随机变量(1) 分布(01)设随机变量 X 只能取 0 与 1 两个值,它的分布律是,则称 X 服
6、从以 p 为参数的 分布或),kp-k1pP(,)( (01)两点分布。(2)伯努利实验、二项分布设实验 E 只有两个可能结果:A 与 ,则称 E 为伯努利实验.设A4,此时 .将 E 独立重复的进行 n 次,则称这一串重复的1)p0P(A)( p-1)AP(独立实验为 n 重伯努利实验。满足条件(1) , (2) =1 注意n2,0kq)kX(-n, 0kp1kP到 是二项式 的展开式中出现 的那一项,我们称随机变量 X 服从参数k-nqpnp)( k为 n,p 的二项分布。(3)泊松分布设随机变量 X 所有可能取的值为 0,1,2,而取各个值的概率为 其中 是常数,则称 X 服从参数为 的
7、泊松分布记,210,k!e)(-P0为 )(3 随机变量的分布函数定义 设 X 是一个随机变量, x 是任意实数,函数 x-,P)x(F称为 X 的分布函数分布函数 ,具有以下性质(1) 是一个不减函数 (2))()PxF)((3)1(,01(0F, 且 是 右 连 续 的即 )(,0xFx4 连续性随机变量及其概率密度连续随机变量:如果对于随机变量 X 的分布函数 F(x) ,存在非负可积函数 ,使)(xf对于任意函数 x 有 则称 x 为连续性随机变量,其中函数 f(x)称为 X,dtf)(Fx-)(的概率密度函数,简称概率密度1 概率密度 具有以下性质,满足(1) ;)(f 1)( (2
8、),0-dxff(3) ;(4)若 在点 x 处连续,则有21)()xdfXxP )(F,)(f2,三种重要的连续型随机变量(1)均匀分布若连续性随机变量 X 具有概率密度 ,则成 X 在区间(a,b) 上服, 其 他,0a-b1)(bxxf5从均匀分布.记为 ),( baUX(2)指数分布若连续性随机变量 X 的概率密度为 其中 为常数,则称, 其 他,00.e1)(x-f0X 服从参数为 的指数分布。(3)正态分布若连续型随机变量 X 的概率密度为 ,) xexfx-21)(2(的正态分布或高斯分布,记为,服 从 参 数 为为 常 数 , 则 称(,其 中 )0),( 2N特别,当 时称随
9、机变量 X 服从标准正态分布1,5 随机变量的函数的分布定理 设随机变量 X 具有概率密度 又设函数 处处可导且恒有,-)(xf, )(xg,则 Y= 是连续型随机变量,其概率密度为0)(,xg)(g其 他, , yhyfyfXY第三章 多维随机变量1 二维随机变量定义 设 E 是一个随机试验,它的样本空间是 和 是定义在 SX(e) .SY(e) 上的随机变量,称 为随机变量,由它们构成的一个向量(X ,Y)叫做二维随机(e)变量设(X,Y)是二维随机变量,对于任意实数 x,y,二元函数称为二维随机变量(X,Y)的Py)(x)P(yxF ,记 成),(分布函数如果二维随机变量(X,Y)全部可
10、能取到的值是有限对或可列无限多对,则称(X,Y)是离散型的随机变量。我们称 为二维离散型随机变量(X,Y )的, 2,1ji)y(jji pxP分布律。6对于二维随机变量(X,Y)的分布函数 ,如果存在非负可积函数),( yxFf(x,y ) ,使对于任意 x,y 有 则称(X,Y )是连续性,),(),( y-duvfF的随机变量,函数 f(x,y)称为随机变量( X,Y)的概率密度,或称为随机变量 X 和 Y的联合概率密度。2 边缘分布二维随机变量(X,Y)作为一个整体,具有分布函数 .而 X 和 Y 都是随),( yxF机变量,各自也有分布函数,将他们分别记为 ,依次称为二维随机变量)(
11、 ),xXY(X,Y)关于 X 和关于 Y 的边缘分布函数。, 2,1ixPp1jii , 2,1jyPp1i ij j分别称 为(X,Y)关于 X 和关于 Y 的边缘分布律。ij分别称 ,dyxff),()( dxyfyfY),()( )(xfX为 X,Y 关于 X 和关于 Y 的边缘概率密度。yY3 条件分布定义 设(X,Y)是二维离散型随机变量,对于固定的 j,若 ,0jyYP则称 为在 条件下,21,ipyYPxXyxPjjiji j随机变量 X 的条件分布律,同样为在 条件下随机变量 X,jxXyYiijij ixX的条件分布律。设二维离散型随机变量(X, Y)的概率密度为 , (X
12、,Y )关于 Y 的边缘概),(yxf率密度为 ,若对于固定的 y, 0,则称 为在 Y=y 的条件下 X 的条)(yfY )(f)(fY件概率密度,记为 =)(xfYX(,fY4 相互独立的随机变量 定义 设 及 , 分别是二维离散型随机变量(X,Y )的分布),( yF)(XFy7函数及边缘分布函数.若对于所有 x,y 有 ,即yPY,xXyYxXP,则称随机变量 X 和 Y 是相互独立的。(y)F,FYXxy对于二维正态随机变量(X, Y) ,X 和 Y 相互独立的充要条件是参数 05 两个随机变量的函数的分布1,Z=X+Y 的分布设(X,Y)是二维连续型随机变量,它具有概率密度 .则
13、Z=X+Y 仍为连续性),(yxf随机变量,其概率密度为 或dyzfzfYX),()( dxzfzYX),(又若 X 和 Y 相互独立,设(X,Y)关于 X,Y 的边缘密度分别为 则)yxY和 这两个公式称为dyfzfzf Y)()(() dzfxzfYX)()()的卷积公式YX,有限个相互独立的正态随机变量的线性组合仍然服从正态分布2, 的 分 布的 分 布 、 XYZZ设(X,Y)是二维连续型随机变量,它具有概率密度 ,则),(yxf XYZ,仍为连续性随机变量其概率密度分别为 dzfzfXY,)(又若 X 和 Y 相互独立,设(X,Y)关于 X,Y 的边缘密度分别dxzfzfXY),(1
14、)(为 则可化为 ,yfxY dxzffYY)()(dxzfzfX)(1)(X3 的 分 布及, ,minNaxYM设 X,Y 是两个相互独立的随机变量,它们的分布函数分别为 由于)(,yFxYX不大于 z 等价于 X 和 Y 都不大于 z 故有a,又由于 X 和 Y 相互独立,得到 的分布函,Pz ma,M8数为 )()(maxzFzYX的分布函数为,inN)(1)(1)(min zFYX第四章 随机变量的数字特征1数学期望定义 设离散型随机变量 X 的分布律为 ,k=1,2,若级数 绝kpxP1kpx对收敛,则称级数 的和为随机变量 X 的数学期望,记为 ,即1kpx )(XEiXE)(设
15、连续型随机变量 X 的概率密度为 ,若积分 绝对收敛,则称积)(xfdxf)(分 的值为随机变量 X 的数学期望,记为 ,即dxf)( XExf)(定理 设 Y 是随机变量 X 的函数 Y= (g 是连续函数)(g(i)如果 X 是离散型随机变量,它的分布律为 ,k=1,2,若kpPx绝对收敛则有kkpxg1() )(E)(gkk1()(ii)如果 X 是连续型随机变量 ,它的分概率密度为 ,若 绝对收敛则)xfdxfg)(有 )Y(E)(gdxf)(数学期望的几个重要性质1 设 C 是常数,则有 CE)(2 设 X 是随机变量,C 是常数,则有 )()(XE3 设 X,Y 是两个随机变量,则
16、有 ;YY4 设 X,Y 是相互独立的随机变量,则有 )()(2 方差定义 设 X 是一个随机变量,若 存在,则称 为 X 的方)(2XE)(2E9差,记为 D(x)即 D(x)= ,在应用上还引入量 ,记为 ,)(2XE)(xD)(x称为标准差或均方差。 222)()()(XE方差的几个重要性质1 设 C 是常数,则有 ,0)(CD2 设 X 是随机变量,C 是常数,则有 ,)(C)(2XDD(X)(C3 设 X,Y 是两个随机变量,则有 特EY-EYYX别,若 X,Y 相互独立,则有 )()(D4 的充要条件是 X 以概率 1 取常数 ,即0)(XDE1)(XP切比雪夫不等式:设随机变量
17、X 具有数学期望 ,则对于任意正数 ,不等式2)(成立2-P3 协方差及相关系数定义 量 称为随机变量 X 与 Y 的协方差为 ,即)()(YEXE ),(YXCov)()(),( EYXCov 而 称为随机变量 X 和 Y 的相关系数D()),对于任意两个随机变量 X 和 Y, ),(2)()_( YXCovD协方差具有下述性质1 ),(),( ),(),( YXabovCovvYCov2 ,2121 定理 1 XY2 的充要条件是,存在常数 a,b 使 1bxaYP当 0 时,称 X 和 Y 不相关XY附:几种常用的概率分布表分布 参数 分布律或概率密度 数学期望 方差10两点分布10p
18、, 1,0)1()kpkXPp)1(二项式分布n nCnn(,n泊松分布 0,210,!)(kekXP几何分布1p , ,)1()(pk p12均匀分布 ba , 其 他0,)(bxabxf ba1)(2指数分布 0其 他,01)(xexf2正态分布2)( )(xexf 2第五章 大数定律与中心极限定理1 大数定律弱大数定理(辛欣大数定理) 设 X1, X2是相互独立,服从统一分布的随机变量序列,并具有数学期望 .作前 n 个变量的算术平均 ,则对于任意),()(kEknkX1,有0 11limnknP定义 设 是一个随机变量序列,a 是一个常数,若对于任意正数 ,有 nY,21 ,则称序列 依概率收敛于 a,记为liaYnn nY,21 aYpn 伯努利大数定理 设 是 n 次独立重复试验中事件 A 发生的次数,p 是事件 A 在每次试Af验中发生的概率,则对于任意正数 0,有 或1limnfP