1、本科生必修课:概率论与数理统计第五章 大数定律及中心极限定理 主讲教师 :董庆宽 副教授研究方向 :密码学与信息安全电子邮件: 个人主页: http:/ 2/41第五章 大数定律及中心极限定理5.1 大数定律5.2 中心极限定理 3/415.1 大数定律 大数定律 (law of large numbers),又称大数定理,是 一种描述当试验次数很大时所呈现的概率性一种描述当试验次数很大时所呈现的概率性质的定律质的定律 。但是大数定律并 不是经验规律,而是不是经验规律,而是严格证明了的定理严格证明了的定理 。 在前面我们接触了两个重要的概念l 大量试验后事件发生的频率 nA/n稳定于一个常数,
2、即概率l 大量试验的算术平均值稳定于数学期望 大数定律就是以确切的数学形式表达了大量重复出现的随机现象的统计规律性 l 即频率的稳定性和算术平均值的稳定性4/41弱大数定理弱大数定理 1(契比雪夫定理的特殊情况契比雪夫定理的特殊情况 ) 设随机变量 X1, X2,., Xn,.相互独立 , 且具有相同的数学期望和方差 : E(Xk)=m, D(Xk)=s2(k=1,2,.), 作前 n个随机变量的算术平均值则对于任意正数 e, 有5.1 大数定律定理的解释:当 n时, 这一随机事件的概率趋近于 1即对任意的正数 ,当 n充分大时,不等式 成立的概率很大5/41证 由契比雪夫不等式可得由随机变量
3、 X1,X2,X n, 相互独立,且具有相同的数学期望和方差,有 在上式中令 n, 并注意到概率不能大于 1, 即得6/41 定理的实际含义:令 充分小,当 n充分大时,随机变量 X1,X2,X n的算术平均值无限接近数学期望 E(X1)= E(X2)= E(Xn),即当 n无限增加时 n个随机变量的算术平均值将几乎变成一个常数。这种接近是概率意义上的接近5.1 大数定律7/415.1 大数定律 概率中的几种收敛l 依概率收敛l 依分布收敛 (弱收敛,只在连续点保证收敛 )l 几乎必然收敛,也叫几乎处处收敛8/415.1 大数定律 定义 已知随机变量序列 Y1,Y2,.,Yn,. 与随机变量Y
4、。如果对 ,都有那么我们就称随机变量序列 Yn, nZ+依概率收敛到随机变量 Y ,记为依概率收敛的本质是 Yn对 Y的绝对偏差小于任一给定量的可能性将随着 n的增大而增大 . 特别当 Y为退化分布时 ,即 PY=a=1,则称序列依概率收敛于 a,即 如果把极限放到绝对值上,即差值的极限小于任意正数的概率为 1则称为 几乎处处收敛9/415.1 大数定律 依概率收敛序列的性质l (只考虑收敛于常数 a的情况 ): 若 , ,又设函数 g(x,y)在点 (a,b)连续,则 这样上述弱大数定理可以描述为 定理一 设随机变量 X1,X2,X n, 相互独立,且具有相同的数学期望和方差: E(Xk)=, D(Xk)=2(k=1,2,) ,则序列 依概率收敛于 ,即10/415.1 大数定律 在概率极限理论中 ,研究随机变量序列收敛性的同时当然也要研究相应的分布函数序列的收敛性如:中心极限定理,第六章的经验分布函数 Fn(x)等 定义 3 设 Fn(x),nN是一列定义在 R上的有界非减右连续函数,如果存在一个满足同样条件的函数 F(x)使得 则称 Fn(x),nN弱收敛到 F(x),记为 如果 Fn(x)是一列分布函数,并且存在分布函数 F(x) ,使得 ,那么我们就称 Fn(x)依分布收敛到 F(x) ,记为 。