数理统计复习总结.docx

1、1 统计量与抽样分布1.1 基本概念：统计量、样本矩、经验分布函数总体 X 的样本 X1，X 2，X n，则 T(X1，X 2，X n)即为统计量样本均值 样本方差212)(niiS修正样本方差212*)(niinX样本 k 阶原点矩 ,.)(,1kAniik样本 k 阶中心矩 ,.)21(,)(1XnBikik经验分布函数 其中 Vn(x)表示随机事件 出现的次,)(xvxF xX数,显然 ,则有 )(Vn )(xFEn)(1)(FD补充： DXESn12Sn2* 22)(X 221nii 二项分布 B(n,p): ),.10(,)1(nkpCkPnknEX=np DX=np(1-p) 泊松

2、分布 :)(,.)(,!ekXEXD 均匀分布 U(a,b): )(,1)(bxabxf2ba2 指数分布: (),(0)(1,(0)x xfeFe 1EX2D 正态分布 : ),(2N2)(exp21(xf EX2D22()1nnSEES242 (1)()(1)nnSDS当 时， 0X243XE2)(XD1.2 统计量：充分统计量、因子分解定理、完备统计量、指数型分布族T 是 的充分统计量 与 无关),.(21tTxfnT 是 的完备统计量 要使 Eg(T)=0,必有 g(T)=0且 h 非负 T 是 的充分统计);,.(),.();()( 21211 nnini xgxhfL 量T 是 的

3、充分完备统计量),.(),.()ep)(;( 21211 nnnii xhxTbCxf ),.(),.(),.()x)(;( 212122111 nnnnii xhbf 是 的充分完备统计量,2T,211.3 抽样分布： 分布，t 分布， F 分布，分位数，正态总体样本均值和方差的分布，非正态总体样本均值的分布分布： 2 )(.2212 nX )0()2(11xenxfnE2D2T 分布： 当 n2 时，ET=0 )(/ntYX2nDTF 分布： ),(212Fn),(12补充： Z=X+Y 的概率密度 f(x,y)是 X 和 Y 的联 dyzfdxzfzf ),(),()(合概率密度 的概率

4、密度XYZdxzfzf),()( 的概率密度)(xgy )(11ygyx 函数： 01e(1)(,!(n B 函数： 011),(dxx)(),B1.4 次序统计量及其分布：次序统计量、样本中位数 、样本极差 RAXX(k)的分布密度： ),.21(),(1)(!()1() nkxfFxknxf knkk X(1)的分布密度： )1(xFffX(n)的分布密度： 1)()( nxn2 参数估计2.1 点估计与优良性：概念、无偏估计、均方误差准则、相合估计(一致估计) 、渐近正态估计的均方误差：22(,)()()MSEDE若 是无偏估计，则对于 的任意一个无偏估计量 ，有 ，则 是 的最小方差无

5、偏估计，记*MVUE相合估计(一致估计): limnEli0nD2.2 点估计量的求法：矩估计法、最大似然估计法矩估计法：1 求出总体的 k 阶原点矩: 12(;,.)kkk maXxdF2 解方程组 (k=1,2,.,m)，得 即为所求1nkiia12,.knX最大似然估计法：1 写出似然函数 ，求出 lnL 及似然方程 i=1,2,.,m1()(;)niiLfxl0iL2 解似然方程得到 ，即最大似然估计 i=1,2,.,m2,.in12(,.)i nX补充： 似然方程无解时，求出 的定义域中使得似然函数最大的值，即为最大似然估计2.3MVUE 和有效估计：最小方差无偏估计、有效估计T 是

6、 的充分完备统计量， 是 的一个无偏估计 为 的惟一的 MVUE*(|)ET最小方差无偏估计的求解步骤：1 求出参数 的充分完备统计量 T2 求出 ，则 是 的一个无偏估计()Eg1()g或求出一个无偏估计，然后改写成用 T 表示的函数3 综合， 是 的 MVUE11()()T或者：求出 的矩估计或 ML 估计，再求效率，为 1 则必为 MVUET 是 的一个无偏估计，则满足信息不等式 ，其中()g2()()gDTXnI或 ， 为样本的联合分布。2ln(;)()fXIE2ln;()0fIE(;)f最小方差无偏估计 达到罗- 克拉姆下界 有效估计量 效率为 1无偏估计 的效率：1()eDnI是

7、的最大似然估计，且 是 的充分统计量 是 的有效估计2.4 区间估计：概念、正态总体区间估计(期望、方差、均值差、方差比) 及单侧估计、非正态总体参数和区间估计一个总体的情况： 2(,)XN已知，求 的置信区间：20 02(,1)Xunn未知，求 的置信区间：2*00* 2()(1)n St tS已知，求 的置信区间：22 221 1122()()()nni i ii i iXXX未知，求 的置信区间：22 221 1122()()()()n nni i ii i iXXX 两个总体的情况： ，21(,)N2(,)Y均已知时，求 的区间估计：21, 2212 1122 2()(0,1)()XY

8、Xunn 未知时，求 的区间估计：22112121212*2*()()()()nnXYtnS未知时，求 ：12,22 2 21 11 2 2* * *21 1 1(,)(,)(,)n n nSSSFFF 非正态总体的区间估计：当 时， ，故用 Sn 代替 Sn-1n2(0,)Lnn SXNXuS1limn2(,1)1mnnn3 统计决策与贝叶斯估计3.1 统计决策的基本概念：三要素、统计决策函数及风险函数三要素：样本空间和分布族、行动空间（判决空间） 、损失函数 (,)Ld统计决策函数 d(X):本质上是一个统计量，可用来估计未知参数风险函数： 是关于 的函数(,)(,)RdELX3.2 贝叶

9、斯估计：先验分布与后验分布、贝叶斯风险、贝叶斯估计1 求样本 X=(X1,X2,.,Xn)的分布： 1(|)(|)niiqxfx2 样本 X 与 的联合概率分布：(,)(|)(|)fxhxmq3 求 关于 x 的边缘密度(,)f ,fd4 的后验密度为：(,)(|)fxh取 时2(,)Ld的贝叶斯估计为：(|)(|)Exhxd贝叶斯风险为：22,()(,)()(|BRdEhxd取 时，贝叶斯估计为：2(,)()Ldd|()x补充： 的贝叶斯估计：取损失函数 ，则贝叶斯估计为()C2(,)()LdCA()|()|ExChx (,)(,)(|)(|)fxdfddmx3.3minimax 估计对决策

10、空间中的决策函数 d1(X),d2(X),.，分别求出在 上的最大风险值 max(,)Rd在所有的最大风险值中选取相对最小值，此值对应的决策函数就是最小最大决策函数。4 假设检验4.1 基本概念：零假设(H 0)与备选假设 (H1)、检验规则、两类错误、势函数零假设通常受到保护，而备选假设是当零假设被拒绝后才能被接受。检验规则：构造一个统计量 T(X1,X2,.,X3)，当 H0 服从某一分布，当 H0 不成立时，T 的偏大偏小特征。据此，构造拒绝域 W第一类错误（弃真错误）： 0|PT为 真第二类错误（存伪错误）： |为 假势函数： ()()EX1,()0X.当 时， 为犯第一类错误的概率0

11、()当 时， 为犯第二类错误的概率14.2 正态总体均值与方差的假设检验：t 检验、X 2检验、F 检验、单边检验一个总体的情况： 2(,)XN已知，检验 ：2010H:0(,1)UNn未知，检验 ：2010:0*()nXTtS已知，检验 ：220010H:221()()ii n未知，检验 ：220010:221()(1)niiX两个总体的情况： ，21(,)XN2(,)Y未知时，检验 ：2210212H:12 12*2*12()()()()nnT tnS未知时，检验 ：12,2012:212*2(,)nSF单边检验：举例说明， 已知，检验 ：2010H:构造 ，给定显著性水平 ，有 。当 H

12、0 成10(,1)XUNn1PUu立时 ，因此 。故拒绝010defU1域为 Wu4.3 非参数假设检验方法： 拟合优度检验、科尔莫戈罗夫检验、斯米尔诺夫检验2拟合优度检验: 20010:iiiiHpp201()(1)miiNnpWmr其中 Ni 表示样本中取值为 i 的个数，r 表示分布中未知参数的个数科尔莫戈罗夫检验： 实际检验的是0010:():()FxHFx0()nFx0,limsup()nnnxWxD斯米尔诺夫检验： 实际检验的是01:():()HFGHFG()nnFxG1212,lis()nnnnxx4.4 似然比检验明确零假设和备选假设： 0011:构造似然比： 0101sup(

13、,.;)(,.)nnLxLx拒绝域： 1(,.)nW5 方差分析5.1 单因素方差分析：数学模型、离差平方和分解、显著性检验、参数估计数学模型 ,(i=1,2,.,m;j=1,2,.,ni)2ij(0,)ijijXN各 相 互 独 立 012nH.：总离差平方和 21()inmTijijQXTEAQ组内离差平方和 21()inEijiij 2()nr组间离差平方和 当 H0 成立时，21()mAiQX2()1AEr构造统计量 ，当 H0 不成立时，有偏大特征()(1,)AEErFFrnn且21(,)ikikikXNn2()EQnr()()ikiEikTtr应用： 若原始数据比较大而且集中，可减

14、去同一数值 再解题ijijXk 辅助量： 222111(),(),i i innnmmmj j jijijijPXQR,AETQRP5.2 两因素方差分析：数学模型、离差平方和分解、显著性检验数学模型 ,(i=1,2,.,r;j=1,2,.,s)2(0,)ijiijijXN各 相 互 独 立 0122H:.n总离差平方和 21()rsTijijQXTEBAQ组内离差平方和 21()inmEijijiij 2()1Ers因素 B 引起的离差平方和 当 H0 成立时，21()sBjjQrX2()BQ因素 A 引起的离差平方和 当 H0 成立时，21()rAiis2()1AEr辅助量：2 22111

15、1, , ,rsrss rsijIijIij ijij ij ji ijPXQXQXRXn,AIBIEIIQPRP构造统计量：()(,)(11,()AAEEBrFFrssQsr 6 回归分析6.1 一元线性回归：回归模型、未知参数的估计(、 2)、参数估计量的分布(Y02*2)回归模型： i=1,2,.,n.2i(0,)iiYxN各 相 互 独 立的估计： 分布：（ ,）A12()niiiiixYx（ ,）A2121(,)()(,)niiniiNx的估计： 2AAA22 2211()()nni inYnxi iYxS22E*2E6.2 多元线性回归：回归模型、参数估计、分布回归模型： i=1,2,.,n.2(0,)iiinYXNIi各 相 互 独 立参数估计： A1()()TTXY7 多元分析初步7.1 定义及性质：定义、性质其中 为 X 的均值向量， 为 X 的协方差矩阵(,)pXNY=CX+b，则 (,)TpYCb若 ，刚012)()def p7.2 参数的估计与假设检验：、 的估计、正态总体均值向量的假设检验样本均值向量 样本离差阵1niiX1()()nTkkSX