1、自回归模型 AR(p)的整体估计【摘要】：主要讨论时间序列的自回归模型AR(p)的参数估计问题，列出常用的普通最小二乘估计。但实际的观测值是含有随机误差的，且与自身前一个或前几个时刻的观测值有关或有依赖性，都要考虑其所含的随机误差，所以引入整体最小二乘法的思想进行参数估计，得出相应的公式，最后并以算例加以验证与分析讨论。关键词：自回归模型；参数估计；整体最小二乘估计；A Total Least Square Estimation of Autoregressive ProcessesAbstract:It discusses mainly the time series autoregress
2、ive model AR (p) of the parameter estimation problem, listing commonly used ordinary least squares estimation. But the actual observation contains random error, and with their own previous or the first few moments of the observations relating to, or dependent,so we must take into account the random
3、error it contains.We introduce the total least squares parameter Estimates, and obtain the corresponding formula . In the last give the example to the verification and analysis.Key words: autoregressive process; estimation of parameter; total least square estimation;0 引言时间序列分析的目标就是通过分析要素(变量)随时间变化的历史
4、过程, 揭示其变化发展规律, 并对未来状态进行分析预测 1。如在变形测量中,可以采用时间序列分析方法对观测数据进行分析,以便建立变形体的动态变形预测模型,并对其变形趋势进行预测。所谓时间序列的参数估计，就是在模型结构及阶次已确定的条件下，对模型参数与进行估计，使所建立的模型是实际时间序列的“最佳”拟合模型 1。但在实际的观测中，观测值是由一定观测手段得到的，不可避免地含有随机误差，在这种情况下,普通的最小二乘估值难以保证结果的最优性。本文将整体最小二乘法的思想引入时间序列模型中，不仅考虑自身观测值的误差，同时考虑与其有关的自身前一个或前几个时刻的观测值的误差，从而进行参数估计。能够为预测得出更
5、为准确的数据。1 自回归模型 11.1 模型子样观测值 ,白噪声序列表示为 ,回归系数用,10,ix ta表示，则可得到的 AR 模型：),21(pj(1)tptttt xxx211.2模型参数的最小二乘估计设样本观测值 ，记,0,tXTNpxxY21aaTp21pNNpxxA 21211则 AR(p)模型可以表示为（2）Y由最小二乘原理可得到模型参数的估计为 YAT1)(那么根据最小二乘估计值可以得到噪声的估值为pttttt xxxa21 ),1(Nt噪声方差 的最小二乘估值为2 122 TNpttua2 整体最小二乘法参数估计在进行许多时间序列分析的实际问题中，建立模型的主要目的就是在确定
6、模型参数之后，对未来可能出现的结果进行分析预报。而结果又与自身前一个或前几个时刻的观测值有关，观测必有误差的存在，所以不能忽略之前观测值 的随机误差。整体最小二乘法就A是同时考虑自变量和因变量误差存在的算法。方程(2) 与线性回归方程具有相同的形式。在线性回归中y=ax+b，自变量xAY是确定的，y和b是随机变量。在AR(p)模型中 自然也是随机变量，但在t-1时刻，,21tx它们均已确定不变，所以AR(p)模型可以看做条件线性回归模型，故可用多元回归分析中的有关方法进行参数估计 1。 作为自身前一个或前几个时刻的观测值是确定已知的，但在观测中是含有随机误差的，在计算中应该考虑其所含误差的影响
7、。应用整体解算的方法进行解算。2.1整体最下二乘原理及解算步骤。TLS 的基本思想可以归纳为 2:观测方程 中，不仅观测向量 Y 中存在误差1,mnXYVy，同时系数矩阵 X 中也含有误差 VX。此时，可用 TLS 方法求得参数 。也就是说，在TLS 中，考虑的是矩阵方程= （2-XY1）或（2-X VYX,Y，2）的求解。在测量数据处理中， 为观测个数， 为参数个数，通常情况下 ，矩阵 X 的nmnm秩 。显然式（2-1）的矩阵表示为mXRn,（2-01VYXY3）或等价为（2-0zDB4）其中：为增广矩阵， 为误差矩阵， ，求解上式1,1,nmnYXB VYXD1,mZ,的整体最小二乘方法
8、可以表示为约束最优化问题：（2-5）minF是 的 范数。DF)(robenius求的 =min 的问题称为 TLS 问题，若能找到式 (2-1)的一个最小点 ，F VYOX则任何满足 的 都称为 TLS 解 3YXVOO求解 TLS 问题的主要工具是奇异值分解 4，得 1,1ZkYXYBmTT令 ，得YXTNXXYXNI1综上所述，求解矩阵方程 中参数 的 TLS 解 的步骤为：1,1,mn TLS(1)列观测方程式 ;1,mnXY(2)构成增广矩阵 ;,B(3)求矩阵 的特征值，并求出最小特征值 ;T 1m(4)计算参数 的 TLS 解 。1,1,1, mXYmXNI2.2自回归模型 AR
9、(p)的整体估计线性模型： AY用矩阵形式表示： 式中： ,X可得： ，XYmXNI13 实例分析以文献3例 5.6 的数据为样本观测数据，共计 36 个数据沉降观测数据序数 高程 序数 高程 序数 高程 序数 高程 序数 高程 序数 高程12345626.3326.2726.4325.5626.8226.5678910111225.9326.4326.5225.4626.1227.2813141516171826.6727.9526.7427.5325.3126.9019202122232428.0926.7828.6626.7527.2428.0225262728293026.8128.5
10、027.6826.5728.3627.9431323334353626.8128.5027.6826.5728.3627.94(1)模型参数的最小二乘估计由文献3得模型阶数为 3p误差方程 36,54,321 ixbxbviiii参数估计为 09.2781.)(132YXT得自回归模型 32165.3.0487. iiii xxxx)(80.,47.0692 mpnVT (2)整体估计参数估计为 XYmXNIb1321得自回归模型 4 结论不足之处在于矩阵 中是不同时刻的观测值，需要在每个时刻都要进行平差求解才行，A这里只是一个整体的结算过程，还需要进行每一的迭代计算。参考文献1吴怀宇. 武汉：武汉大学出版社M.2004.2Van Huffel S,Vandewalle J.The Total least Squares Proble,Computational Aspects and Analysis,Math,SIAMJ.Philadelphia,1991.3邱卫宁，陶本藻，姚宜斌，吴云，黄海兰.测量数据处理理论与方法M.武汉：武汉大学出版社，20084俞锦成.关于整体最小二乘的可解性J.南京师范大学学报(自然科学版)，1996，19(1):13-16.
