1、大数据时代统计学面临的机遇与挑战【摘要】大数据给统计学带来了机遇、挑战和紧迫感。本文描述大数据的环境，利用大数据的目的和大数据带来的变革；介绍国内外有关大数据的研究动向；探讨大数据包含的信息，大数据的预处理、抽样和分析方法。 【关键词】大数据 抽样 数据分析方法论 当今时代，一方面人们在主动地获取数据。各个科学领域都在大量地获取数据，自然科学领域收集着从宏观的天文数据到微观的基因数据，经济、金融和人文社会科学收集着大量的观察和调查数据。另一方面人们在被动地囤积数据。随着计算机互联网、搜索引擎、电子商务、多种传感器和多媒体技术的发展和广泛使用，各种形式的数据如江河流水般地涌来。当今数据的获取和规
2、模发生了根本的变化，统计学面临着新的机遇和挑战，需要在方法论上有所突破。 一、大数据及其目的 狭义地讲，大数据是一个大样本和高维变量的数据集合。针对样本大的问题，统计学可以采用抽样减少样本量，达到需要的精度。目前大数据的环境包括了：数据流环境：数据快速不断涌来，现有存储设备和计算能力难以应付这种洪水般的数据流；磁盘存储环境：数据已不能完全存储在内存中，需要硬盘存储；分布存储环境：数据分布存储在多个计算机中；多线条环境：数据存储在一个计算机中，多个处理器共享内存。 大数据的目的是将数据转化为知识，探索数据的产生机制，进行预测和制定政策。把信息转变为有用的知识还需漫长的时间。 “预测”不同于“制定
3、政策” 。一个儿童的鞋子越大，可以预测他掌握的词汇量越多；但是，制定政策强制他穿大鞋子并不能提高他的词汇量。 二、大数据带来的变革 大数据给我们的时代带来了变革。目前，人们习惯于根据“研究问题”来驱动“收集数据” 。今后，大数据到处可得，人们将会用“数据”驱动“研究问题” 。就像我们出远门前常常查询目的地的天气、交通和宾馆那样，未来人们在研究和决策前将会通过查询数据做决定。目前已经有科学家开始使用软件搜索和汇总已发表论文中的成果。大数据中包含有各种不同目的的数据集，综合利用它们可以做出原来目的之外的意外成果。例如，将医院病历数据与信用卡消费数据结合，我们能发现食品与健康的相关关系，指导人们进行
4、健康饮食。假若再加上手机和 GPS 等数据，还能随时对人们进行体检，指导健身，减少猝死，帮助医生诊断疾病等，应用大数据可以设想的用途不计其数。 三、大数据的处理、抽样与分析 （一）数据的预处理 大数据的预处理包括数据清洗、不完全数据填补、数据纠偏与矫正。利用随机抽样数据矫正杂乱的、非标准的数据源。统计机构的数据是经过严格抽样设计获取的，具有总体的代表性和系统误差小的优势，但是数据获取和更新的周期长，尽管调查项目有代表性，但难以无所不包。而互联网数据的获取速度快、量大、项目繁细，但是难以避免数据获取的偏倚性。将统计机构的数据作为金标准和框架对互联网数据进行矫正，将互联网数据作为补充资源对统计机构
5、的数据进行实时更新，也许是解决问题的一个思路。 （二）大数据环境的抽样 大数据的抽样方法有待研究。 “样本”不必使用所有“数据” ，不管锅有多大，只要充分搅匀，品尝一小勺就知道其滋味。针对大数据流环境，需要探索从源源不断的数据流中抽取足以满足统计目的和精度的样本。需要研究新的适应性、序贯性和动态的抽样方法。根据已获得的样本逐步调整感兴趣的调查项目和抽样对象，使得最近频繁出现的热门数据，也是感兴趣的数据进入样本。建立数据流的缓冲区，记录新发生数据的频数，动态调整不在样本中的数据进入样本的概率。 （三）大数据的分析与整合 针对大数据的高维问题，需要研究降维和分解的方法。探讨压缩大数据的方法，直接对
6、压缩的数据核进行传输、运算和操作。除了常规的统计分析方法，包括高维矩阵、降维方法、变量选择之外，需要研究大数据的实时分析、数据流算法。不用保存数据，仅扫描一遍数据的数据流算法，考虑计算机内存和外存的数据传送问题、分布数据和并行计算的方法。如何无信息损失或无统计信息损失地分解大数据集，独立并行地在分布计算机环境进行推断，各个计算机的中间计算结果能相互联系沟通，构造全局统计结果。研究多个数据资源的融合算法。研究利用数据流寻找模型变化时间点的动态变化模型。 在大数据环境，很多数据集不再有标识个体的关键字，传统的关系数据库连接方法不再适用，需要探讨利用数据库之间的重叠项目来结合不同的数据库，利用变量间
7、的条件独立性整合多个不同变量集的数据为一个完整变量集的大数据库的方法。探索不必经过整合多数据库，直接利用局部数据进行推断和各推断结果传播的方法。另一方面，利用统计性质无信息损失地分解和压缩大数据。 四、结束语 一个新生事物的出现将必定导致传统观念和技术的革命。数码照相机的出现导致传统相片胶卷和影像业的已近消亡。如果大数据包含了所有父亲和儿子的身高数据，只要计算给定的父亲身高下所有儿子的平均身高就可以预测其儿子身高了。模型不再重要，当年统计学最得意的回归预测方法将被淘汰。大数据的到来将对传统的统计方法进行考验。统计学会不会象科学哲学那样，只佩戴着历史的光环，而不再主导和引领人们分析和利用大数据资
8、源。现在其他学科和行业涌入大数据的热潮，如果统计学不抓紧参与的话，将面临着被边缘化的危险。现今统计学的目标是通过获取数据和分析数据发现真理（总体的参数和性质） ，统计方法和理论对数据有过高的要求。而大数据充满了各种随机的、非随机的误差和偏倚，不能满足这些苛刻的要求。按照波普的科学划界准则，只要我们能从大数据中提炼出具有可证伪的结论，那么这个结论还是科学的，可以用于知识积累。这些可证伪的大数据结论可作为进一步科学研究的假说，以数据驱动研究。我们在看到大数据给统计学带来了机遇的同时，也应该看到现在的统计方法普遍只适用于全部数据放在单个计算机内存的环境，分布式大数据和数据流的环境给统计学带来了挑战。统计学家不应该固守传统数据的环境，必须积极学习新生事物，适应新的大数据环境，扩展统计学的应用领域，创造出迎合大数据的新统计方法，“机遇”与“挑战”并存。
