1、数据挖掘研究在信息化中的应用研究摘要:本文系统论述和总结了数据挖掘和空间数据挖掘的概念、技术方法和研究现状。详细介绍了目前主流的数据挖掘厂商及解决方案文章最后简要分析了数据挖掘技术在国土资源行业中的研究现状,并对如何利用这些新技术为国土资源业务管理与决策支持提供帮助进行了初步探讨。关键词:数据挖掘 空间数据挖掘 国土资源1 数据挖掘的概念、技术方法和研究现状1.1 数据挖掘的概念随着数据仓库技术的迅速发展以及数据库管理系统的广泛应用,人们积累的数据越来越多。人们迫切地感到需要新的技术和工具以便从大量数据中智能地、自动地抽取出有价值的知识或信息。数据库知识发现(Knowledg。Discover
2、y in Databases,KDD,或者称数据挖掘,Data Mining,DM)于是应运而生。1989 年 8 月在美国底特律召开的第 11 届国际人工智能联合会议的专题讨论会上首次出现 KDD 这个术语。数据挖掘使数据库技术进入了一个更高级的阶段,它不仅能对过去的数据进行查询和遍历,并且能够找出过去数据之间的潜在联系,从而促进信息的传递。数据挖掘是数据仓库系统中最重要的部分。数据挖掘,就是从大型数据库的数据中提取人们感兴趣的知识。这些知识是隐含的,事先未知的有用信息,提取的知识可表示为概念(Concepts),规律(Regulations),模式(Patterns)等形式。事实上,更广泛
3、一点说,数据挖掘就是在一些事实或观察数据的集合中寻找模式的决策支持过程。数据挖掘是一个多学科的交叉领域,它涉及到数据库技术、人工智能、机器学习、神经网络、统计学、模式识别、知识库系统、信息检索、高性能计算和数据可视化等学科。1.2 数据挖掘的技术和分析方法数据挖掘的核心模块技术历经了数十年的发展,主要涉及到数据库、人工智能、决策树、统计分析等多种技术,这些技术多数已被集成到大型数据仓库和 OLAP 系统中。常用数据挖掘技术,见表1。数据挖掘利用的技术越多,得出的结果精确性就越高。数据挖掘方法有多种,其中比较典型的有关联分析、序列模式分析、分类分析、聚类分析等,具体如表 2 所示。1.3 数据挖
4、掘研究现状目前,数据挖掘己从高速运行的初级阶段进人了方兴未艾的中级阶段。初级阶段已完成了理论草创、模型框架、学术领域的组织落实等工作;中级阶段,在理论上完成模型补遗、算法优化,理论完善,撰写著作、教科书。近年来,对关系数据库中的数据挖掘和知识发现研究己经取得了不少进展,其中代表性的工作有:用面向属性的归纳方法在关系数据库中发现特征规则和区分规则。在事务数据库中发现关联规则。基于距离的和基于密度的聚类分析的优化等。为了处理数据库中的不确定性问题,Rouhg 集和模糊集理论得到了广泛的研究与应用。另外,决策树、神经网络、遗传算法、可视化等方法也在机器学习与知识发现中得到了研究与应用。在数据挖掘与知
5、识发现领域,最有影响的发现算法有 IMB 的 Agrwaal 的关联算法 Apriori、加拿大J.Han 教授的概念树提升算法、澳大利亚的教授的分类算法以4.5/C5.0、zhang 等的 BIRCH 聚类算法、密西根州立大学 EriCk Goomdan 的遗传算法等。在挖掘工具方面的产品也比较成熟。如基于规则和决策树的工具典型产品有 Angoss Software 开发的Knowledgeseeker。聚类,规则归纳,发现多种因果关系,图形方式显示决策树,支持多种数据库。在基于人工神经网络的工具典型产品为 Advaneed Software Application 的 DBProfile。
6、windows 环境,适于市场分析,自然聚类、分段、统计模型和可视化技术。在国内,对数据挖掘的研究稍晚,还没有形成整体力量,大多数相关成果停留在实验阶段,目前尚未见商品化软件。李德仁院士领导的课题组对发现状态空间理论和云模型在 MDKD 中的应用进行了系统的研究;北京系统工程研究所对模糊方法在知识发现中的应用进行了较深人的研究;华中科技大学、复旦大学、浙江大学、中国科技大学、中科院数学研究所、吉林大学等单位开展了对关联规则发掘算法的优化和改造。2 空间数据挖掘的概念和研究现状2.1 空间数据挖掘的概念空间数据库(数据仓库)中的空间数据除了其显式信息外,还具有丰富的隐含信息,如数字高程模型(D
7、EM 或 TIN)除了载荷高程信息外,还隐含了地质岩性与构造方面的信息。这些隐含的信息只有通过数据挖掘才能显示出来。空间数据挖掘(Spatial Data Min-ing,SDM),或称从空间数据库中发现知识(Knowledge Discovery from spatial Databases,KDSD),是指从空间数据库中提取用户感兴趣的空间模式与特征、空间与非空间数据的普遍关系及其他一些隐含在数据库中的普遍的数据特征。它可以用来理解或重组空间数据、发现空间和非空间数据间的关系、构建空间知识库、优化查询等。2.2 空间数据挖掘的研究现状空间数据挖掘是数据挖掘领域的一个研究热点。早期 SDM
8、工作方式一般是静态地对单机上一些空间数据进行知识挖掘,花费大量的时间精力收集原始信息,挖掘速度慢,挖掘结果难于理解,知识不易更新等缺点。德国慕尼黑大学、加拿大 Simon Fraser 大学、芬兰赫尔辛基大学等空间数据挖掘取得了进展。例如,Matheus(1993)提出了集数据、数据表达、数据处理三位一体的方式的空间数据挖掘的体系结构。在这种结构中,用户可以控制挖掘过程的每一步。挖掘所需的空间及属性信息存储在一个知识库中,通过数据库接口进行访问。加拿大 Simon Fraser 大学开发了空间数据挖掘系统原形 GoeMiner 已迈出的软件开发的第一步。GoeMiner系统功能模块包括空间数据
9、立方体构件模块、空间联机分析处理(OLAP)模块和空间数据挖掘模块;挖掘语言为 GMQL;挖掘规则有特征规则、判别规则和关联规则。这些研究大多具有计算机科学背景,只是把空间数据挖掘作为数据挖掘的一个应用领域,研究的重点是提高原先数据挖掘算法在空间数据库的执行效率。在遥感的影像识别方面,许多学者实际已经做了大量的空间数据挖掘工作。在国内,李德仁院士最早开始关注空间数据挖掘和知识发现,提出了空间数据挖掘和知识发现的概念,率先研究了从 GIS 数据库中发现知识,构筑了空间数据挖掘和知识发现的理论框架,系统地研究了粗糙集和云理论在空间数据挖掘中的理论和技术,提出了用于空间数据挖掘的地学粗空间理论。目前
10、武汉大学、中国科学院与环境信息系统国家重点实验室、中国科学院软件研究所等高校和科研院所开展了空间数据挖掘的理论研究和应用研究。数据挖掘从提出到现在只短短 20 年时间,而空间数据挖掘则更年轻,但其发展十分迅速,已经取得了十分丰富的成果。空间数据挖掘将具有广阔的发展前景。目前,空间数据挖掘理论和技术研究方面有待于进一步研究和探索,如多分辨率的数据挖掘、并行数据挖掘、多媒体空间数据库的数据挖掘、知识的可视化表达、分布式空间数据的知识发现、空间数据挖掘语言、新算法和高效率的空间挖掘算法、SDM 与空间数据仓库、SDM 与 GIS、SDM 与空间决策知识系统、SDM 与专家系统的集成等方面。3 主流数
11、据挖掘厂商及其解决方案目前,主流的数据挖掘厂家有 IBM、SAS、SPSS 等,他们的产品历史长、应用而广,有较大的用户群。3.1 intelligent Miner由美国 IBM 公司开发的数据挖掘软件 Intelligent Mine:是一种分别面向数据库和文本信息进行数据挖掘的软件系列,它包括Intelligent Miner for Data 和 Intelligent Miner for Text。Intelligent Miner for Data 可以挖掘包含在数据库、数据仓库和数据中心中的隐含信息,帮助用户利用传统数据库或普通文件中的结构化数据进行数据挖掘。它已经成功应用于市场
12、分析、诈骗行为监测及客户联系管理等;Intelligent Miner for Text 允许企业从文本信息进行数据挖掘,文本数据源可以是文本文件、web 页面、电子邮件、lotus Notes 数据库等等。3.2 SAS Enterprise Miner这是一种在我国的企业中得到较多应用的数据挖掘工具,比较典型的包括上海宝钢配矿系统应用和铁路部门在春运客运研究中的应用。SAS Enterprise Miner 是一种通用的数据挖掘工具,按照 “抽样探索转换建模评估”的方法进行数据挖掘可以与 SAS 数据仓库和 OLAP 集成,实现从提出数据、抓住数据到得到解答的“ 端到端”知识发现。3.3
13、SPSS ClementineSPSS Clementine 是一个开放式数据挖掘工具,曾两次获得英国政府 SMART 创新奖,它不但支持整个数据挖掘流程,从数据获取、转化、建模、评估到最终部署的全部过程,还支持数据挖掘的行业标准CRIST DM。Clementine 的可视化数据挖掘使得“思路”分析成为可能,即将集中精力在要解决的问题本身,它还提供了多种图形化技术,有助理解数据间的关键性联系,指导用户以最便捷的途径找到问题的最终解决办法。其它常用的数据挖掘工具还有 LEVELS5 Quest、MineSet(SGI )、Partek、SELearn 、SPSS 的数据挖掘软件 Snob、As
14、hraf Azmy 的SuperQuery、WINROSA、Xmdv-Tool 等。4 数据挖掘在国土资源信息化中的应用初探如何把数据仓库和数据挖掘技术应用到北京市国土资源信息化中来,是一个很重要的研究课题。我局数据仓库和数据挖掘课题组经过调研分析,认为这二种技术应用主要有以下形式:报表(含文字报告、图表)、地图、OLAP 分析和数据挖掘与预测分析。而要把这些形式应用到电子政务中来,许多信息化单位都提出了不同的方法,其中建立数据综合分析与决策支持系统是一个常用的方法。4.1 应用形式(1)报表由于数据仓库的数据来自国上资源系统各个已有系统,提供非常完整而集成的全局数据。因而数据仓库的一大应用可
15、以是替代或增强现有业务报表系统,为国土资源系统不同层次和不同部门提供服务。国土资源数据仓库的应用涉及多个部门和应用,不同部门对报表的需求是多样化的。用户以数据仓库作为基准平台可以采取两种方式产生报表:一是由数据仓库平台只为各部门提供基础数据,由各个部门自己开发实现报表系统;其二是提供一个报表自动创建工具,用户利用该工具创建报表。也可以结合企业 OA 系统来实现数据仓库的报表实现。(2)地图地图是国土资源业务管理和决策分析的最重要工具之一。利用地图可以实现传统报表无法实现的功能,展示空间数据,实现可视化效果。事实上,国土资源业务审批已经和地图紧密地联系在一起,核心业务审批和宏观决策都离不开地图技术的支持,利用地图和报