数据挖掘第三讲 数据预处理主要内容 n 为什么要预处理数据? n 数据清理 n 数据集成和变换 n 数据归约为什么要预处理数据? n 现实世界的数据是“肮脏的” q 不完整的:有些感兴趣的属性缺少属性值,或仅包 含聚集数据 q 含噪声的:包含错误或者“ 孤立点” q 不一致的:数据源不同,其在编码或命名上有差异 n 没有高质量的数据,就没有高质量的挖掘结果 q 高质量的决策必须依赖高质量的数据 q 数据仓库需要对高质量的数据进行一致地集成数据质量的多维度量 n 一个广为认可的多维度量观点: q 精确度 q 完整度 q 一致性 q 合乎时机 q 可信度 q 附加价值(已经物化的数据,方便我们挖掘研究) q 可访问性 n 跟数据本身的含义相关的 q 内在的、上下文相关的、数据的表达形式数据预处理的主要任务 n 数据清理 q 填写空缺的值,平滑噪声数据,识别、删除孤立点,解决不 一致性 n 数据集成 q 集成多个数据库、数据立方体或文件 n 数据变换 q 规范化和聚集 n 数据归约 q 通过一些技术(概念分层上卷等)得到数据集的压缩表示, 它小得多,但可以得到相同或相近的结果 n 数据离散化