精选优质文档-倾情为你奉上实验三 分类挖掘算法（C4.5）一、实验目的1、理解分类2、掌握分类挖掘算法C4.53、为改进C4.5打下基础二、实验内容1、选定一个数据集（可以参考教学中使用的数据集）2、选择合适的实现环境和工具实现算法C4.53、给出分类规则三、实验原理C4.5是机器学习算法中的另一个分类决策树算法，它是基于ID3算法进行改进后的一种重要算法，相比于ID3算法，改进有如下几个要点：1)用信息增益率来选择属性。ID3选择属性用的是子树的信息增益，这里可以用很多方法来定义信息，ID3使用的是熵（entropy，熵是一种不纯度度量准则），也就是熵的变化值，而C4.5用的是信息增益率。2)在决策树构造过程中进行剪枝，因为某些具有很少元素的结点可能会使构造的决策树过适应（Overfitting），如果不考虑这些结点可能会更好。3)对非离散数据也能处理。4)能够对不完整数据进行处理。信息增益计算公式：信息熵计算公式：信息增益率公式：其中，IG就是前面的信息增益，IV计算公式如下： 简化
