决策树原理设计过程实例.docx

决策树分类器就像带有终止块的流程图,终止块表示分类结果。开始处理数据集时,先需要测量集合中数据的不一致性,也就是熵,然后寻找最优化方案划分数据集,直到数据集中的所有数据属于同一分类。ID3算法可以用来划分标称型数据集,构建决策树时,采用递归的方法将数据集转化为决策树。如果产生过度匹配数据集的问题,可以通过裁剪决策树,合并相邻的无法产生大量信息增益的叶节点,消除过度匹配。