【机器学习】决策树算法

决策树 概念 决策树(Decision Tree)是一种基本的分类与回归方法,本文主要讨论分类决策树。决策树模型呈树形结构,在分类问题中,表示基于特征对实例进行分类的过程。它可以认为是if-then规则的集合,也可以认为是定义在特征空间与类空间上的条件概率分布。相比朴素贝叶斯分类,决策树的优势在于构造过程不需要任何领域知识或参数设置,因此在实际应用中,对于探测式的知识发现,决策树更加适用。 决策树学习通常包括 3 个步骤:特征选择、决策树的生成和决策树的修剪。 决策树 算法思想 模型定义 分类决策树模型是一种描述对实例进行分类的树形结构。决策树由结点(node)和有向边(directed e