旋转森林的一种变体用于构建整体分类器

旋转森林是一种有效的整体分类器生成技术,其工作原理是使用主成分分析(PCA)旋转原始特征轴,以便可以形成用于学习基础分类器的不同训练集。 本文介绍了旋转林的一种变体,可以将其视为装袋和旋转林的组合。 在这里,使用装袋将更多的随机性注入到“旋转森林”中,以增加整体成员之间的灵活性。 使用UCI储存库中的33个基准分类数据集进行的实验(其中采用分类树作为基础学习算法)表明,该方法产生的整体分类器的错误率低于Bagging,AdaBoost和Rotation Forest。 误差性能的偏差-方差分析表明,与其他考虑的集成过程相比,该方法通过减少更多的方差项来提高单个分类器的预测误差。 此外,在具有人工分类噪声的数据集上计算的结果表明,该新方法对噪声更鲁棒,并且使用kappa误差图来研究集成分类器的多样性-准确性模式。