论文研究 基于微分同胚的鲁棒激活函数的极端学习机.pdf

在实际问题中数据的不规则分布、带有噪声以及离群点，都严重影响了极端学习机算法的分类准确率。针对这些问题，深入分析不同激活函数的特性，提出了一种基于角度优化和微分同胚理论的鲁棒激活函数（robust activation function）。该鲁棒激活函数通过角度优化及微分同胚揭示数据的内在流形，从理论上证明了中心化样本长度与其偏离主空间角度为子空间偏离的主要因素，进而解决了噪声造成的主空间偏离问题，并且可尽量避免激活函数的输出值趋于零的情况。实验结果表明提出的激活函数优于其他的激活函数。