具有核矩阵谱摄动稳定性的核选择

内核选择是内核方法的最新研究和应用中的关键问题之一。 这通常是通过最小化泛化误差的估计值或其他一些相关的性能指标来完成的。 近年来,使用稳定性的概念来估计泛化误差已引起了广泛的关注。 不幸的是,提出来推导理论泛化误差界限的现有稳定性概念在实践中很难用于内核选择。 众所周知,核矩阵包含核方法所需的大多数信息,特征值在核矩阵中起着重要的作用。 因此,我们旨在引入一种新的稳定性概念,即光谱扰动稳定性,以研究核选择问题。 所提出的稳定性相对于训练集的变化量化了核矩阵的频谱扰动。 我们建立了谱摄动稳定性与泛化误差之间的联系。 通过最小化派生的泛化误差范围,我们提出了一个新的内核选择准则,该准则可以保证良好的泛化特性。 在我们的标准中,通过求解新定义的广义核矩阵的导数,可以有效地计算核矩阵特征值的摄动。 理论分析和实验结果均表明我们的标准是正确有效的。