基于原子分解的次梯度下降用于矩阵分类

矩阵适用于表示具有复杂结构的大量数据,例如图像和脑电图数据(EEG)。 为了学习处理这些矩阵数据的分类器,特征矩阵的结构信息是有用的。 本文着重于正则化的矩阵分类器,其输入样本和权重参数均为矩阵形式。 现有的一些方法假设权重矩阵具有低秩结构,然后利用权重矩阵的流行核规范作为正则化项。 但是,这些矩阵分类器的优化方法通常涉及大量昂贵的奇异值分解(SVD)操作,从而无法扩展到适中的矩阵大小。 为了降低时间复杂度,我们提出了一种新颖的学习算法,称为基于原子分解的次梯度下降法(ADBSD),它解决了以目标函数为Frobenius.matrix范式和核范式相结合的矩阵分类器的优化问题。重量矩阵以及铰链损失函数。 我们的ADBSD是一种迭代方案,它在每次迭代中从目标函数的次梯度中选择信息量最大的秩一矩阵。 我们考虑使用基于原子分解的方法来最小化核范数,因为它们主要依赖于顶部奇异矢量对的计算,从而在效率上具有很大的优势。 我们根据经验评估了拟议算法ADBSD在合成数据集和实际数据集上的性能。 结果表明,我们的方法比最先进的方法更有效,更健壮。