稀疏结构化最小二乘双支持向量回归机

来源：计算机工程与应用杂志2019年第3期北京时间：

作者：闫丽萍1，马家军1，陈文兴2

单位：1.西安电子科技大学 数学与统计学院，西安 710126；2.宁夏大学 数学统计学院，银川 750021

摘要：最小二乘双支持向量回归机（LSTSVR）通过引入最小二乘损失将双支持向量回归机（TSVR）中的二次规划问题简化为两个线性方程组的求解，从而大大减少了训练时间。然而，LSTSVR最小化基于最小二乘损失的经验风险易导致以下不足：（1）“过学习”问题；（2）模型的解缺乏稀疏性，难以训练大规模数据。针对（1），提出结构化最小二乘双支持向量回归机（S-LSTSVR）以提升模型的泛化能力；针对（2），进一步利用不完全Choesky分解对核矩阵进行低秩近似，给出求解S-LSTSVR的稀疏算法SS-LSTSVR，使模型能有效地训练大规模数据。人工数据和UCI数据集中的实验证明SS-LSTSVR不但可以避免“过学习”，而且能够高效地解决大规模训练问题。

关键词：最小二乘双支持向量回归,结构风险最小化,稀疏性,不完全Choesky分解,大规模