核范数和谱范数下广义Sylvester方程最小二乘问题的有效算法

来源：计算数学杂志2017年第2期北京时间：

作者：李姣芬, 宋丹丹, 李涛, 黎稳

单位：1. 桂林电子科技大学数学与计算科学学院, 广西高校数据分析与计算重点实验室, 桂林 541004;\r\n2. 华南师范大学数学科学学院, 广州 510631

摘要：本文从数值角度讨论Schatten q-范数下的广义Sylvester方程约束最小二乘问题minX∈S||∑i=1NAiXBi-C||q，其中S为闭凸约束集合，Schatten q-范数定义为||M||qq=∑i=1nσiq（M），其中σiM为M∈Rn×n的奇异值.该问题的几类特殊情形在图像处理、控制论等领域有广泛的应用.q=2即Frobenius范数下该问题已被充分研究，故本文着重讨论q=1，+∞，即核范数和谱范数下该问题的数值求解.采用的数值方法是非精确标准容易执行的部分非精确交替方向法，并结合奇异值阈值算法，Moreau-Yosida正则化算法，谱投影算法和LSQR算法等求解相应子问题.给出算法的收敛性证明，并用数值算例验证其高效可行性.

关键词：Schatten q-范数,谱范数,核范数,广义Sylvester方程,非精确交替方向法

基金资助：<p>国家自然科学基金资助项目（11561015，11671158），广西自然科学基金资助项目（2016GXNSFAA380074，2016GXNSFFA380009）.</p>