无约束优化一阶算法的几类加速技巧
来源：计算数学杂志2024年第2期北京时间：
作者：陈永鑫, 韩德仁
单位：LMIB, 北京航空航天大学数学科学学院, 北京 100080
摘要：求解无约束优化问题的一阶算法具有迭代简单、存储量小的优点, 在求解大规模问题时具有一定的优势. 为提升其收敛速度, 近些年发展出了多种加速技巧. 本文以最一般的求解无约束优化的梯度法为切入点, 介绍常见的加速梯度法的技巧与策略, 并进一步介绍这些加速技巧在邻近点算法、复合优化问题和随机优化问题中的表现形式. 另外, 本文还总结了一些其它仅用一阶信息就取得加速效果的策略和特殊问题中出现的加速方法.
关键词：无约束优化,一阶算法,加速技巧
基金资助：国家自然科学基金(12131004、12126603)资助.
