非凸约束优化的随机近似算法

在人工智能、科学计算等领域,众多应用驱动的数学优化模型因依赖于庞大的数据集和/或不确定的信息而呈现出随机性、且伴有复杂非凸算子约束。于是精确计算模型中的函数信息往往代价高昂,同时非凸约束的存在也给模型求解和算法分析带来极大的挑战。近年来,结合模型的结构、利用函数的随机近似信息来设计、分析非凸约束优化算法开始引起关注。目前主流的求解非凸约束优化的随机近似算法主要分为三类:基于随机近似的罚方法、邻近点算法和随机序列二次规划算法。本文对这几类算法的研究进展进行梳理和总结,简要地介绍相关算法的设计思想和基本的理论性质,如渐近收敛性理论、复杂度理论等。