小批量随机块坐标下降算法

针对机器学习中广泛存在的一类问题：结构化随机优化问题（其中“结构化”是指问题的可行域具有块状结构,且目标函数的非光滑正则化部分在变量块之间是可分离的）,我们研究了小批量随机块坐标下降算法（mSBD）。按照求解非复合问题和复合问题分别给出了基本的mSBD和它的变体,对于非复合问题,分析了算法在没有一致有界梯度方差假设情况下的收敛性质。而对于复合问题,在不需要通常的Lipschitz梯度连续性假设条件下得到了算法的收敛性。最后通过数值实验验证了mSBD的有效性。     

大库容量指纹自动识别系统中的优化模型与算法

生物学研究表明,指纹在胎儿时期发育形成,并且其脊线结构在人的一生中从不改变,除非当指尖处深度擦伤之类的事故发生而导致指纹损伤.指纹的这种特性使得指纹作为生物特征进行身份认证非常有吸引力.指纹自动识别系统包括指纹图像的获取和存储、指纹图像数据的再表达和特征提取、指纹分类和索引、指纹匹配等模块.针对大库容量指纹自动识别系统各个模块中的一些关键技术,建立了最优化模型,设计了快速准确的求解算法,使得指纹自动识别系统的各项指标均能够达到国际先进水平,并应用到我国一些省市和公安部刑侦领域指纹自动识别系统中.     

二次规划的直接椭球算法

本文对凸二次规划问题，给出了一个直接椭球算法，并证明了算法的复杂度为Ｏ（ｎ４Ｌ）．     

新的梯度算法求解单位球笛卡尔积约束优化问题北大核心CSCD

本文主要研究了单位球笛卡尔积作为约束的优化问题,给出了此类问题的最优性条件．同时将求解此问题的一些经典的梯度算法推广到了更加一般的形式,并证明了新算法的收敛性．随机二次规划问题和求解图像变分去噪模型的数值结果表明新算法并不弱于一些经典的算法,特别是在精度要求较高的情形下．