求解Poisson问题的区域分解和交替方向乘子法

【目的】有效求解有界闭区域的Poisson问题,得到解决这类问题的区域分解法和交替方向乘子法。【方法】用区域分解法将问题转化为用两个子区域和增广拉格朗日函数表示的极小值问题,再采用交替方向乘子法求解该问题。【结果】对算法进行了收敛性分析,并给出了此类问题的具体应用。【结论】数值结果验证了该方法求解Poisson问题的可行性。     

基于低秩矩阵恢复的视频背景建模

针对传统背景建模存在的问题,文中基于低秩矩阵恢复原理,直接从视频序列中分离出前景物体和背景模型.已有低秩矩阵恢复算法的迭代计算过程中涉及大量的奇异值分解,而这些奇异值分解一般非常耗时且不够简洁,文中在非精确增广拉格朗日乘子法中引入线性时间奇异值分解算法,以得到更加有效的背景建模算法.基于实际视频序列实验,结果表明该改进算法具有更好的建模效果和较少的运算时间.     

基于自适应图调节和低秩矩阵分解的鲁棒聚类

聚类是数据挖掘和机器学习领域的重要研究内容,一般会先基于数据样本构建相似图,再基于相似图将样本划分到相应的类中。但是真实的数据经常被损坏,导致学习的相似图不准确,从而直接影响聚类结果。为解决这些问题,提出一种面向鲁棒聚类的自适应图调节和低秩矩阵分解的方法,该方法的核心思想是:将原始数据X分解为纯净数据D和噪声数据S,再基于纯净数据构造拉普拉斯矩阵并进行自适应图调节。随后,给出一个联合学习框架,将数据分离、自适应图正则、噪声消除和低秩矩阵分解集成到一个目标函数中。利用增广拉格朗日乘子法分别更新变量。最后,在理论上证明算法的收敛性并进行实验。实验结果表明所提出的方法与现有一些方法相比有一定优越性。     

Toeplitz矩阵填充的尾端修正增广拉格朗日乘子算法

基于均值的增广拉格朗日乘子（MALM）算法,提出了一种尾端修正的Toeplitz矩阵填充新算法.该算法利用增广拉格朗日乘子（ALM）算法迭代速度较快的优点,对迭代矩阵序列进行结构化与尾端修正.在一定程度上减少了每步均值处理所产生的数据传输量,从而降低了计算代价.同时详细讨论了新算法的收敛性.最后通过数值实验证明了新算法比l步修正的增广垃格朗日乘子（l-MALM）、MALM以及ALM算法在计算时间上有较大程度的减少.     

实对称半正定矩阵恢复的Lagrange乘子修正算法

基于不精确的增广拉格朗日乘子算法,针对实对称半正定矩阵恢复问题提出了一种修正算法.恢复后的矩阵保持稳定的实对称半正定性质.同时,证明了修正算法的收敛性,验证了修正算法对实对称半正定矩阵恢复具有更高的效率.     

矩阵填充的混合型增广拉格朗日乘子算法

文章在经典增广拉格朗日乘子算法的基础上,提出了一种新的混合型增广拉格朗日乘子矩阵填充算法.通过定义混合型奇异值阈值算子,得到了一种求解矩阵填充问题的新的混合型增广拉格朗日乘子算法.数值实验表明,新算法大大提高了矩阵填充的求解效率,节约了计算花费,其效果明显优于经典的增广拉格朗日乘子算法.     

基于TV与gamma范数的非凸秩近似在矩阵补全中的应用

现实生活中,由于运动模糊、光学模糊等因素的影响,获取的图像往往是模糊、不完整的,即图像内容质量下降、细节特征被掩盖,从而影响图像的视觉效果及应用.矩阵补全(Matrix Completion, MC)的目的是将获得的模糊、不完整图像以最大的保真度恢复出完整清晰的图像.该文采用gamma范数代替传统的核范数作为秩函数的非凸近似,与核范数比较,gamma范数大大减弱了大奇异值的贡献,使得较小奇异值的贡献接近零;同时引入全变差(Total Variation, TV)正则项保留图像本身真实的边缘信息和细节信息,从而避免恢复出的图像过度光滑;接着,应用增广拉格朗日乘子法求解模型;最后,通过数值实验验证文章提出的算法较现有求解矩阵补全的算法更高效.     

基于小样本数据的BP神经网络建模

针对小样本条件下BP(back propogation)神经网络存在预测精度不高的问题,将专家知识融入BP神经网络训练过程中解决此问题.首先BP神经网络通过遗传算法获得最优初始权值和阈值;其次对专家知识进行数学表达;最后通过增广拉格朗日乘子法将专家知识融入BP神经网络训练过程中.利用实际中的结晶动力学问题对所提方法进行...     

增广拉格朗日乘子法非严格成立的理论分析

对于增广拉格朗日乘子法,分析表明其解析解只有一个不等式约束的边界解严格成立,而其在可行域内的解析解在松弛变量为实数时存在,当松弛变量为虚数时不等式约束不满足,解析解不在可行域内,增广拉格朗日乘子法无效.当采用无约束最优化算法求解数值解时,在一定的条件下数值解在可行域内,增广拉格朗日乘子法有效,若条件不成立,则增广拉格朗...     

基于BB步长的一类原始-对偶算法

增广拉格朗日乘子法(ALM)是求解带等式约束的二次凸优化问题的常用方法,但罚参数选取不当时,收敛速度比较慢.提出ALM-BB算法,利用Barzilai-Borwein(BB)算法的步长去改进原始的ALM,证明ALM-BB算法的收敛性.最后将这类方法运用于求解范数最优控制问题.数值算例表明改进的算法收敛速度更快.     

P-增广矩阵推理与信息的智能分解挖掘

利用内P-增广矩阵推理、外P-增广矩阵推理与P-增广矩阵推理分别给出信息智能内-分解、信息智能外-分解与信息智能内-外分解, 给出它们的属性关系、内-分解生成的信息智能分解挖掘、外-分解生成的信息智能分解挖掘与内-外分解生成的信息智能分解挖掘、分解挖掘定理与分解挖掘准则,最后,给出信息智能分解挖掘的应用。     

一种基于非均匀惩罚因子的序列无约束最优化外点新算法

增广拉格朗日乘子方法（Augmented Lagrange multiplier method）是拉格朗日乘子方法（Lagrange multiplier method）的推广,它是一种序列无约束的最小化技术,包括内点法和外点法,内点法适用于仅有不等式约束的情形,其主要思想是对违背可行性的约束给予一个惩罚。传统的做法是：对所有约束以相同的罚因子,自适应调整Lagrange乘子。提出了一种非均匀惩罚的自适应更新罚因子的方法,即根据近似解对约束违反的严重程度施行不同惩罚的新方法。算例表明,本方法是有效的。     

基于非负矩阵分解的阴影检测方法

针对以往的矩阵分解方法不能保证分解结果非负的问题, 根据非负矩阵分解（NMF: Non negative Matrix Factorization）结果非负的特点, 提出了基于NMF的阴影检测方法, 并以此为基础将进一步引入的分块非负矩阵分解（BNMF: Block Non negative Matrix Factorization）应用于阴影检测。通过NMF/BNMF提取训练样本中阴影的亮度特征, 再根据特征识别测试样本中的阴影区域。实验结果表明,与基于奇异值分解方法相比, 该算法的阴影检测细节更清晰, 具有更好的效果。     

基于双核范数鲁棒矩阵分解的遮挡图像恢复

低秩矩阵分解是计算机视觉、机器学习和数据挖掘中普遍使用的数据分析工具.矩阵分解方法可用于连续遮挡的图像数据的恢复,而低秩矩阵分解可转化为核范数优化模型.为了增强矩阵分解模型的鲁棒性,提出基于双核范数的鲁棒矩阵分解方法,该方法将每个数据矩阵分解为低秩干净数据、低秩噪声数据和稀疏噪声数据之和.建立最小化矩阵双核范数与L1范...     

不等式约束非线性规划的拉格朗日乘子的收敛

对于等式约束的非线性规划问题,一般的解决方法是在每次迭代中更新拉格朗日乘子且逐渐增大拉格朗日函数的惩罚因子,当罚因子充分大或充分接近局部最优解时,二阶充分条件是满足的;对不等式约束问题也采用了相应的方法.在凸的情况下,对于任意的罚因子或者在每次迭代中不要求精确极小化,就能全局收敛到最优解;证明了拉格朗日乘子是收敛的.     

基于矩阵型惯性投影神经网络的非负矩阵分解算法

提出一种基于矩阵型神经动力学优化的非负矩阵分解算法.将矩阵非负分解优化问题首先转换为两个矩阵变量凸优化子问题,针对其子问题分别提出矩阵型惯性投影神经网络;然后,采用交替迭代方案寻找矩阵非负分解优化问题的解.理论分析证明了矩阵型惯性投影神经网络能收敛于矩阵变量凸优化子问题的最优解,并且基于矩阵型神经网络的交替迭代算法可以收敛到矩阵非负分解优化问题的偏最优解.最后,所提出的基于矩阵型神经网络的交替迭代算法被有效地应用于人脸识别.     

一种新的基于非凸秩近似的RPCA模型

在机器学习、数据挖掘和图像处理等研究领域,鲁棒主成分分析(RPCA)主要用于恢复一个低秩的数据矩阵。考虑到核范数作为矩阵秩函数的凸近似在处理实际数据集时存在的问题,以及矩阵秩函数的非凸近似所展现出的优势,本文提出了一种新的非凸近似函数。基于该非凸近似函数,提出一个改进的RPCA模型,并应用增广拉格朗日乘子法对其进行求解。最后利用视频背景分离的实际数据,通过数值实验验证了新模型的有效性。     

关于矩阵的LR和QR分解

本文利用矩阵的ＱＲ分解证明了Ｃ上的ｎ阶对角酉阵群和ｎ阶非奇异对角矩阵群的一个商群是同构的。并且利用矩阵的ＬＲ分解和ＱＲ分解，给出了某些运用。     

基于矩阵分解的电力物资需求预测

准确预测变电站及配网工程的物资需求,对于节约工程成本,提高资金利用率,具有重要意义.尽管研究者在电力物资需求预测方面已经开展了一系列的研究,提出了很多预测模型和算法,例如基于神经网络的算法,然而,这些算法普遍存在输入数据过于简单和理想、仅对少数几种物资的需求量进行了预测实验、预测的准确率偏低等不足.因此,目前生产系统普遍采用人工方式进行电力物资需求预测,由有经验的领域专家根据工程初步设计方案预测各类物资的需求量.为了解决现有电力物资需求预测方法存在的不足,本文提出基于矩阵分解的预测方法,以电网建设项目物资需求历史数据和项目计划的部分物资作为输入,通过矩阵分解算法对项目其他物资需求用量进行预测.矩阵分解算法不需要大量的历史用量数据,只用部分项目的物资数据就能进行预测,且算法不需要提前进行训练.     

复矩阵的对称满秩分解

在矩阵的正交三角分解、奇异值分解的基础上,给出了复矩阵的Hermite标准形的求解方法,得到了将复矩阵分解为一个酉矩阵和Hermite半正定矩阵的乘积,以及分解为满秩矩阵与幂等矩阵之乘积的方法.证明了复方阵可分解为一个复对称矩阵与一个复对称满秩矩阵之积.进一步给出了复满秩阵分解为两个Hermite酉矩阵与正定阵之积的方法.