随机椭圆最优控制问题的随机配置方法

本文讨论求解随机系数泊松方程约束最优控制问题的有效数值方法.通过应用有限元方法和随机配置法,将原最优控制问题离散转化为最优化问题,再利用交替方向乘子法求解最优化问题.之后,对所提出的算法进行了收敛性分析,并通过数值实验验证了算法的有效性.     

分布式通信响应优化问题及其内点法求解

为了优化移动互联网的分布式通信系统的响应速度,建立分布式通信系统响应速度最优化问题的数学模型,并设计和改进求解该最优化问题的内点法.针对该最优化问题发展一套高效率预条件方法来帮助求解内点法,不但改善计算方法的数值稳定性,而且提高算法的计算效率.通过数值实验验证该预条件对算法稳定性和效率的提高.     

从数值最优化方法到学习最优化方法

传统最优化问题的求解方法主要是以梯度法为基础的数值最优化方法,它是解析与数值计算相结合的迭代求解方法,是一种基于固定模式的最优化方法.算法的迭代过程实质上是对迭代点进行非线性变换的过程,该非线性变换是通过一系列方向和步长来实现.对于最优化问题的每一个实例,都需要从头到尾执行整个算法,计算复杂度是固定的.一旦算法被程序实现,算法的效率(计算精度和复杂度)就被固定.人工智能解决问题的方法都具有学习功能.随着人工智能,特别是深度学习的兴起,学习类方法在一些领域取得了巨大的成功,如图像识别(特别是人脸识别、车牌识别、手写字符识别等)、网络攻击防范、自然语言处理、自动驾驶、金融、医疗等.本文从新的视角研究传统的数值最优化方法和智能优化方法,分析其特点,由此引出学习最优化方法,并对它们进行了对比,提出了学习最优化方法的设计思路.最后,以组合最优化为例,对该类方法的设计原理进行阐述.     

线性约束三次规划问题的全局最优性必要条件和最优化算法

讨论了带线性不等式约束三次规划问题的最优性条件和最优化算法. 首先, 讨论了带有线性不等式约束三次规划问题的 全局最优性必要条件. 然后, 利用全局最优性必要条件, 设计了解线性约束三次规划问题的一个新的局部最优化算法(强局部最优化算法). 再利用辅助函数和所给出的新的局部最优化算法, 设计了带有线性不等式约束三 规划问题的全局最优化算法. 最后, 数值算例说明给出的最优化算法是可行的、有效的.     

一种改进的共轭梯度法及全局收敛性

本文在DY共轭梯度法的基础上对解决无约束最优化问题提出一种改进的共轭梯度法.该方法在Wolfe线搜索下能够保证充分下降性,并在目标函数可微的条件下,证明了算法的全局收敛性.大量数值试验表明,该方法是很有效的.     

自对偶嵌入模型解拓展熵规划

本文把拓展熵规划转化为锥最优化问题,再对该锥最优化问题构造一个锥自对偶嵌入模型,证明了锥自对偶嵌入模型的障碍函数满足自协调性,这保证了用某些内点法求解时算法是多项式时间的.这种方法的另一个优点是不需要寻找初始可行解.     

最优化梯度法的改进

本文对最优化方法中的梯度算法进行了改进，使改进后的算法比梯度法的收敛速度快，而且该算法比牛顿法计算量小。     

线性均衡约束最优化的一个广义投影强次可行方向法

本文讨论带线性均衡约束最优化问题,首先利用摄动技术和一个互补函数将问题等价转化为一般约束最优化问题,然后结合广义投影技术和强次可行方向法思想,建立了问题的一个新算法.算法在迭代过程中保证搜索方向不为零,从而使得每次迭代只需计算一次广义投影.在适当的条件下,证明了算法的全局收敛性,并对算法进行了初步的数值试验.     

带参数共轭梯度法簇的全局收敛性

共轭梯度法是最优化中最常用的方法之一,广泛地应用于求解大规模优化问题,其中参数β_k的不同选取可以构成不同的共轭梯度法.给出了一类含有三个参数的共轭梯度算法,这种算法能够在给定的条件下证明选定的β_k在每一步都能产生一个下降方向,同时在强Wolfe线搜索下,这种算法具有全局收敛性.     

一个具有n步二阶收敛速率的算法

本文考虑求解非线性方程组。从非线性ABS算法出发,建立了一类新算法。这类新算法具有更好的收敛性质;与求解无约束最优化的数值方法相对照,在某种意义上原非线性ABS算法对应于共轭梯度法,而本文的算法则对应于变度量法。     

双水平集逼近油藏模型特征的数值模拟方法

本文使用双水平集函数逼近油藏模型特征, 构造出Uzawas 算法进行数值模拟. 对于两相流渗透率的数值求解问题, 可以通过测量油井数据和地震波数据来实现. 将构造出来的带限制的最优化问题使用变异的Lagrange 方法求解. 如果使用双水平集函数逼近渗透率函数, 则需要对Lagrange 函数进行修正, 从而将带限制的最优化问题转化成无限制的最优化问题. 由于双水平集函数的优越性, 进一步构造出最速梯度下降Uzawas 算法和算子分裂格式Uzawas 算法进行求解对应的最优化子问题. 数值算例表明设计的算法是高效的、稳定的.     

随机优化磨光算法对卫生陶瓷进出口的分析模型

结合磨光法和最优化理论提出一种随机优化磨光算法(SOS算法),算法通过原始值的参数化和调整幅度的修改,利用优化理论优化控制点.实例表明,随机优化磨光算法比样条修正磨光法和灰色马尔可夫链预测模型精度要高得多;而且所得到的误差变化更稳定.     

互补约束规划问题的一个广义梯度投影算法

本文研究了一类均衡约束最优化问题.利用广义梯度投影法,结合罚函数思想,得到了一个初始点可以任意的广义梯度投影算法.在较弱的条件下,证明了算法的全局收敛性.     

求解图像分割CV模型的BB算法

给出图像分割的一种新算法——BB算法.该方法的优点在于利用迭代过程中当前点和前一点的信息确定搜索步长,从而更有效地搜索最优解.为此,首先通过变分水平集方法将CV模型转化为最优化问题;其次,将BB算法引入该优化问题进行求解;然后,对BB算法进行收敛性分析,为该算法应用在CV模型中提供了理论依据;最后将该方法与已有的最速下降法、共轭梯度法的分割结果进行比较.结果表明,跟其他两种方法相比,BB算法在保证较好分割效果的前提下,提高了算法的速度和性能.     

求解全局优化问题的填充函数算法

填充函数法是求解多变量、多极值函数全局优化问题的有效方法.这种方法的关键是构造填充函数.本文在无Lipschitz连续条件下,对一般无约束最优化问题提出了一类单参数填充函数.讨论了其填充性质,并设计了一个求解约束全局优化问题的填充函数算法,数值实验表明,算法是有效的.     

全局最优化问题的一个无参数的填充函数算法

本文研究了全局最优化问题.利用构造填充函数的方法,提出了一个新的无参数填充函数,它是目标函数的一个明确表达式.得到了一个新的无参数填充函数算法,数值试验结果表明该填充函数算法是有效的,从而推广了填充函数算法在求解全局最优化问题方面的应用.     

线性无关假设如何影响非线性约束最优化算法

首先综述非线性约束最优化最近的一些进展. 首次定义了约束最优化算法的全局收敛性. 注意到最优性条件的精确性和算法近似性之间的差异, 并回顾等式约束最优化的原始的Newton 型算法框架, 即可理解为什么约束梯度的线性无关假设应该而且可以被弱化. 这些讨论被扩展到不等式约束最优化问题. 然后在没有线性无关假设条件下, 证明了一个使用精确罚函数和二阶校正技术的算法可具有超线性收敛性. 这些认知有助于接下来开发求解包括非线性半定规划和锥规划等约束最优化问题的更加有效的新算法.     

一个具有 n 步二次收敛性的直接法算法

在非线性最优化的直接法算法中,Powell 算法具有一定的代表性,但我们已知Powell 算法对正定二次函数一般不具有二次终结性,为此围绕着改善 Powell 算法的算法特性,出现了一系列 Powell 算法的改进型.其中俞文(鱼此)教授提出了一个新的方法——PY 算法,其基本思想基于,对正定二次的目标函数算法迭代过程中每一轮迭代     

无约束最优化的信赖域BB法

梯度法是求解无约束最优化的一类重要方法.步长选取的好坏与梯度法的数值表现息息相关.注意到BB步长隐含了目标函数的二阶信息,本文将BB法与信赖域方法相结合,利用BB步长的倒数去近似目标函数的Hesse矩阵,同时利用信赖域子问题更加灵活地选取梯度法的步长,给出求解无约束最优化问题的单调和非单调信赖域BB法.在适当的假设条件下,证明了算法的全局收敛性.数值试验表明,与已有的求解无约束优化问题的BB类型的方法相比,非单调信赖域BB法中e_k=‖x_k-x~*‖的下降呈现更明显的阶梯状和单调性,因此收敛速度更快.     

求解无约束最优化问题的非单调MFR,MPRP方法

本文在求解无约束最优化问题的MFR共轭梯度法和MPRP共轭梯度法中引入两种非单调线性搜索技术.我们证明在适当条件下采用非单调线性搜索的MFR算法和MPRP算法具有全局收敛性.数值结果表明非单调线性搜索具有优越性.