Banach空间中迭代正则化方法的收敛性分析

利用Landweber-Kaczmarz迭代算法研究非线性不适定问题.首先,在Banach空间引入Bregman距离,构造合适的步长,说明Bregman距离序列在迭代算法中是单调递减的.然后,由凸分析、对偶映射和Fréchet可微的性质得到迭代算法具有收敛性.     

基于时间序列采样的正则化回归算法的收敛性

给出了基于时间序列采样的正则化回归算法的误差分析,即先将误差收敛归结为正则误差和样本误差,借助于Hoeffding型不等式给出了正则误差估计;同时,使用覆盖数及基于时间序列的Hoeffding型不等式给出了样本误差估计,从而算出学习速度一种上界的估计．最后的结果也说明学习速度能达到指数收敛性．     

广义病态方程的Tikhonov正则解

对于双方带扰动数据的病态方程(即所谓广义病态方程)，借助对Tikhonov正则化算法的改进，给出一种优良的正则化求解方法。     

一类确定表面热流的热传导反问题的正则化方法

考虑确定表面热流ux(0,t)的如下半无限长杆热传导方程反问题uxx=ut,0≤x,0相似文献   

连续正则化牛顿方法的收敛率

对半正定线性算子方程考虑了一类连续正则化牛顿方法,给出了收敛证明,得到了收敛率.考虑了右端数据有误差的情形,并给出了先验的与后验的停止准则,在一定条件下收敛率是最优的.     

系数正则化回归模型的最优正则参数

研究了具有最小平方损失且正则项为系数正则化的回归问题的误差分析,分别对样本误差和逼近误差作了估计,获得了关于参数γ的误差界;通过选择合适的参数,使得该误差界最优并且得到学习速率.     

求解非线性方程组双参数牛顿Jacobi方法及收敛性

本文利用文[2]的结果,构造了求解非线性方程组的双参数牛顿-Jacobi方法,并证明了它的局部收敛性。     

一维热传导反问题的条件稳定性与正则化

一类热传导方程初始值问题的反问题。通过变量代换，将该问题转化为一维Hausdorff矩问题。基于一维Hausdorff矩问题的条件稳定性和稳定算法，获得该热传导反问题的条件稳定性和正则化求解方法。     

线性互补问题基于模同步块多重分裂方法的收敛性

通过利用不动点迭代来研究线性互补问题,根据基模同步多重分裂迭代方法将其线性互补问题的系数矩阵是点的形式推广到块H+的形式,并且分析了当系数矩阵是块矩阵时线性互补问题解的收敛情况。     

基于投影算子的正则化最小二乘回归

通过引入经验覆盖数（empirical covering number）和投影算子（projection-operator）,从理论上研究正则化最小二乘回归学习算法.与已有的方法相比,一方面简化了回归分析的过程;另一方面,提高了最小二则回归学习算法的误差收敛阶.即,通过引入投影算子,得到了O（m-1）型的收敛阶,这是统计学习理论中关于泛化误差的最佳逼近阶.     

一类随机二层规划问题的近似求解方法收敛性分析

利用离散化的方法来处理连续型随机变量,将含有连续型随机变量的一类随机二层规划问题转化为一系列确定二层规划问题,证明了这种近似逼近问题的解上图收敛到原问题的解.     

非线性规划问题的一个内点势减算法的全局收敛性

结合经典阻尼牛顿方法和线性规划内点势减方法建立了一个求解一般非线性规划问题的内点势减算法.理论分析表明在一些假设条件下,这一方法产生的序列全局收敛于问题的KKT点.     

基于图正则化概念分解的网络入侵检测研究

作为一种有效的主动探测网络恶意攻击防护措施,入侵检测在变电站信息系统安全防护中得到了广泛的应用.但实际网络入侵数据类型的多样性、非负性和高维度性等特点使得现有方法存在检测率低、误报率高等不足.基于非负矩阵分解的方法在入侵检测上取得了较好的效果,却忽略了嵌入在数据局部的几何结构和标记信息.为此,本文提出一种基于图正则化约束的概念分解算法.通过将数据的几何结构和标记信息同时作为约束条件,建立了一种新的概念分解模型,并提出了迭代更新求解算法.通过在网络入侵数据集KDD99上的实验验证,其结果展示了所提算法的有效性和鲁棒性.     

一种具有噪声估计能力的图像恢复正则化方法

利用小波为正则化方法提供了一种估计噪声能量的机制，根据估计得到的噪声能量，再利用经典正则化方法求解正则化参数，从而得到正则化解，实验结果表明估计噪声能量机制的正则化方法，在噪声能量和原图像能量信息未知的情况下，具有较快的计算程度和较好的恢复能力。     

非线性约束下的梯度投影法的收敛性

1960年Rosen提出的梯度投影法虽然已广泛应用得到成功,但其收敛问题20多年来一直得不到证明,同时也举不出一个反例。算法非闭是困难的原因。1986年何光中十分巧妙地证明了梯度投影法的收敛性:在n维欧氏空间中任何迭代序列的极限点均为Kuhn—Tucker点,本文将Rosen梯度投影法自然地推广到非线性约束情况,算法仍然非闭,证明了收敛性。证明的实质是从局部点态性质出发,得到一介全局收敛性的结论。     

关于奇异非线性方程组的Newton法的收敛性

在Lipschitz条件下,建立了为求奇异非线性方程组的解的Newton法收敛的判别条件．同时也给出了Newton法收敛球的半径的估计．     

下降的非线性共轭梯度法及其全局收敛性

共轭梯度法是解决大规模无约束优化问题的一种重要方法．文中给出了两种下降的非线性共轭梯度法,并在标准的Wolfe准则下证明了其全局收敛性．数值实验表明这两种方法在所给的例子中是有效可行的．     

基于l_p正则化图像去模糊的快速广义迭代收缩算法

将图像去模糊问题转化为求解l_p正则化的非凸优化问题,提出了一种求解l_p正则化问题的快速广义迭代收缩算法(FGISA,fast generalized iterative shrinkage thresholding algorithm).该算法通过对广义迭代收缩算法(GISA,generalized iterative shrinkage thresholding algorithm)的梯度项添加一个加权矩阵,并结合Nesterov梯度加速方法达到加快算法收敛速度的目的.由于加权矩阵仅仅与模糊矩阵有关,并且不随迭代过程变化,因此,与GISA相比FGISA并不增加算法的计算复杂度.文章给出了算法收敛性的理论分析.实验结果表明FGISA算法在收敛速度和图像恢复效果方面对GISA算法均有较大的改进.     

不精确牛顿方法的收敛性

研究了不精确牛顿法的局部收敛性态，在假设非线性算子的半连续二阶Frechet导数满足变形1阶—γ条件的前提下，得到了使该方法收敛和二阶收敛性的结果以及相应的误差估计，除了以较弱的条件代替已有的较强条件外，还得到了收敛域半径的估计。     

Hansen和Patrick方法的收敛性

本文主要讨论复空间上带参的 Hansen 和 Patrick 迭代方法,利用三次优函数和优序列的技巧证明了迭代序列的收敛性,建立了相应的收敛定理,并且给出了较精确的误差估计.最后用数值列子来说明方法的有效性.