解非线性最小二乘问题的锥模型算法

在自然科学研究、经济、统计等领域,非线性最小二乘有着广泛的应用,因而寻找快捷有效的算法有着十分重要的意义。它首先是一个最优化问题,同时又有自身的结构特点,充分利用其结构特点,是寻找更有效算法的关键。     

用神经网络解非线性最小二乘问题

提出了一种求解非线性最小二乘问题的神经网络方法，并证明了该神经网络方法的稳定性和收敛性。     

用神经网络解非线性最小二乘问题

提出了一种求解非线性最小二乘问题的神经网络方法 ,并证明了该神经网络方法的稳定性和收敛性     

解非线性最小二乘问题的ABS方法

在本文中,基于解非线性方程组的ABS方法的思想,我们对非线性最小二乘问题建立了一类新的算法。在类似于Gauss-Newton法的收敛条件下,我们证明了算法的局部收敛性。此外,在对算法结构进行深入分析的基础上,我们将新算法转化为一种近似Gauss-Newton法。并建立了它的Kantorovich型收敛定理。数值结果表明ABS算法是有效的,且在一定程度上优越于Gauss-Newton法。     

广义非线性最小二乘问题的两个新方法

1．引言讨论如下的广义非线性最小二乘问题其中为常数（i＝1~m），W由于此问题的特殊形式，将此问题转化为如下两个子问题进行求解比较有效[1]子问题1．对每一固定的X，解得子问题2。对子问题1的解，解对两个子问题的求解，[1]中给出了一种有效的方法。然而在两个子问题的已有求解方法中，关于方法收敛速度的讨论非常少见，本文给出了求解这两个子问题的两个算法，并证明了算法的超线性收敛性．为书写简单，以下约定：一个符号在（，L）处的值略去（，L），如V‘F＝＊‘列X，L）等·一个具有上标k和＊的符号分别表示其在（x‘，t‘）和…     

非线性最小二乘法的算法

本给出非线性最小二乘的优化条件和几何特征．     

非线性最小二乘问题的一类迭代解法

本给出了求解非线性最小二乘问题的一种迭代解法，即由已知节点数据（xi,yi）(i=1,2,…,m）求函数y=f(x,b1,b2,…，bn）中非线性参数b1,b2,…，bn的一种迭代解法。并用实际算例的结果说明了该迭代解法优于一般线性化方法，说明了该种方法在实际工程领域中的应用。     

非线性最小二乘问题收敛性的证明

主要讨论了无约束最优化中非线性最小二乘问题的收敛性.侧重于收敛的速率和整体、局部分析.改变了Gauss—Newton方法收敛性定理的条件,分两种情况证明了:(1)目标函数的海赛矩阵正定(函数严格凸)时为强整体二阶收敛;(2)目标函数不保证严格凸性,但海赛矩阵的逆存在时为局部收敛,敛速仍为二阶,同时给出了J(X)~(-1)和Q(X)~(-1)之间存在、有界性的等价条件.     

加权广义逆、加权最小二乘和约束最小二乘问题

本文采用如下记号:记C~m×n是具有复数域的m×n长方矩阵的集合,C~m=C~m×1是m维向量的集合.对A∈C~m×n称A~H∈C~m×n是A的共轭转置矩阵,rank(A)表示A的秩,R(A)和N(A)分别为A的值域和零空间,||·||=||·||2和||·||F分别为2-范数和Frobenius范数;I表示恒等矩阵.人们在研究数学规划、数值分析、数据处理,散射理论和电磁学等领域中都将问题归纳为如下的最小二乘问题:     

总体最小二乘准则下非线性EV模型的参数拟合方法

在非线性回归模型参数拟合问题中,当数据中的每个变量都存在不可忽略的误差时,在普通的最小二乘准则下拟合出的参数不是最优的.按照总体最小二乘准则,以观测点到拟合曲线或拟合曲面垂直距离平方和为目标函数,然后用最优化方法搜索出使目标函数值取最小值的参数和数据点估计,从而给出求最优模型参数的算法,最后,通过计算机仿真和与文献比较,验证了提出方法的正确性.     

筛选法解非线性方程组

本文给出了一种新方法解非线性方程组，也是筛选法的一个推广方程组被分成两部分，一部分被当作约束条件，另一部分的最小二乘被当作目标函数．本质上，两种不同方法被用于解同一非线性方程组．     

范德蒙型方程组最小二乘解的快速算法

在用多项式进行曲线拟合等实际问题中,需要求解以范德蒙型矩阵VT为系数阵的线性方程组VTx=b的最小二乘解.     

一个新的求解线性规划最小二乘算法

§1Introduction Currently,therearetwopopularapproachesinlinearprogramming:pivotalgorithm andinterior-pointalgorithm.Manyoftheirvariantsdevelopedbothintheoryand applicationsarestillinprogress.Thepivotmethodobtainstheoptimalsolutionviamoving consecutivelytoabettercorner-pointinthefeasibleregion,anditsmodificationstryto improvethespeedofattainingtheoptimality.Incontrast,theinterior-pointalgorithmis claimedasaninterior-pointapproach,whichgoesfromafeasiblepointtoafeasiblepoint throughtheinterioroft…     

最小二乘问题的稳定近似解

最小二乘法在实际中有着大量的应用,为解决其结果易受误差影响的问题,利用试验设计的思想,借助正交表得到了其稳定近似解的求解方法,使结果得以改进,并通过实例予以验证.     

广义线性最小二乘问题的一个精确解及其推广

本文在特定的约束条件下,给出了一维线性广义最小二乘问题解的精确表达式,并对解的范围进行了讨论。对n维线性广义最小二乘问题,给出了求解方法,迭代步骤和收敛性定理。     

双变量矩阵方程组对称最小二乘解的迭代算法

本文研究了求双变量线性矩阵方程组的对称最小二乘解的问题.利用求解线性代数方程组的共轭梯度法的基本思想,通过对有关矩阵和系数的变形与近似处理,建立了一种迭代算法.拓宽了共轭梯度法的适用范围.算例表明,迭代算法是有效的.     

基于锥模型的一般信赖域算法收敛性分析

本文给出了锥模型信赖域算法的一般模型，它不仅包含通常的信赖域算法一相当于锥模型算法中bk＝0的情形，而且文献[1]的算法也可看作其子类．我们研究这个模型的较强的全局收敛性，并讨论保证算法具有超线性收敛速率的条件，从而推广了文[1]和文[4]中的若干结果．     

加权总体最小二乘问题的分析

总体最小二乘问题由Golub和Van Loan首先进行数学的分析,随后人们对于总体最小二乘问题的算法、解的各种形式、总体最小二乘解和最小二乘解的关系、总体最小二乘解的扰动理论以及数值试验作了大量的研究工作。近来,[10]中给出了总体最小二乘问题(TLS)较一般地讨论。另一方面,Golub和Van Loan研究了总体最小二乘问题的特殊均加权形式。本文试图在[10,11]的基础上讨论最一般的总体最小二