用神经网络解非线性最小二乘问题

提出了一种求解非线性最小二乘问题的神经网络方法，并证明了该神经网络方法的稳定性和收敛性。     

用神经网络解非线性最小二乘问题

提出了一种求解非线性最小二乘问题的神经网络方法 ,并证明了该神经网络方法的稳定性和收敛性     

解非线性最小二乘问题的锥模型算法

在自然科学研究、经济、统计等领域,非线性最小二乘有着广泛的应用,因而寻找快捷有效的算法有着十分重要的意义。它首先是一个最优化问题,同时又有自身的结构特点,充分利用其结构特点,是寻找更有效算法的关键。     

解非线性最小二乘问题的锥模型算法的局部收敛性

1 引言 对于非线性最小二乘问题 minf(x)=(1/2)sum from x=1 to m (r_i(x))~2=(1/2)R(x)~TR(x), (1.1)其中R(x)=(r_1(x),…,r_m(x))~T:DR~n→R~m,m≥n,有 g(x)=f'(x)=J(x)~TR(x), (1.2) H(x)=f(x)=J(x)~TJ(x)+sum from x=1 to m r_i(x)r_i(x), (1.3)其中J(x)=((r_i(x))/x_j)·Gauss-Newton方法,及Dennis等的改进方法,都是采用二次模型     

广义非线性最小二乘问题的两个新方法

1．引言讨论如下的广义非线性最小二乘问题其中为常数（i＝1~m），W由于此问题的特殊形式，将此问题转化为如下两个子问题进行求解比较有效[1]子问题1．对每一固定的X，解得子问题2。对子问题1的解，解对两个子问题的求解，[1]中给出了一种有效的方法。然而在两个子问题的已有求解方法中，关于方法收敛速度的讨论非常少见，本文给出了求解这两个子问题的两个算法，并证明了算法的超线性收敛性．为书写简单，以下约定：一个符号在（，L）处的值略去（，L），如V‘F＝＊‘列X，L）等·一个具有上标k和＊的符号分别表示其在（x‘，t‘）和…     

非线性最小二乘问题的一类迭代解法

本给出了求解非线性最小二乘问题的一种迭代解法，即由已知节点数据（xi,yi）(i=1,2,…,m）求函数y=f(x,b1,b2,…，bn）中非线性参数b1,b2,…，bn的一种迭代解法。并用实际算例的结果说明了该迭代解法优于一般线性化方法，说明了该种方法在实际工程领域中的应用。     

加权广义逆、加权最小二乘和约束最小二乘问题

本文采用如下记号:记C~m×n是具有复数域的m×n长方矩阵的集合,C~m=C~m×1是m维向量的集合.对A∈C~m×n称A~H∈C~m×n是A的共轭转置矩阵,rank(A)表示A的秩,R(A)和N(A)分别为A的值域和零空间,||·||=||·||2和||·||F分别为2-范数和Frobenius范数;I表示恒等矩阵.人们在研究数学规划、数值分析、数据处理,散射理论和电磁学等领域中都将问题归纳为如下的最小二乘问题:     

非线性最小二乘问题的信赖域方法

本文提出一个新的非线性最小二乘的信赖域方法,在该方法中每个信赖域子问题只需要一次求解,而且每次迭代的一维搜索步长因子是给定的,避开一维搜索的环节,大大地提高了算法效率.文中证明了在一定的条件下算法的全局收敛性.     

解等式约束加权线性最小二乘问题的矩阵校正方法

1 引言 在实际应用中常会提出解等式约束加权线性最小二乘问题 min(b_2-A_2x)~TW(b_2-A_2x) x∈R~n (1) s.t.A_1x=b_1,其中A_1∈R~(p×n),A~2∈R(q×n),b_1∈R~p,b_2∈R~q,W∈R(q×q)为对称正定矩阵. 对于问题(1),目前已有多种数值求解方法,如Paige利用(1)的对偶公式给出了一个向后稳定的数值方法.Gulliksson和Wedin利用加权QR分解技巧给出了解(1)的一个直接解法.作者利用广义Cholesky分解构造了解(1)的矩阵分解方法.     

最小二乘问题的稳定近似解

最小二乘法在实际中有着大量的应用,为解决其结果易受误差影响的问题,利用试验设计的思想,借助正交表得到了其稳定近似解的求解方法,使结果得以改进,并通过实例予以验证.     

广义线性最小二乘问题的一个精确解及其推广

本文在特定的约束条件下,给出了一维线性广义最小二乘问题解的精确表达式,并对解的范围进行了讨论。对n维线性广义最小二乘问题,给出了求解方法,迭代步骤和收敛性定理。     

加权总体最小二乘问题的分析

总体最小二乘问题由Golub和Van Loan首先进行数学的分析,随后人们对于总体最小二乘问题的算法、解的各种形式、总体最小二乘解和最小二乘解的关系、总体最小二乘解的扰动理论以及数值试验作了大量的研究工作。近来,[10]中给出了总体最小二乘问题(TLS)较一般地讨论。另一方面,Golub和Van Loan研究了总体最小二乘问题的特殊均加权形式。本文试图在[10,11]的基础上讨论最一般的总体最小二     

两个最小二乘解

依据两向量相等则差向量为零,只有零向量范数为零这样的结论,或直接从矩阵的分解式着手进行考虑,可分两类四种方法证明,对于线性方程组Ax=b的两个最小二乘解x1和x2,有关系式Ax1=Ax2成立.     

总体最小二乘准则下非线性EV模型的参数拟合方法

在非线性回归模型参数拟合问题中,当数据中的每个变量都存在不可忽略的误差时,在普通的最小二乘准则下拟合出的参数不是最优的.按照总体最小二乘准则,以观测点到拟合曲线或拟合曲面垂直距离平方和为目标函数,然后用最优化方法搜索出使目标函数值取最小值的参数和数据点估计,从而给出求最优模型参数的算法,最后,通过计算机仿真和与文献比较,验证了提出方法的正确性.     

非线性最小二乘问题的一种迭代解法

本文给出了求解非线性最小二乘问题的一种迭代解法 ,即由已知节点数据 (xi,yi) (i=1 ,2 ,… ,m)求函数 y=f(x,b1,b2 ,… ,bn)中非线性参数 b1,b2 ,… ,bn 的一种迭代解法 .并用实际算例的结果说明了该迭代解法优于一般线性化方法 ,说明了该种方法在实际工程领域中的应用     

用2-块AOR方法求解最小二乘问题的收敛域

In this paper , we consided the 2-block AOR method for solving large sparse least-squares problems, and gave the convergence domains of its by the functional relation (λ-ω-1)²=ωλrμ².     

拟线性回归预测模型的稳定最小二乘解

可线性化回归预测模型通过换元进行线性回归,换元前后的因变量具有异方差性,致使拟线性回归参数的精度较低.运用GL算法给出了此类模型的稳定最小二乘解,提高了参数的估计精度,最后给出了一个应用实例.     

退化椭圆问题的最小二乘混合有限元方法

本文研究了电磁场中关于共振现象的一类退化的椭圆问题 ,提出了最小二乘混合有限元方法 .这一方法的好处是可以去掉传统混合元空间的LBB条件所得到的系数矩阵是对称正定的 ,使得法语解更加方便 .本文得到了最小二乘混合有限元方法的L2 和H1估计 .