等式约束加权线性最小二乘问题的解法

1 引言 在实际应用中常会提出解等式约束加权线性最小二乘问题 min||b-Ax||_M,(1.1) x∈C~n s.t.Bx=d, 其中B∈C~(p×n),A∈C~(q×n),d∈C~p,b∈C~q,M∈C~(q×q)为Hermite正定阵. 对于问题(1.1),目前已有多种解法,见文[1—3).本文将利用广义逆矩阵的知识,给出(1.1)的通解及迭代解法.本文中关于矩阵广义逆与投影算子(矩阵)的记号基本上与文[4]的相同.例如,A~+表示A的MP逆,P_L表示到子空间L上的正交投影算子,λ_(max)(MAY)表示矩阵M~(1/2)AY的最大特征值.我们还要用到广义BD逆的概念: 设A∈C~(n×n),L为C~n的子空间,则称A_(L)~(+)=P_L(AP_L+P_L⊥)~+为A关于L的广义BD逆.     

用2-块AOR方法求解最小二乘问题的收敛域

In this paper , we consided the 2-block AOR method for solving large sparse least-squares problems, and gave the convergence domains of its by the functional relation (λ-ω-1)²=ωλrμ².     

求解大型线性最小二乘问题的异步多分裂松弛算法

由于矩阵A~TA中坏条件数的出现以及对于原系数矩阵稀疏性的破坏,问题(1.2)的求解往往变得十分繁杂。鉴于此,利用矩阵多分裂的技巧,通过等价变形(1.2)为     

两种块校正最小二乘问题的代数关系

1 引言 在求解工程问题中,我们常常应用最小二乘方法 min‖Ax-b‖_2,A∈R~(m×n),m≥n (1.1) x∈R~n去得到问题的数值近似解或估计系统的未知参数.我们常常已知(1)的解,而希望求解修改问题     

加权广义逆、加权最小二乘和约束最小二乘问题

本文采用如下记号:记C~m×n是具有复数域的m×n长方矩阵的集合,C~m=C~m×1是m维向量的集合.对A∈C~m×n称A~H∈C~m×n是A的共轭转置矩阵,rank(A)表示A的秩,R(A)和N(A)分别为A的值域和零空间,||·||=||·||2和||·||F分别为2-范数和Frobenius范数;I表示恒等矩阵.人们在研究数学规划、数值分析、数据处理,散射理论和电磁学等领域中都将问题归纳为如下的最小二乘问题:     

广义非线性最小二乘问题的两个新方法

1．引言讨论如下的广义非线性最小二乘问题其中为常数（i＝1~m），W由于此问题的特殊形式，将此问题转化为如下两个子问题进行求解比较有效[1]子问题1．对每一固定的X，解得子问题2。对子问题1的解，解对两个子问题的求解，[1]中给出了一种有效的方法。然而在两个子问题的已有求解方法中，关于方法收敛速度的讨论非常少见，本文给出了求解这两个子问题的两个算法，并证明了算法的超线性收敛性．为书写简单，以下约定：一个符号在（，L）处的值略去（，L），如V‘F＝＊‘列X，L）等·一个具有上标k和＊的符号分别表示其在（x‘，t‘）和…     

求解大型最小二乘问题的混合贪婪随机坐标下降法

线性最小二乘问题是科学计算与工程领域普遍存在的问题,有着广泛的应用背景.本文提出了两个新的贪婪随机坐标下降算法来求解大规模的线性最小二乘问题.理论上分析了算法的收敛性.数值实验结果进一步表明了算法的可行性和有效性.     

求解加权线性最小二乘问题的一类预处理GAOR方法

为了快速求解一类来自加权线性最小二乘问题的2×2块线性系统,本文提出一类新的预处理子用以加速GAOR方法,也就是新的预处理GAOR方法.得到了一些比较结果,这些结果表明当GAOR方法收敛时,新方法比原GAOR方法和之前的一些预处理GAOR方法有更好的收敛性.而且,数值算例也验证了新预处理子的有效性．     

广义线性最小二乘问题的一个精确解及其推广

本文在特定的约束条件下,给出了一维线性广义最小二乘问题解的精确表达式,并对解的范围进行了讨论。对n维线性广义最小二乘问题,给出了求解方法,迭代步骤和收敛性定理。     

用分块迭代法求解稀疏最小二乘问题

本文讨论用分块SOR方法和分块SSOR方法求解具有大型稀疏系数矩阵的最小二乘问题。 [1]的作者给出了分块SOR法求解最小二乘问题时的收敛域,这里用更为简洁的方法得出同样的结论。我们还可用完全类似的证明方法推导出分块SSOR法的收敛域,从而发现,在求解最小二乘问题而得到方程组时,总可找到使分块SSOR法收敛的松弛因子。     

求解单调变分不等式问题的一类迭代方法

１．引言 变分不等式问题在数学规划中起着重要作用,它最初作为研究偏微分方程的工具,首先由 Ｆｉｓｈｅｒａ和 Ｓｔａｍｐａｃｃｈｉａ等于六十年代初提出,可参看［１］及其参考文献,之后也被广泛用于研究经济学和运筹学等领域中的均衡模型,互补问题和凸规划问题都是变分不等式问题的特殊情形,文献［２］对有限维变分不等式问题和非线性互补问题的理论、算法及应用作了十分全面的综述．设 Ｃ是实有限维空间 Ｒｎ,的非空闲凸子集, Ｆ是 Ｒｎ → Ｒｎ的映射,本文讨论的变分不等式问题ＶＩ（Ｃ,Ｆ）是： 求向量ｒ＊∈Ｃ．使得：Ｆ（…     

CONVERGENCE ANALYSIS ON ITERATIVE METHODS FOR SEMIDEFINITE SYSTEMS

The convergence analysis on the general iterative methods for the symmetric and positive semidefinite problems is presented in this paper. First, formulated are refined necessary and sumcient conditions for the energy norm convergence for iterative methods. Some illustrative examples for the conditions are also provided. The sharp convergence rate identity for the Gauss-Seidel method for the semidefinite system is obtained relying only on the pure matrix manipulations which guides us to obtain the convergence rate identity for the general successive subspace correction methods. The convergence rate identity for the successive subspace correction methods is obtained under the new conditions that the local correction schemes possess the local energy norm convergence. A convergence rate estimate is then derived in terms of the exact subspace solvers and the parameters that appear in the conditions. The uniform convergence of multigrid method for a model problem is proved by the convergence rate identity. The work can be regradled as unified and simplified analysis on the convergence of iteration methods for semidefinite problems [8, 9].     

MULTILEVEL ITERATION METHODS FOR SOLVING LINEAR ILL-POSED PROBLEMS

In this paper we develop multilevel iteration methods for solving linear systems resulting from the Galerkin method and Tikhonov regularization for ill-posed problems, The algorithm and its convergence analysis ave presented in an abstract framework.     

鞍点问题迭代解法收敛因子估计

分析Ｂａｎｋ（１９９０年）的论文中的求解鞍点问题的迭代解法,得到一个改进的收敛因子估计。     

PARALLEL CHAOTIC MULTISPLITTING ITERATIVE METHODS FOR THE LARGE SPARSE LINEAR COMPLEMENTARITY PROBLEM

1. IntroductionWe consider the linear complementarity problem LCP(M,q): Find a z E m such thatwhere M = (mij) E boxs and q ~ (qi) 6 m are given real matriX and vector, respectively.This problem axises in various scientific computing areas such as the Nash equilibritun poillt ofa bimatrir game (e.g., Cottle and Dantzig[4] and Lelnke[12j) and the free boundary problems offluid mechedcs (e.g., Cryer[8]). There have been a lot of researches on the approximate solutionof the linear complemeat…     

线性方程组迭代方法残差光滑技术的一个推广

1　引　　言我们考虑求解线性方程组Ax=b,A∈Rn×n,b,x∈Rn.(1)的迭代方法.迭代序列{xk}的性态常常由与之对应的残差范数序列{‖rk‖}的特性来决定.人们自然希望{‖rk‖}光滑地(单调地)收敛到0.在所有Krylov子空间方法中,GMRES[7]方法因为可使{‖rk‖}最优地趋于0,故是一个较为成功的方法.但是,GMRES方法的工作量和存贮量却随着迭代步数的增加而迅速增加.而BCG[4]和CGS[10]等方法具有运算量小,收敛快等突出优点.但它们的残差范数性态却很不规则,{‖rk‖}振荡不定.这给判断收敛性及何时停机带来很大的不便.残差光滑技术是一个行之有…     

最优投影策略下解病态积分方程的快速迭代算法

基于最优的投影方法,构造了求解病态积分方程的截断快速Tikhonov迭代算法,与传统投影方法相比得到了相同的最优收敛率,但内积的计算个数少于传统投影方法.同时,给出了后验参数选择办法.算例证实了算法的有效性.     

非线性特征值问题的二次近似方法

本文研究求解非线性特征值问题的数值方法.基于矩阵值函数的二次近似,将非线性特征值问题转化为二次特征值问题,提出了求解非线性特征值问题的逐次二次近似方法,分析了该方法的收敛性.结合求解二次特征值问题的Arnoldi方法和Jacobi-Davidson方法,给出求解非线性特征值问题的一些二次近似方法.数值结果表明本文所给算法是有效的.     

LEAST-SQUARES MIXED FINITE ELEMENT METHODS FOR NONLINEAR PARABOLIC PROBLEMS

1. IntroductionA large number of physical phenomena are modeled by partial differelltial equations orsystems of parabolic type in an evolutionary or eIliptic type at steady state. It is frequentlythe case that a good approximation of some function of the …