Gauss-Newton法的半局部收敛性

设f:Rn→Rm 是Frechet可微的 ,m≥n .则非线性最小二乘问题可描述为下面的极小化问题 :minF(x) :=12 f(x) Tf(x) .Gauss Newton法是求解非线性最小二乘问题的最基本的方法之一 ,其n + 1步迭代定义为 :xn + 1=xn - f′(xn) Tf′(x) -1f′(xn) Tf(xn) .本文主要研究解非线性最小二乘问题的Gauss Newton法的半局部收敛性 .假设f(x)在B(x0 ,r)内连续可导且f′(x0 )满秩 ,若f的导数满足Lipschitz连续F′(x) -f′(x′)≤γx -x′ , x ,x′∈B(x0 ,r) .在一个关于初始点x0 的判断准则c =f(x0 ) ,β =f′T(x0 )f′(x0 ) -1f′(x0 ) T ,β2 cγ <1 1 0下 ,Gauss Newton法产生的序列 {xn}收敛到一个驻点x ,从而给出了Gauss Newton法的半局部收敛性 .

Convergence of Gauss-Newton's Method