Trace-Ratio问题的两种解法及其应用

线性判别分析(LDA)作为一种降维技术,已成功应用于许多分类问题中,如语音识别、人脸识别、信息提取等领域.许多降维问题最后都会归结为一个Trace-Ratio(迹比)问题,也就是通过寻找一个列规范正交矩阵X∈R~(n×r)(n≥r)能够使得比值tr(X~TAX)/tr(X~TBX)最大化,其中矩A∈R~(n×n)阵是对称的矩阵,矩阵B∈R~(n×n)是对称正定矩阵.迹比问题在线性判别分析以及一些其他应用中占有至关重要的地位.但是迹比问题没有解析形式的解.介绍了Foley-Sammon变换的背景和国内外发展现状.给出了求解迹比问题的两种方法:逐次解法和牛顿法.改进了构造逐次解的具体方法,并且给出了逐次解的数值估计;给出了牛顿法的具体算法和二阶收敛性的证明.实验表明若将逐次解作为初始迭代点代入牛顿法中可以大大减少牛顿法的迭代次数,提高牛顿法的迭代速度.