基于不等概自适应抽样和随机SVD分解的CUR矩阵重构

高维大数据矩阵分析中,使用少量主要成分逼近原始数据矩阵是常用方法,这些主要成分是矩阵行和列的线性组合,不易对数据的原始特征进行解释。本文提出将不等概抽样与自适应抽样结合的适用于CUR矩阵分解的抽样方法,并将该抽样方法与矩阵随机奇异值分解(SVD)方法相结合,对抽样得到的列矩阵C和行矩阵R进行随机SVD分解,在控制计算复杂度的同时提高低秩逼近重构矩阵的精度。研究结果表明,在矩阵低秩逼近中,基于不等概自适应抽样和随机SVD分解相结合的CUR矩阵分解方法具有较高的精确度和稳定性。     

线性低秩逼近与非线性降维

综合分析介绍了在线性与非线性数据约化两方面的最新工作: 对线性情形, 讨论了列分块矩阵奇异值分解的结构分析和稀疏低秩逼近方法与算法; 对非线性情形, 研究了非线性降维与流形学习的方法. 这些问题均为数据挖掘 与机器学习领域极受关注的研究课题.     

特征选择与空间降维概述、热点及展望

特征选择和空间降维是处理大规模数据的有效手段,二者都能够降低数据规模和复杂度,提高数据分析的效率和效果,近年来的相关研究始终在稳步推进.综述了国内外关于特征选择和空间降维的研究方法和研究热点,总结相关的热点问题和解决方法,并讨论了该领域未来可能的发展趋势.     

片逆回归的样条逼近

在研究非参数回归问题时, 降维技术是很有帮助并常常很有必要的. 在此领域, 切片逆回归(SIR)方法对于估计中心降维(CDR)子空间是很有效的. 本文提出了用最小二乘回归样条来估计SIR的核矩阵. 通过引入适当的权函数, 上述样条逼近法也能很好地用来处理异方差问题. 对于样条节点的选择在一个很大范围内, 本文证明了样条逼近方法的渐近正态性. 本质上, 这与用核光滑的结果有点类似. 此外, 本文基于SIR矩阵的特征值提出了一种修正型的BIC准则. 对于SIR和其他类似的降维方法, 这种修正型的BIC准则都可以用来决定结构维数. 通过一个实际例子说明了上述方法的实用性, 并给出了样条逼近法和其他现有方法之间的模拟比较结果.     

QTT分解及其在高维数字信号处理上的应用

近几年张量列(TT)和量子化张量列(QTT)分解方法被证明是一种非常有效的特征降维工具,并已广泛应用于PDE、算法加速和信号处理等领域.给出了关于QTT分解的一些新结果.首先用分块张量的方法扩展了QTT的定义,使之适用于更加复杂的降维问题.同时指出新定义的QTT分解也是一种基于流形学习的降维工具.其次讨论了QTT与小波变换和卷积在结构上的联系与区别,并指出QTT也是一种特征提取工具.最后将QTT分解应用于三维数据(MRI图像)的去噪和边缘检测,取得了不错的效果.     

基于蒙特卡洛方法的非负矩阵分解初始化

在非负矩阵分解中,初值的选择对于算法效果有很大的影响.一些基于奇异值分解的初始化方法已有人提出~([7,8]),但当矩阵维数过大时,直接对原矩阵进行奇异值分解是耗时的.本文提出了一种更节时的初始化方法 (KFV-NMF),而且通过数值实验,此算法既在一定程度上保持了计算精度,也节省了计算时间.     

伪谱计算的增广块Householder Arnoldi算法（英文）

伪谱是解释非正规矩阵或算子行为的一个有用工具.矩阵伪谱计算的一个常用方法是grid-SVD算法,实现这个算法需要在每一个网格点处作奇异值分解(SVD);另外一个计算方法是基于Schur分解的逆Lanczos算法.由于上述方法的计算量比较大,通常只适用于中小型矩阵.近些年,有些学者探讨了大规模矩阵伪谱计算的Krylov子空间投影方法.在探讨了Householder Arnoldi(HA)算法块情形的计算行为和实用性能的基础上,提出了计算大规模矩阵伪谱的增广块HA(ABHA)算法,并对一些典型测试矩阵进行了一系列的数值试验.数值结果表明,增广块HA(ABHA)算法比HA算法,块隐式重启Arnoldi(BLIRA)算法和逆Lanczos算法的计算效率更高,更具优越性.     

矩阵奇异值分解及其在高维数据处理中的应用

矩阵奇异值分解能够实现对高维数据的局部特征提取及维数约减,在智能信息处理和模式识别研究领域具有十分重要的应用价值.首先分析了高维数据处理所面临的困境,并对常用的降维算法进行简单的归纳总结;然后阐述了矩阵奇异值分解的基本原理及其在维数约减和数据压缩中的物理意义;接着通过分析两种建立在奇异值分解基础上的PCA与LSA降维算法的数学导出过程,进一步给出了两者的等价性证明;最后总结了矩阵奇异值分解的优缺点,并且预测了高维数据处理技术未来的发展趋势.     

矩阵奇异值分解理论在中文文本分类中的应用

用改进的截断与转换的矩阵奇异值分解算法,设计实现了基于字频特征的中文文本分类器.理论分析与实验结果表明,采用的方法提高了数值计算精度,降低了文本集特征空间的维数,简化了文本分类算法的时间复杂度,提高了文本分类准确率.     

压缩感知

压缩感知是近来国际上热门的研究方向. 其主要思想为: 利用信号稀疏性的特征, 通过尽量少的观测信息恢复信号. 压缩感知在多个应用领域, 如医学成像、图像处理、地质勘探等中具有很好的应用前景. 此外, 它与逼近论、最优化、随机矩阵及离散几何等领域密切相关, 由此产生了一些漂亮的数学结果. 本文综述压缩感知一些基本结果并介绍最新进展. 主要包括RIP 矩阵编码与l₁ 解码的性能、RIP (restricted isometry property) 矩阵的构造、Gelfand 宽度、个例最优性及OMP (orthogonalmatching pursuit) 解码等.