一种全最小二乘算法及其在非线性滤波器中的应用

针对输入输出观测数据均含有噪声的滤波问题,提出了一种稳定的总体最小二乘自适应算法。该算法以系统的增广权向量的瑞利商(RQ)与对增广权向量的最后元素的约束的和作为总损失函数,利用梯度最陡下降原理导出权向量的自适应迭代算法,并将该算法应用于非线性Volterra滤波器。研究了算法的稳定性能,提出的算法不仅有良好的收敛性能,而且在权向量的自适应迭代时不需要标准化处理,使得算法的实施更为简单。仿真实验表明,无论在线性系统或非线性系统,本文算法的收敛性能,鲁棒抗噪性能和稳态收敛精度明显高于其它同类总体最小二乘算法。     

一种基于拟牛顿法的递归最小二乘方法

基于拟牛顿优化方法,提出了一种稳健的自适应FIR滤波算法。新算法用最小二乘误差(LSE)代替了均方误差(MSE)作为代价函数,它具有和常规递归最小二乘(CRLS)算法相近似的追踪能力,且不存在数值计算不稳定性的问题,在收敛速度以及稳态效果方面也要优于De Campos的拟牛顿(QN)算法。通过计算机仿真比较了有关算法的性能。     

用于FIR滤波器的递归最小二乘拟牛顿算法

基于拟牛顿优化方法,提出了一种稳健的自适应FIR滤波算法。新算法用最小二乘误差(LSE)代替了均方误差(MSE)作为代价函数,他具有和常规递归最小二乘(CRLS)算法相近似的追踪能力,且不存在数值计算不稳定性的问题,在收敛速度以及稳态效果方面也要优于DeCampos的拟牛顿(QN)算法。由计算机仿真比较了有关算法的性能。     

一种抗冲击噪声的对数总体最小二乘自适应滤波算法

在未知系统输入信号和输出信号均含有噪声的环境中,传统的自适应滤波算法,如最小均方(LMS)算法,会产生有偏估计.总体最小二乘(TLS)算法能够同时最小化输入信号与输出信号的噪声干扰,是解决此类问题的重要方法.然而,在许多实际应用中,干扰噪声可能具有冲击特性,这使得传统基于2阶统计量的自适应滤波算法,包括总体最小二乘算法性能严重恶化,以至于不能正常工作.为了解决这个问题,该文在总体最小二乘法的基础上,利用对数函数对其改进,提出了一种能够抗冲击干扰的对数总体最小二乘(L-TLS)算法.最后,通过计算机仿真实验验证了该新算法的有效性.     

一种抗冲击噪声的对数总体最小二乘自适应滤波算法

在未知系统输入信号和输出信号均含有噪声的环境中,传统的自适应滤波算法,如最小均方(LMS)算法,会产生有偏估计。总体最小二乘(TLS)算法能够同时最小化输入信号与输出信号的噪声干扰,是解决此类问题的重要方法。然而,在许多实际应用中,干扰噪声可能具有冲击特性,这使得传统基于2阶统计量的自适应滤波算法,包括总体最小二乘算法性能严重恶化,以至于不能正常工作。为了解决这个问题,该文在总体最小二乘法的基础上,利用对数函数对其改进,提出了一种能够抗冲击干扰的对数总体最小二乘(L-TLS)算法。最后,通过计算机仿真实验验证了该新算法的有效性。     

一种最小二乘与自适应Kalman联合滤波算法

"当前统计模型"滤波算法中采用上一帧的加速度来预测当前时刻的目标位置,当目标做变加速度运动时,预测值不能反应本帧的加速度变化,目标跟踪精度难以保证.针对这个问题,本文提出了一种最小二乘和Kalman的联合滤波算法,在自适应Kalman滤波前,采用最小二乘算法对当前数据进行拟合,用拟合的位置、速度和加速度作为目标的预测位置送入Kalman滤波器进行滤波处理,克服了"当前统计模型"滤波中存在的问题,提高了跟踪精度.     

自适应迭代最小二乘支持向量机回归算法

 基于最小二乘支持向量机回归算法,本文在前期工作的基础上进行了扩展,提出了更加详尽的自适应迭代最小二乘支持向量机回归算法. 与标准的LSSVR相比,本文提出的算法在学习新样本的时候利用了已有的学习结果,可以快速获得新的学习机. 模拟结果表明,自适应迭代最小二乘支持向量机回归算法能够自适应地确定支持向量的数目,保留了QP方法在训练SVM时支持向量的稀疏性,在相近的回归精度下,该算法极大地提高了标准LSSVR学习的速度.     

脉冲噪声环境的一种递归全局最小平均P-范数算法

本文给出了适应于α-稳定噪声环境的一种递归全局最小平均P-范数算法,其可用于递归计算自适应滤波和系统辨识问题的全局最小平均P-范数算法.针对α-稳定噪声的冲击性,本文所提出的自适应算法采用了有名的power迭代法,并通过计算机仿真比较了有关算法的性能.     

一种最小二乘支持向量机的算法改进与实现

对最小二乘支持向量机的内在理论进行了分析,结果显示其存在模型不具有稀疏性等缺点。针对该缺点,结合压缩感知理论的分块稀疏编码方法,进行了最小二乘支持向量机的算法改进;并在已有工具箱的基础上对改进算法进行了Matlab实现。采用标准人脸库进行的改进算法实验显示,改进算法运行正确,性能良好,具有一定的应用价值。     

最小二乘支持向量机的一种非均衡数据分类算法

为了提高支持向量机的非平衡数据分类能力,分析了最小二乘支持向量机的本质特征,提出了一种基于中心距离比的非平衡数据分类算法,同时通过修剪边界样本,解决了最小二乘支持向量机缺失稀疏性的问题.在UCI标准数据集上进行的试验表明:该算法能够有效地提高支持向量机对非均衡分布数据的正确性,且该算法在不影响训练精度的前提下,可以得到稀疏解,算法的训练速度也有了一定的提高.     

基于相关函数的递推最小二乘算法及其在回波消除中的应用

本文给出一种新的类似于RLS（recursive least squares)算法的递推最小二乘算法，该算法直接对输入信号的相关函数进行处理而不是对输入信号本身进行处理，理论分析表明了该算法的收敛性。该算法应用于回波消除问题中，克服了常规自适应滤波算法在出现双方对讲的情况下需停止调节自适应滤波器系数这一不足。计算机模拟仿真表明该算法在双方对讲的情况下有良好的收敛性能。     

A two-dimensional fast lattice recursive least squares algorithm

This paper is mainly devoted to the derivation of a new two-dimensional fast lattice recursive least squares (2D FLRLS) algorithm. This algorithm updates the filter coefficients in growing-order form with linear computational complexity. After appropriately defining the “order” of 2D data and exploiting the relation with 1D multichannel, “order” recursion relations and shift invariance property are derived. The geometrical approaches of the vector space and the orthogonal projection then can be used for solving this 2D prediction problem. We examine the performances of this new algorithm in comparison with other fast algorithms     

基于修改核函数的RLS－SVM多用户检测算法

为了解决支持向量机算法在多用户检测中存在的模型复杂及产生的支持向量数目较多的问题,该文提出一种新的非线性多用户检测算法。该算法在第一次小样本训练时引入了遗忘因子,该因子使支持向量数减少了28％。在第一次训练后产生的支持向量的基础上,将黎曼几何结构引入到输入空间,利用黎曼几何结构将分类器中的核函数进行修改,在第二次训练中再次减少了支持向量数目。此方法在牺牲较少误比特率的基础上,简化了算法模型和降低计算复杂度。仿真实验表明,该算法抑制了多径引起的码间干扰,性能接近于最优多用户检测器。     

FAST RECURSIVE LEAST SQUARES LEARNING ALGORITHM FOR PRINCIPAL COMPONENT ANALYSIS

Based on the least-square minimization a computationally efficient learning algorithm for the Principal Component Analysis(PCA) is derived. The dual learning rate parameters are adaptively introduced to make the proposed algorithm providing the capability of the fast convergence and high accuracy for extracting all the principal components. It is shown that all the information needed for PCA can be completely represented by the unnormalized weight vector which is updated based only on the corresponding neuron input-output product. The convergence performance of the proposed algorithm is briefly analyzed.The relation between Oja's rule and the least squares learning rule is also established. Finally, a simulation example is given to illustrate the effectiveness of this algorithm for PCA.     

Selfperturbing recursive least squares algorithm with fast tracking capability

A novel recursive least squares (RLS) type algorithm with a selfperturbing action is devised. The algorithm possesses a fast tracking capability in itself because its adaptation gain is automatically revitalised through perturbation of the covariance update dynamics by the filter output error square when it encounters sudden parameter changes. Furthermore, the algorithm converges to the true parameter values in stationary environments.<>     

A robust recursive least squares algorithm

A new algorithm is developed, which guarantees the normalized bias in the weight vector due to persistent and bounded data perturbations to be bounded. Robustness analysis for this algorithm has been presented. An approximate recursive implementation is also proposed. It is termed as the robust recursive least squares (RRLS) algorithm since it resembles the RLS algorithm in its structure and is robust with respect to persistent bounded data perturbation. Simulation results are presented to illustrate the efficacy of the RRLS algorithm     

A fast recursive total least squares algorithm for adaptive IIR filtering

This work develops a new fast recursive total least squares (N-RTLS) algorithm to recursively compute the total least squares (TLS) solution for adaptive infinite-impulse-response (IIR) filtering. The new algorithm is based on the minimization of the constraint Rayleigh quotient in which the first entry of the parameter vector is fixed to the negative one. The highly computational efficiency of the proposed algorithm depends on the efficient computation of the gain vector and the adaptation of the Rayleigh quotient. Using the shift structure of the input data vectors, a fast algorithm for computing the gain vector is established, which is referred to as the fast gain vector (FGV) algorithm. The computational load of the FGV algorithm is smaller than that of the fast Kalman algorithm. Moreover, the new algorithm is numerically stable since it does not use the well-known matrix inversion lemma. The computational complexity of the new algorithm per iteration is also O(L). The global convergence of the new algorithm is studied. The performances of the relevant algorithms are compared via simulations.     

超级电容模型的递推增广最小二乘辨识

为了更好的描述超级电容的电气特性,需要建立超级电容模型。提出系统辨识方法进行建模,阐述了系统辨识的原理和递推增广最小二乘法算法,在此基础上利用MATLAB编写递推增广最小二乘法程序估计出超级电容的传递函数,通过仿真对辨识结果进行验证。可知,该超级电容模型是正确有效的。     

基于递推最小二乘算法的小信号检测

受到强干扰影响的小信号通常难于有效检测。在分析递推最小二乘算法(RLS)原理及其几种改进形式的基础上,采用自适应方法将已检测出的大信号与原混叠信号对消,降低大信号对小信号的遮蔽作用,再进行小信号的检测。最后通过仿真证明,该方法能够在较小失真的情况下,有效检测出被大调幅信号干扰下的小调频信号;同时分别比较了各种算法的优劣,得出基于可变遗忘因子的RLS(VFF-RLS)算法不仅具有较快的收敛速度,而且收敛之后具有很好的平稳性能。     

曲波变换和最小二乘支持向量机的图像压缩算法

为了提高图像压缩质量,针对传统压缩算法的不足,提出一种曲波变换和最小二乘支持向量机相融合的图像压缩算法。首先采用曲波变换把图像分解为不同尺度和不同方向的曲波系数,并采用熵编码对粗尺度层曲波系数进行压缩,然后利用最小二乘支持向量机对细尺度层中不同方向的曲波系数进行学习,并通过和声搜索算法优化最小二乘支持向量机,实现细尺度层曲波数的压缩,最后采用图像压缩仿真实验测试其性能。结果表明,曲波变换和最小二乘支持向量机相融合的图像压缩算法提高了图像压缩的峰值信噪比,加快了图像压缩的速度,获得了更好的图像压缩效果。