Nonlinear Time Series Prediction Using LS-SVM with Chaotic Mutation Evolutionary Programming for Parameter Optimization

Nonlinear time series prediction is studied by using an improved least squares support vector machine (LSSVM) regression based on chaotic mutation evolutionary programming (CMEP) approach for parameter optimization.We analyze how the prediction error varies with different parameters (σ, γ) in LS-SVM. In order to select appropriate parameters for the prediction model, we employ CMEP algorithm. Finally, Nasdaq stock data are predicted by using this LS-SVM regression based on CMEP, and satisfactory results are obtained.     

Chaotic time series prediction using least squares support vector machines

We propose a new technique of using the least squares support vector machines (LS-SVMs) for making one-step and multi-step prediction of chaotic time series. The LS-SVM achieves higher generalization performance than traditional neural networks and provides an accurate chaotic time series prediction. Unlike neural networks‘ training that requires nonlinear optimization with the danger of getting stuck into local minima, training LS-SVM is equivalent to solving a set of linear equations. Thus it has fast convergence. The simulation results show that LS-SVM has much better potential in the field of chaotic time series prediction.     

应用近红外光谱技术快速检测果醋糖度

为了对果醋糖度值进行快速准确检测,应用近红外光谱技术并结合最小二乘支持向量机分析方法建立了果醋糖度检测模型.应用近红外透射光谱获取五种类型共计300份果醋样本的光谱透射曲线,利用主成分分析方法对原始光谱数据进行降维处理,根据主成分的累计贡献率选取6个主成分.选取的主成分即作为光谱优化特征子集以替代原来复杂的光谱数据.随后将300份果醋样本数据随机分为定标集和预测集,利用最小二乘支持向量机在225个定标集样本数据基础上建立起果醋糖度预测模型,应用此模型对75个预测集样本进行糖度预测.根据预测均方根误差(RMSEP)和预测结果的相关系数(r)对预测模型进行评价,利用此模型得到的样本糖度预测值r=0.993 9,RMSEP=0.363,均达到了较好的预测效果.     

基于拉曼光谱和最小二乘支持向量机的橄榄油掺伪检测方法研究

为实现橄榄油中掺伪油类型的识别和掺伪量预测,对掺入葵花籽油、大豆油、玉米油的橄榄油共117个样品进行拉曼光谱检测,并用基于多重迭代优化的最小二乘支持向量机模型对掺入油的类型进行识别,综合识别率为97%。同时分别采用最小二乘支持向量机、人工神经网络模型、偏最小二乘回归建立橄榄油中葵花籽油、大豆油、玉米油含量的拉曼光谱定标模型,结果显示最小二乘支持向量机具有最优的预测效果,其预测均方根误差(RMSEP)在0.007 4～0.014 2之间。拉曼光谱结合最小二乘支持向量机可为橄榄油掺伪检测提供一种精确、快速、简便、无损的方法。     

基于图像和光谱融合的脐橙货架期高光谱成像无损检测研究

水果货架期是影响水果品质的重要因素之一,快速无损检测货架期是消费者、食品加工企业日益关心的问题,为了探讨水果不同货架期的预测判别方法的可行性,以不同货架期脐橙为实验样品,运用高光谱成像技术并结合化学计量学方法对不同货架期脐橙进行了预测判别。分别采集脐橙货架期第0天、第7天、14天后的脐橙样本高光谱图像,并进行高光谱图像校正。从光谱角度,提取脐橙样本的平均光谱,每条光谱有176个波长点;从图像角度,先提取脐橙样本的RGB和HSI颜色空间中R,G,B,H,S和I特征值,得到6个分量的均值,然后提取灰度共生矩阵的能量、熵、对比度、逆差矩、相关性的5个图像纹理信息,一共11个图像特征值,并将图像特征进行归一化处理;结合光谱和图像信息,即176个原始光谱和11个图像信息一共187个特征值。利用光谱信息、图像信息、光谱和图像融合信息进行建模,分别建立偏最小二乘支持向量机（LS-SVM）和偏最小二乘判别（PLS-DA）模型。当原始176个光谱变量作为输入变量,核函数为LIN-Kernel时,LS-SVM模型预测效果最佳,预测集误判率为5.33%。当11个图像特征变量作为输入变量,核函数为LIN-Kernel时,LS-SVM模型预测效果最佳,预测集误判率较高为20%。当原始176个光谱变量和11个图像特征变量的融合特征作为输入变量,核函数为LIN-Kernel时,LS-SVM模型预测效果最佳,预测集误判率为1.33%。实验结果表明,以光谱和图像融合信息建立LS-SVM模型效果最优,提高了对不同货架期脐橙识别的正确率,可实现对不同货架期的脐橙准确有效分类识别,误判率为1.33%。利用高光谱成像技术对不同货架期脐橙进行快速判别,对消费者购买新鲜水果和水果深加工企业具有一定程度的理论指导,也为后期相关仪器研发奠定了基础。     

基于紫外光谱的水体硝酸盐浓度混合预测模型研究

水体中的硝酸盐浓度过高不仅会造成水环境污染而且会对人类身体健康造成很大威胁,传统的检测硝酸盐的方法检测时间长且操作复杂。针对水体中硝酸盐氮难以快速在线检测的问题,基于紫外吸收光谱,提出了一种混合预测模型结合光谱积分快速定量检测水体中硝酸盐浓度的方法。混合预测模型为低浓度样本建立的双波长法预测模型与高浓度样本建立的偏最小二乘支持向量机(LS-SVM)预测模型数据融合之后的模型。按照合适的浓度梯度配备了19组硝酸盐氮标准溶液,通过实验测得不同浓度硝酸盐氮样本的光谱数据。首先基于双波长法对所有样本进行回归分析,按照A=A₂₂₀-2A₂₇₅计算不同实验样本的吸光度A,其中A₂₂₀和A₂₇₅是220和275 nm处样本的吸光度,将吸光度A与样本浓度值进行线性回归,拟合出样本浓度的预测值。结果显示当样本浓度较小时,相关性很好,r为0.997 4,随着实验样本浓度的上升,曲线发生严重的非线性漂移,因此双波长法只适合低浓度样本预测模型的建立。对于高浓度样本,光谱重叠严重,适合建立非线性的预测模型,支持向量机(SVM)与LS-SVM都适合小样本的非线性数据建模,LS-SVM预测精度稍高,运算速度稍快。通过对所有的实验样本进行全波长光谱积分,比较相邻样本光谱积分的变化率可以筛选出样本的临界浓度值,4 mg·L-1的硝酸盐样本积分值前后变化率最大,因此选择4 mg·L-1作为临界浓度值较为合适。浓度高于4 mg·L-1的实验样本建立LS-SVM预测模型,通过交叉验证的方法选择出合适的参数,正则化参数γ=50,核函数选择高斯核,核函数宽度σ２=0.36,训练样本之后进行回归;其余样本建立双波长法预测模型,最后进行两种模型的数据融合,形成从低浓度到高浓度的水体中硝酸盐浓度的检测。为了验证混合预测模型的预测精度,另外建立了SVM,LS-SVM,偏最小二乘(PLS)等模型,并求出r,预测值与真实浓度值平均绝对误差(MAE)和均方根误差(RMSE)对模型进行评价。验证结果表明,相比于SVM,LS-SVM和PLS等模型,提出的混合模型回归的相关系数为0.999 86,分别提高了1.8%,1.6%和0.45%,预测值与真实浓度的平均绝对误差为2.55%,分别降低了6.27%,4.49%和1.01%,均方根误差为0.303,为四种预测模型中最小,SVM与LS-SVM的相对误差相对较高,PLS模型相对误差上下波动比较大,混合预测模型相对误差最为稳定,并保持在较低水平,由此可见混合预测模型的预测效果明显优于其他几种模型。并与文献[5-7]中的测量方法进行对比,该混合预测方法可以简单快速的测量水体中硝酸盐氮的浓度,且不需要试剂,无二次污染,与文献[9]中的预测模型相比,预测精度明显提高。因此提出的混合模型可正确快速地预测水体中硝酸盐氮的浓度,可为在线监测水体中硝酸盐浓度提供有效的技术参考。     

应用近红外高光谱成像预测三文鱼肉的水分含量

应用近红外高光谱成像技术实现三文鱼肉水分含量的快速无损检测。采集来自不同部位的三文鱼肉共90个样本的高光谱图像,提取样本感兴趣区域(ROI)的平均光谱。随机取60个样本作为建模集,其余30个样本作为预测集。分别采用偏最小二乘回归(PLSR)和最小二乘支持向量机(LS-SVM)对全波段和水分含量建立相关性模型,并对预测集样本的水分含量进行预测。再用一种新的变量提取方法random frog选择特征波长,并基于特征波长分别建立水分检测的PLSR和LS-SVM模型。特征波长模型的预测精度虽然稍逊于全波段模型,但是仅用12个变量代替了全波段的151个变量,大大简化了模型,更便于实际应用。PLSR和LS-SVM特征波长模型的预测相关系数(R_p)分别为0.92和0.93,预测均方根误差(RMSEP)分别为1.31%和1.18%,取得了满意的结果。研究表明,近红外高光谱成像与化学计量学方法结合可以准确预测三文鱼肉的水分含量,为鱼肉品质的快速监测提供重要的参考。     

近红外光谱法对甲醇柴油中甲醇含量测定

应用近红外光谱结合化学计量学方法实现了对甲醇柴油中的甲醇含量的定量分析。以实验室配制的32种不同浓度[浓度范围为2%～25.8%(φ)]的甲醇柴油溶液为研究对象,在4 500～7 000 cm-1光谱范围内,建立偏最小二乘(PLS)、支持向量机(SVM)和最小二乘支持向量机(LS-SVM)三种定量分析模型。在建立SVM模型时,经过比较分析,径向基函数(radial basis function,RBF)作为SVM模型的核函数时可以获得更高的预测精度。最终获得甲醇含量的PLS, SVM和LS-SVM三种模型的预测相关系数R_P分别为0.985 9, 0.990 3, 0.998 9,预测均方根误差RMSEP分别为0.405 2, 0.356 3, 0.062 4,可以看出,三种预测模型都可以达到很好的效果,最优的预测模型是使用LS-SVM建模。研究结果表明,利用近红外光谱法结合化学计量学方法对甲醇柴油中甲醇含量的检测具有可行性,并可以达到很好的效果。采用近红外光谱技术结合化学计量方法对甲醇柴油中甲醇含量进行定量分析,也为近红外光谱技术快速无损检测甲醇柴油甲醇含量提供参考和应用价值。     

基于集成最小二乘支持向量机方法的近红外光谱分析

针对近红外（Near Infrared,NIR）光谱测量中的小样本问题。本文提出了一种集成最小二乘支持向量机（Ensemble Least Squares Support Vector Machine,ELS-SVM）新算法。首先使用随机子空间算法（Random Subspace Method,RSM）原始高维变量空间划分为若干个低维度的子空间,然后分别在各个子空间建立最小二乘支持向量机（LS-SVM）模型,最后构造一个集成结果来进行预测。针对一批柴油样本的实验结果表明,本法对柴油十六烷值的预测精度优于传统的LS-SVM方法。     

酥梨货架期的高光谱成像无损检测模型研究

水果新鲜度是反映水果是否新鲜、饱满的重要品质指标,为了探讨水果不同货架期的预测和判别方法,以酥梨为研究对象,利用高光谱成像技术,结合偏最小二乘判别法（PLS-DA）和偏最小二乘支持向量机（LS-SVM）算法对酥梨货架期进行判别。由光源、成像光谱仪、电控位移平台和计算机等构成的高光谱成像装置采集样品光谱,装置光源采用额定功率为200 W四个溴钨灯泡成梯形结构设计,光谱范围为1 000～2 500 nm,分别率为10 nm。选取优质酥梨30个,货架期设置为1, 5和10 d,对30个样品完成3次光谱图像的采集,并矫正原始图像。实验结果表明：基于图像的酥梨货架期定性分析时,对不同货架期样品的原始图像进行PCA压缩,得到三种不同货架期的权重系数数据,PC1图像提取特征波长点为1 280,1 390,1 800,1 880和2 300 nm,以特征图像的平均灰度值作为自变量且以货架期作为因变量建立定性判别模型,建模集68个,预测集22个。最小二乘支持向量机以RBF为核函数时,预测集中样品的误判个数为1,误判率为4.5%。而当采用lin核函数时,样品的误判个数为0,误判率为0。PLS-DA定性分析时RMSEC为1.24,R_c为0.93。RMSEP为1,R_p为0.96,预测集误判率为0。特征图像对酥梨货架期判别LS-SVM中的lin核函数所建立的模型结果较好,优于RBF核函数的建模效果,也优于PLS-DA判别模型。ENVI软件提取实验样品光谱后建立LS-SVM和PLS-DA判别模型,LS-SVM利用RBF和lin核函数误判率分别为4.5%和0。与RBF核函数相比,lin核函数所建立的模型预测酥梨货架期的效果更好。PLS-DA方法主成分因子数为12,RMSEC和RMSEP分别为0.48和0.78,R_c和R_p分别为0.99和0.97,建模集与预测集的误判率均为零。LS-SVM中的lin核函数所建立的模型结果较好,依然优于PLS所建立的检测模型。酥梨的光谱信息结合LS-SVM可以实现对酥梨货架期的检测和判别。基于图像建立酥梨的货架期预测模型与光谱相比,都实现了酥梨货架期的判别,而特征图像法,选择区域较少流失部分信息,计算量小,建模结果相对略差。酥梨货架期的高光谱成像检测模型研究为消费者正确评价水果新鲜度提供了理论指导, 也为后期果水果货架期检测仪器的开发提供了技术支持。     

基于LS-SVM紫外可见光谱检测水产养殖水体COD研究

采用紫外可见(ultraviolet/visible,UV/Vis)光谱技术对水体中有机物浓度的指标化学需氧量(chemical oxygen demand,COD)进行快速检测,将收集到的135份水样进行UV/VIS波段全光谱扫描,应用Savitzky-Golay (SG)平滑算法,经验模态分解算法(empirical modedecomposition,EMD)和小波分析(wavelet transform,WT)对提取出的光谱数据进行去除噪声处理,为了简化模型,PLSR建模得到的6个潜在变量(LVs)作为偏最小二乘支持向量机(LS-SVM)的输入建立COD预测模型,LS-SVM模型的预测集决定系数r2为0.82,预测均方根误差RMSEP为14.82 mg·L-1。说明使用LVs作为LS-SVM建模输入,可以准确快速检测水产养殖水体中的COD含量,为将来实现水产养殖水质COD含量的在线检测以及其他水质参数的快速测定奠定了基础。     

基于在线最小二乘支持向量机回归的混沌时间序列预测

提出了一种基于在线最小二乘支持向量机（LS-SVM）回归的混沌时间序列的预测方法.与离线支持向量机相比，在线最小二乘支持向量机预测方法即使当混沌系统的参数随时间变化时仍然有效.以Chen's混沌系统、Rssler混沌系统、Hénon映射及脑电(EEG)信号四种混沌时 间序列为例评估本文提出的预测方法，结果验证了其混沌时间序列预测的有效性. 关键词： 混沌时间序列 预测 在线学习 支持向量机     

基于可见-近红外光谱和多光谱成像技术的梨损伤检测研究

提出了利用可见-近红外光谱技术和多光谱成像技术检测鸭梨损伤随时间及程度变化的新方法.利用可见-近红外光谱技术,分别结合偏最小二乘(panial least squares,PLS)和最小二乘支持向量机(least squares-support vector machine,LS-SVM)方法对鸭梨受损程度和受损天数进行预测.结果表明,两种方法在鸭梨损伤后期对损伤程度的判别均具有较好的效果;LS-SVM方法对鸭梨轻度损伤的损伤天数的预测精度较高,但重度损伤天数的预测效果不如PLS方法.然后利用多光谱图像预测鸭梨受损天数.研究发现,利用LS-SVM建立的模型预测效果较稳定,预测结果相关系数均在0.85左右.说明利用可见-近红外光谱分析技术和多光谱成像技术能够快速无损地检测出鸭梨的损伤程度及时间,为鸭梨检测提供了一种新方法.     

Chaotic behavior learning of Chua's circuit

Least-square support vector machines(LS-SVM) are applied for learning the chaotic behavior of Chua’s circuit.The system is divided into three multiple-input single-output(MISO) structures and the LS-SVM are trained individually.Comparing with classical approaches,the proposed one reduces the structural complexity and the selection of parameters is avoided.Some parameters of the attractor are used to compare the chaotic behavior of the reconstructed and the original systems for model validation.Results show that the LS-SVM combined with the MISO can be trained to identify the underlying link among Chua’s circuit state variables,and exhibit the chaotic attractors under the autonomous working mode.     

基于近红外光谱技术的油菜叶片丙二醛含量快速检测方法研究

应用近红外光谱技术实现了油菜叶片中丙二醛(MDA)含量的快速无损检测.对90个油菜叶片样本进行光谱扫描,用60个样本建模,30个样本验证.经过平滑、变量标准化、一阶及二阶求导、去趋势等预处理后,建市了MDA预测的偏最小二乘法(PLS)模型.将PLS提取的有效特征变馈(LV)和连续投影算法(SPA)提取的有效波长作为最小二乘-支持向量机(LS-SVM)的输入变量,分别建立了LV-LS-SVM和SPA-LS-SVM模型.以预测集的预测相关系数(r),预测标准偏差(RMSEP)作为模型评价指标.结果表明,油菜叶片中MDA含量预测的最优模型为LV-LS-SVM模型,LV-LS-SVM在去趋势处理后的预测效果为r=0.999 9,RMSEP=0.530 2;在二阶求导处理后的预测效果为r=0.999 9,RMSEP=0.395 7.说明应用光谱技术检测油菜叶片中MDA的含最是可行的,并能获得满意的预测精度,为油菜大田生长状况的动态连续监测提供了新的方法.     

基于变量优选和快速独立成分分析的黄花梨可溶性固形物可见/近红外光谱检测

为建立预测能力高、稳定性强的可见/近红外漫透射光谱无损检测黄花梨可溶性固形物(SSC)数学模型,对比各种预处理方法、变量优选方法、快速独立主成分分析(FICA)以及最小二乘支持向量机(LS-SVM)对黄花梨SSC模型的影响,得出最佳的组合方法用于建立黄花梨可溶性固形物(SSC)预测模型。采用Quality Spec型光谱仪采集550~950 nm波段范围内的黄花梨漫透射光谱并采用遗传算法、连续投影算法和CARS(competitive adaptive reweighted sampling)三种方法筛选黄花梨可溶性固形物的光谱特征变量,再结合FICA提取光谱主成分,最后采用LS-SVM建立黄花梨的SSC预测模型。结果显示,采用CARS筛选的21个变量,经FICA挑选出12个主成分数,联合LS-SVM所建立的CARS-FICA-LS-SVM黄花梨SSC预测模型性能最佳,建模集和预测集的决定系数及均方根误差分别为0.974,0.116%和0.918,0.158%,同直接采用PLS方法建模相比,变量数从401个下降到21,主成分数由14下降到12,建模集和预测集决定系数分别上升了0.023,0.019,而建模和预测均方根误差分别下降了0.042%和0.010%。CARS-FICA-LS-SVM建立黄花梨SSC预测模型能够有效地简化预测模型并提高预测模型精度。     

干贝水分检测的建模及分级方法

高光谱成像已被应用于建立干贝水分含量预测模型，其模型性能受样本划分方法及建模方法影响。样本划分方法决定着所选样本是否具有代表性，而建模方法决定着如何利用样本建立模型，但样本划分方法与建模方法的内在联系却鲜有研究报道。在方法优选上，将样本划分方法与建模方法进行组合，探究不同方法组合对干贝水分含量预测模型性能的影响，对干贝水分检测建模及分级方法的优选具有重要意义，同时也能为其他样本的光谱建模提供参考。采集380～1 030 nm波段下270个干贝样本的高光谱图像，提取干贝样本的光谱数据，通过RS，KS，SPXY和CG四种常用的方法划分样本，并以PLSR和LS-SVM两种常用的建模方法建立多个干贝水分含量预测模型，计算和比较各模型的性能指标。结果表明: PLSR模型使用RS法划分干贝水分含量样本最为适宜(其RPD为4.079 6)，LS-SVM模型使用SPXY划分法最为适宜(其RPD为4.175 6)，划分样本方法的优劣与建模方法有关，其优选需要结合特定的建模方法进行。在常用的四种样本划分方法和两种建模方法中，采用SPXY法划分干贝水分含量样本并结合LS-SVM法建模的效果和精度最好。     

应用近红外高光谱成像技术预测甘蔗可溶性固形物含量

为了探究应用近红外高光谱成像技术对甘蔗内部可溶性固形物（SSC）预测的可行性,试验样本选择三种不同品种中的240个甘蔗节作为研究对象。通过高光谱成像系统获取甘蔗节的近红外光谱信息和图像信息,并分别探讨了光谱信息和图像纹理信息对甘蔗可溶性固形物预测的可行性。采用最小二乘回归（PLSR）,最小二乘支持向量机（LS-SVM）及主成分回归（PCR）建模方法构建甘蔗可溶性固形物的预测模型。比较了连续投影算法（SPA）、无信息变量消除算法（UVE）及区间偏最小二乘（iPLS）特征提取方法对预测结果的影响。实验结果表明：基于甘蔗的光谱信息能实现可溶性固形物的预测,其中偏最小二乘回归模型的建模集和预测集的相关系数分别为0.879和0.843,均方根误差分别为0.644和0.742。通过UVE算法提取105个有效波长所建立的PLSR模型的建模集及预测集相关系数分别为0.860和0.813,均方根误差分别为0.693和0.810。     

近红外特征光谱的羊肉TVB-N浓度预测模型

为提高生鲜羊肉储存期内（4,8和20 ℃环境）挥发性盐基氮（TVB-N）的近红外光谱（NIR）检测的稳定性和准确性,选取特征光谱和预测模型是关键步骤。以121个羊肉样品为实验对象,采集生鲜羊肉680~2 600 nm波段的近红外光谱。以多元散射校正（MSC）、标准正态变换（SNV）等散射校正方法,Savitzky-Golay卷积平滑（SGS）、移动平均平滑（MAS）等平滑处理方法,以及归一化（Normalization）、中心化（Centering）、标准化（Autoscaling）等尺度缩放方法分别预处理光谱数据后建立偏最小二乘法（PLS）预测模型。比较发现SGS处理的光谱建模效果最好。利用蒙特卡洛采样（MCS）法及马氏距离法（MD）消除了羊肉光谱的5个异常数据。运用光谱-理化值共生距离（SPXY）算法划分总样本的75%（87个）为校正集样本,剩余29个为验证集样本,利用竞争性自适应重加权法（CARS）、无信息变量消除法（UVE）、改进的无信息变量消除法（IUVE）和连续投影算法（SPA）提取特征光谱得到的波长个数分别为14,713,144和15。将全光谱和4种方法提取的特征波长作为输入变量建立预测模型,CARS提取的波长所建立模型的性能优于UVE、IUVE和SPA提取的波长所建立模型的性能,表明CARS方法可以有效简化输入变量并提高预测模型的性能。改进后得到的IUVE法相比于UVE法,筛选出的波长数更少且模型性能有所提升。以提取的特征波长建立PLS,支持向量机（SVM）和最小二乘支持向量机（LS-SVM）预测模型,SVM模型得到最优的校正集预测结果,其中CARS-SVM预测模型的校正决定系数（R2_C）和校正均方根误差（RMSEC）分别为0.939 1和1.426 7,最优的验证集预测效果为LS-SVM预测模型得到,其中IUVE-LS-SVM预测模型的验证决定系数（R2_V）和验证均方根误差（RMSEV）分别为0.856 8和1.886 2。基于近红外特征光谱建立简化、优化的生鲜羊肉储存期TVB-N预测模型,为实现快速无损检测生鲜羊肉中的TVB-N浓度提供技术支持。