基于遗传注意力机制的DLSTM电力系统混沌预测

提出一种基于遗传算法优化注意力机制的深度长短期记忆网络(DLSTM)方法,用于电力系统的混沌预测。通过传递共享参数,将遗传算法优化的注意力机制加入DLSTM模型中,可以挖掘时间序列中潜在特征,同时避免陷入局部优化。该方法是一种受进化计算方法启发的寻优方法,可以很好地学习注意力层中的参数。电力系统混沌预测实验表明所提模型比其他参考模型具有更高的预测精度和长期预测能力。     

基于差分进化算法的混沌时间序列预测模型参数组合优化

为了提高混沌时间序列预测模型的预测精度,提出一种基于差分进化（DE）算法的相空间重构和最小二乘支持向量机（LSSVM）模型参数组合优化方法．该方法将相空间重构参数和LSSVM预测模型参数进行组合作为差分进化算法的个体,以混沌时间序列预测精度作为个体的适应度函数,通过循环迭代获得最优参数组合．几个混沌时间序列的仿真实验结果表明,与传统的优化方法相比,参数组合优化方法具有更高的预测精度．     

用于混沌时间序列预测的组合核函数最小二乘支持向量机

针对混沌时间序列的预测问题,考虑到单一核函数的最小二乘支持向量机无法明显提高预测精度,提出了一种组合核函数的最小二乘支持向量机预测模型,模型中采用多项式函数与径向基函数组合构建核函数.同时,还对遗传算法进行了改进,使之具有更快的收敛速度和更高的精度,改进的遗传算法适用于解决预测模型中的参数优化问题.通过典型的Lorenz时间序列、Mackey-Glass时间序列、太阳黑子数时间序列以及具有混沌特性的网络流量时间序列对该模型进行了验证.仿真结果表明所提出的模型是有效的.     

基于高斯过程的混沌时间序列单步与多步预测

针对混沌时间序列单步和多步预测,提出基于复合协方差函数的高斯过程 (GP)模型方法.GP模型的确立由协方差函数决定,通过对训练数据集的学习,在证据最大化框架内,利用矩阵运算和优化算法自适应地确定协方差函数和均值函数中的超参数.GP模型与神经网络、模糊模型相比,其可调整参数很少.将不同复合协方差函数的GP模型应用在混沌时间序列单步及多步提前预测中,并与单一协方差函数的GP、支持向量机、最小二乘支持向量机、径向基函数神经网络等方法进行了比较.仿真结果表明,基于不同复合协方差函数的GP方法能精确地预测混沌时间序 关键词： 高斯过程 混沌时间序列 预测 模型比较     

基于改进教学优化算法的Hermite正交基神经网络混沌时间序列预测

针对传统预测模型对混沌时间序列预测精度低、收敛速度慢及模型结构复杂的问题, 提出了基于改进教学优化算法的Hermite正交基神经网络预测模型. 首先, 将自相关法和Cao方法相结合对混沌时间序列进行相空间重构, 以获得重构延迟时间向量; 其次, 以Hermite正交基函数为激励函数构成Hermite正交基神经网络, 作为预测模型; 最后, 将模型参数优化问题转化为多维空间上的函数优化问题, 利用改进教学优化算法对预测模型进行参数优化, 以建立预测模型并进行预测分析. 分别以Lorenz 系统和Liu系统为模型, 通过四阶Runge-Kutta法产生混沌时间序列作为仿真对象, 并进行单步及多步预测对比实验. 仿真结果表明, 与径向基函数神经网络、回声状态网络、最小二乘支持向量机及基于教学优化算法的Hermite正交基神经网络预测模型相比, 所提预测模型具有更高的预测精度、更快的收敛速度和更简单的模型结构, 验证了该模型的高效性, 便于推广和应用.     

基于信息熵优化相空间重构参数的混沌时间序列预测

提出一种混沌时间序列相空间重构参数的信息熵优化方法(IEOP),该方法首先使用条件熵表示信息量,建立时间延迟和嵌入维数在相空间中的信息熵优化模型,然后利用遗传算法同时求解两个重构参数,使重构坐标间既保持了良好的独立性又保留了原系统的动力学特征.通过在Lorenz和Mackey-Glass系统上的数值实验,该方法不仅能够确定合适的嵌入维数和时间延迟,而且能在优化的相空间中获得更多的信息,提高了混沌时间序列的预测精度.     

基于迭代误差补偿的混沌时间序列最小二乘支持向量机预测算法

本文分析了传统支持向量机预测算法产生的误差特性,发现产生的预测误差不同于噪声,具有较强的规律性,单一的预测模型遗漏了许多混沌序列中的确定性分量.经过误差补偿后,残差的冗余信息减少,随机性增强.在此基础上,本文提出一种基于迭代误差补偿的最小二乘支持向量机预测算法,能够通过多模型联合预测更加有效地逼近混沌系统的映射函数,在预测精度上取得了大幅度的提升.此外,算法通过留一交叉验证法的方法能够在预测前自动优化模型参数组合,克服了现有算法无法仅利用先验信息优化预测模型参数的缺陷.对MackeyGlass和Lorenz混沌时间序列进行了仿真实验,实验结果优于相关文献记载方法的预测性能,在性能指标上好于现有算法一个数量级.     

多元混沌时间序列的多核极端学习机建模预测

多元混沌时间序列广泛存在于自然、经济、社会、工业等领域. 对多元混沌时间序列进行建模预测有助于人类更好地管理, 控制与决策. 针对多元混沌时间序列的建模预测问题, 本文提出一种基于多核极端学习机的预测方法. 首先对多元混沌时间序列进行相空间重构, 将多元混沌时间序列序列的时间相关性转化为空间相关性. 提出一种结合多核学习算法与核极端学习机模型的多核极端学习机建立相空间中输入输出数据的非线性映射. 多核极端学习机模型结合了多核学习算法的数据融合能力以及核极端学习机的训练简便优势. 基于Lorenz混沌时间序列预测和San Francisco河流月径流量预测的仿真实验表明, 与其他常见混沌时间序列预测方法相比, 本文提出的基于多核极端学习机的多元混沌时间序列预测方法具有更小的预测误差.     

基于模糊树模型的混沌时间序列预测

应用模糊树模型,对混沌时间序列进行建模和预测.该方法可以根据建模数据在空间中的分布信息,基于二叉树结构自适应划分输入空间,得到模糊子空间,在与叶节点对应的子空间上建立线性函数作为模糊规则的后件,用隶属度函数将各分片线性函数光滑连接,最后得到一个精度比较高的非线性映射.通过对Mackey-Glass、Lorenz和Henon混沌时间序列的建模和预测研究,仿真结果表明,该方法具有建模精度高、运行速度快、泛化能力强、预测步数多、适用范围广等优点. 关键词： 模糊树模型 混沌时间序列 预测     

基于小波回声状态网络的混沌时间序列预测

混沌现象普遍存在于自然界及人类社会中,因此混沌时间序列预测具有重要意义. 提出了一种新的混沌时间序列预测模型------小波回声状态网络,该模型可以有效克服传统回声状态 网络模型中普遍存在的病态矩阵问题,提高了混沌时间序列预测精度.通过对Lorenz、含噪声Lorenz 及间歇式反应釜釜温三个时间序列的预测,将小波回声状态网络与传统回声状态网络进行了比较. 结果表明,小波回声状态网络与传统回声状态网络相比,预测精度提高一倍以上且预测结果更加稳定.     

基于Cholesky分解的增量式RELM及其在时间序列预测中的应用

针对应用于混沌时间序列预测的正则极端学习机(RELM)网络结构设计问题,提出一种基于Cholesky分解的增量式RELM训练算法.该算法通过逐次增加隐层神经元的方式自动确定最佳的RELM网络结构,并以Cholesky分解方式计算其输出权值,有效减小了隐层神经元递增过程的计算代价.混沌时间序列预测实例表明,该算法可有效实现最佳RELM网络结构的自动确定,且计算效率高.利用该算法训练后的RELM预测模型具有预测精度高的优点,适用于混沌时间序列预测. 关键词： 神经网络 极端学习机 混沌时间序列 时间序列预测     

具有选择与遗忘机制的极端学习机在时间序列预测中的应用

针对训练样本贯序输入时的极端学习机 (ELM)训练问题,提出一种具有选择与遗忘机制的极端学习机 (SF-ELM),并研究了其在混沌时间序列预测中的应用. SF-ELM以逐次增加新训练样本的方式实现在线训练,通过引入遗忘因子以减弱旧训练样本的影响,同时以泛化能力为判断依据,对其输出权值进行选择性递推更新. 混沌时间序列在线预测实例表明,SF-ELM是一种有效的ELM在线训练模式. 相比于在线贯序极端学习机,SF-ELM具有更快的在线训练速度和更高的在线预测精度,因此更适于混沌时间序列在线预测. 关键词： 混沌时间序列 时间序列预测 神经网络 极端学习机     

基于极端学习机的多变量混沌时间序列预测

针对多变量混沌时间序列预测问题, 提出了一种基于输入变量选择和极端学习机的预测模型. 其基本思想是 对多变量混沌时间序列进行相空间重构后, 采用互信息方法选择与预测输出统计相关最高的重构输入变量, 借助极端学习机的通用逼近能力建立多变量混沌时间序列的预测模型. 为进一步提高预测精度, 采用模型选择算法选择具有最小期望风险的极端学习机预测模型. 基于Lorenz, Rössler多变量混沌时间序列及Rössler超混沌时间序列的仿 真结果证明所提方法的有效性.     

混沌时间序列的模糊神经网络预测

设计一种新型混合模糊神经推理系统，该系统仅从期望输入输出数据集即可达到获取知识、确定模糊初始规则基的目的.再利用神经网络学习能力便不难修改规则库中的模糊规则以及隶属函数和网络权值等参数，这样大大减少了规则匹配过程，加快了推理速度，从而极大程度地提高了系统的自适应能力.用它对Mackey-Glass混沌时间序列进行预测试验,结果表明利用该网络模型无论离线还是在线学习均能对Mackey-Glass混沌时间序列进行准确的预测，证明了该系统的有效性. 关键词： 神经网络模型 模糊逻辑 混合推理系统 混沌时间序列     

Multimodality Prediction of Chaotic Time Series with Sparse Hard-Cut EM Learning of the Gaussian Process Mixture Model

The contribution of this work is twofold:(1) a multimodality prediction method of chaotic time series with the Gaussian process mixture(GPM) model is proposed, which employs a divide and conquer strategy. It automatically divides the chaotic time series into multiple modalities with different extrinsic patterns and intrinsic characteristics, and thus can more precisely fit the chaotic time series.(2) An effective sparse hard-cut expectation maximization(SHC-EM) learning algorithm for the GPM model is proposed to improve the prediction performance. SHC-EM replaces a large learning sample set with fewer pseudo inputs, accelerating model learning based on these pseudo inputs. Experiments on Lorenz and Chua time series demonstrate that the proposed method yields not only accurate multimodality prediction, but also the prediction confidence interval. SHC-EM outperforms the traditional variational learning in terms of both prediction accuracy and speed. In addition,SHC-EM is more robust and insusceptible to noise than variational learning.     

一种预测混沌时间序列的模糊神经网络方法

给出了一种预测混沌时间序列的模糊神经网络及其学习方法，给出的方法能直接从数据中提取模糊规则，经过优化得到最佳模糊规则库，并利用神经网络的自学习功能修改隶属函数的参数和网络的权值，减少了规则的匹配过程，加快了推理速度，增强了网络的自适应能力. 使用该神经网络及其学习方法对Lorenz混沌时间序列进行了预测仿真研究，试验结果表明给出的预测工具和方法是有效的. 关键词： 模糊神经网络 模糊规则提取 混沌时间序列预测     

时空混沌序列的局域支持向量机预测

结合局域预测法计算速度快的优点和支持向量机的泛化性能好、全局最优、稀疏解等特性，用局域支持向量机预测研究了时空混沌序列的局域预测性能，并用局域支持向量机预测模型讨论了嵌入维数、邻近个数选择以及时空混沌的耦合方式和格子间的耦合强度变化对时空混沌局域预测性能的影响.研究结果表明：局域支持向量机不仅比全局支持向量机、局域零阶预测、局域线性预测等方法具有更好的预测性能，且具有对嵌入维数和邻近个数不敏感的优点；时空混沌的耦合方式和格子间的耦合强度对时空混沌序列的预测性能有明显影响.     

基于多重核学习支持向量回归的混沌时间序列预测

鉴于标准支持向量回归应用于混沌时间序列预测时经常会遇到诸如核函数及其参数难以确定的问题,提出了多重核支持向量回归的方法.通过在混合核空间求解二次约束下的二次规划问题,实现多重核支持向量回归算法.该算法不仅可以减少支持向量的个数,而且能够提高预测性能.最后将该方法运用到Lorenz, Henon和Mackey-Glass混沌时间序列预测,仿真结果表明该方法能够有效地提高预测精度,增强预测模型的泛化性能. 关键词： 混沌时间序列 支持向量机 多重核学习 优化