基于神经网络的时变非线性系统迭代学习辨识

时变神经网络结构可简单地取为常规神经网络连接形式,但连接权却是时变的.如何确定时变权是应用时变神经网络时的难题.迭代学习方法是一种合理的选择,它不同于将时变连接权展成Taylor级数,通过训练多项式系数的处理方法.而且,后者的处理方式不可避免地存在截断误差.对于有限区间连续时变非线性系统的神经网络建模与辨识,借助于重复运行过程,以迭代学习算法调整权值,进行网络训练.不计逼近误差,提出的学习算法能够使得辨识误差在整个区间上渐近收敛于零.为处理非零但有界的逼近误差,采用带死区的迭代学习算法.逼近误差界值已知时,文中证明带死区修正的迭代学习算法使得辨识误差在整个区间上渐近收敛于由死区界定的邻域内.对于逼近误差界值未知的情形也进行了讨论.     

微生物发酵非线性系统辨识、控制及 并行优化研究

主要研究微生物发酵过程中不同工况下的非线性、非光滑且无法求得解析解的动力系统及其主要性质,建立了具有数百个不同动力系统为主要约束、有连续与离散两种辨识参量、依据实验数据与生物系统鲁棒性为性能指标的辨识模型,阐述了此类辨识模型与最优控制模型的建立方法、数值模拟方法及并行优化计算方法,并介绍了笔者的著作《非线性发酵动力系统——辨识、控制与并行优化》的基本内容。     

二型模糊小波脑情感学习网络在非线性系统辨识中的研究

针对现有模糊神经网络在辨识具有时变的非线性系统存在辨识精度不高,收敛速度较慢等缺点,提出了一种二型小波模糊脑情感学习网络(T2FWBELN)模型,它结合了模糊逻辑和脑情感学习网络的优点,并在网络结构中使用了小波函数。与其他算法相比,该算法在非线性系统辨识中有着更高的逼近能力。同时,采用模糊C均值算法生成模糊规则,并使用梯度下降法对T2FWBELN的各种参数进行在线调整,降低了参数调整时间。为了进一步验证该模型的有效性和优越性,仿真了两个不确定非线性系统辨识的例子,一个是Mackey-Glass时间序列预测,一个是带有噪声的动态系统辨识。测试结果表明,所提出的模型在处理非线性系统辨识中拥有更高的精度。     

非线性极大极小系统全局优化算法的分析

非线性极大极小系统的全局优化可用于柔性制造和智能交通的决策与控制.实现了非线性极大极小系统的全局优化算法的仿真,并进行了计算时间分析.数值实验表明了全局优化算法的可行性.算法的计算时间主要由系统的优化极大射影矩阵数目决定,而优化极大射影矩阵数目与系统解析式中单极大式的系数紧密相关,系数取值越分散,简约极大射影矩阵的效果越好,计算效率越高.     

正交尺度小波网络及在非线性经济系统预测中的应用

本文提出一种用正交尺度函数代替RBF网络中的激活函数的小波网络，给出相应小波网络学习算法；并以天津市国内生产总值为样本进行宏观经济模拟预测，预测结果表明该模型预测误差低于普通BP网络。     

非线性动力系统多阶段辨识模型、算法及应用

本文针对一类发酵过程中的发育期、生长期及稳定期的不同特性，提出一种非线性多阶段动力系统及其辨识模型。论述了该模型是一种特殊的多阶段最优控制问题。根据子控制问题性能指标下水平集的局部一致有界性及下半连续性，证明了子控制问题可控性及最优解集为非空紧集。依此性质构造优化算法，研制相应的数学软件，并应用于间歇发酵过程中的参数辨识。其数值结果表明：该多阶段模型比已有模型更能逼近实际过程，提高了模型的精度，使模型更为有效。     

一种快速且全局收敛的BP神经网络学习算法

目前误差反向传播(BP)算法在训练多层神经网络方面有很多成功的应用.然而,BP算法也有一些不足:收敛缓慢和易陷入局部极小点等.提出一种快速且全局收敛的BP神经网络学习算法,并且对该优化算法的全局收敛性进行分析和详细证明.实证结果表明提出的算法比标准的BP算法效率更高且更精确.     

一个各向异性插值定理及其在二阶问题混合元中的应用

At first this paper presents an interpolate theorem with anisotropic property, which can be applied to estimate the interpolate error based on different directions. Then a discrete mixed form for the second order elliptic problem is constructed.The gradient vector is approximated by non-full piesewise double quadratic polynomials, the function u by piecewise constants only. The advantage is that this scheme is still convergent without regularity assumption of subdivision to domain Ω.     

非线性约束优化问题的一个新的全局收敛算法

对于非线性约束的优化问题.最近给出的各种SQP算法均采用罚函数技巧以保证算法的全局收敛性,因而都必须小心地调整惩罚参数。本文给出一个不依赖于惩罚参数、每步迭代的校正矩阵也不需正定且仍具有全局收敛性的SQP方法,而且罚函数形式简单、具有和约束函数同阶的光滑性.     

约束非线性规划的神经网络算法

神经网络具有内在大规模并行运算和快速收敛特性,它在最优化技术上的运用近年来受到广泛的重视。本提出一个新的求解一般约束非线性规划的神经网络模型,它具有全局收敛性和广泛的适用性,是求解一般非线性规划问题的新工具。理论分析和模拟计算均表明了模型的有效性。     

二阶非线性摄动微分方程解的振动性与渐近性

研究了一类二阶非线性摄动微分方程解的振动性与渐近性,建立了四个新的振动性与渐近性定理,推广和改进了已知的一些结果.     

A Unified Approach to Second Order Optimality Criteria in Nonlinear Design of Experiments

In the nonlinear regression model we consider the optimal design problem with a second order design D-criterion. Our purpose is to present a general approach to this problem, which includes the asymptotic second order bias and variance criterion of the least squares estimator and criteria using the volume of confidence regions based on different statistics. Under assumptions of regularity for these statistics a second order approximation of the volume of these regions is derived which is proposed as a quadratic optimality criterion. These criteria include volumes of confidence regions based on the u _n - representable statistics. An important difference between the criteria presented in this paper and the second order criteria commonly employed in the recent literature is that the former criteria are independent of the vector of residuals. Moreover, a refined version of the commonly applied criteria is obtained, which also includes effects of nonlinearity caused by third derivatives of the response function.     

基于动态BP神经网络的非线性预测及在港口货物吞吐量中的应用

文章给出了非线性预测的一般理论方法，运用动态ＢＰ神经网络对实际问题的历史数据进行学习，然后根据学习后获得的非线性机理来进行预测。并将此方法应用于港口货物吞吐量及出口量预报。仿真表明此方法是有效的。     

基于可变航速的支线集装箱船舶调度优化模型与算法

随着航运市场的竞争不断加剧和集装箱船舶大型化的发展,越来越多的航运企业选择轴-辐式航运网络模式。支线船舶调度问题作为轴-辐式航运网络的重要组成部分受到研究者的高度关注。本文研究了可变航速和经济航速两种情境下的支线船舶调度问题,同时考虑枢纽港和喂给港的取送箱时间窗限制,以航运企业运营成本最小化为目标函数建立非线性混合整数规划模型。首先使用专业的规划求解器进行小规模算例的求解,验证了模型的准确性。同时运用改进的遗传算法对大规模支线船舶优化调度模型进行求解。为了提高求解效果,进一步设计了多智能体进化算法进行求解。数值结果表明,可变航速的运营成本低于经济航速的运营成本;在算法效率方面,改进遗传算法收敛速度较快,多智能体进化算法则可以提高求解精度。     

集值优化问题严格有效解的一、二阶最优性条件

首先定义了集值优化问题的m阶局部严格有效解并在赋范空间中研究了解的一些性质.在一定条件下,利用Dini导算子和支撑函数确立了m≥1阶严格有效解存在的充分必要条件.     

$L^p(K)$中RBF神经网络的系统识别问题

L^p approximation problems in system identification with RBF neural networks are investigated. It is proved that by superpositions of some functions of one variable in L^ploc（R）, one can approximate continuous functionals defined on a compact subset of L^P（K） and continuous operators from a compact subset of L^p1 （K1） to a compact subset of L^p2 （K2）. These results show that if its activation function is in L^ploc（R） and is not an even polynomial, then this RBF neural networks can approximate the above systems with any accuracy.     

A Rapidly Convergence Algorithm for Linear Search and its Application

The essence of the linear search is one-dimension nonlinear minimization problem, which is an important part of the multi-nonlinear optimization, it will be spend the most of operation count for solving optimization problem. To improve the efficiency, we set about from quadratic interpolation, combine the advantage of the quadratic convergence rate of Newton's method and adopt the idea of Anderson-Bjorck extrapolation, then we present a rapidly convergence algorithm and give its corresponding convergence conclusions. Finally we did the numerical experiments with the some well-known test functions for optimization and the application test of the ANN learning examples. The experiment results showed the validity of the algorithm.     

混沌粒子群神经网络在上证指数预测中的应用

上证指数预测是一个非常复杂的非线性问题,为了提高对上证指数预测的准确性,本文采用基于混沌粒子群(CPSO)算法对BP神经网络算法改进的方法来进行预测.BP神经网络算法目前已经应用到预测、聚类、分类等许多领域,取得了不少的成果.但自身也有明显的缺点,比如易陷入局部极小值、收敛速度慢等.用混沌粒子群算法改进BP神经网络算法的基本思想是用混沌粒子群算法优化BP神经网络算法的权值和阈值,在粒子群算法中加入混沌元素,提高粒子群算法的全局搜索能力.对上证指数预测的结果表明改进后的预测方法,具有更好的准确性.