联想记忆系统的学习算法设计(I)

基于牛顿向前插公式设计了一种新的联想记忆系（ＮＦＩ－ＡＭＳ）的学习算法,用以实现任意阶的多变量多项式函数的无误差逼近。该系统与传统类型的ＣＭＡＣ－ＡＭＳ相比,具有学习精度高和记忆空间小的特点;且比多层的ＢＰ网络具有学习算法简单和收敛速度快的特点。数值模拟表明,这种ＮＦＩ－ＡＭＳ在信号处理,模式识别,及高精度的实时智能控制等领域具有很大的应用潜力。     

一种新的联想记忆系统的学习收敛性(Ⅱ)

基于牛顿向前插公式的新的高阶联想记忆系统 (NFI AMS) ,可以用来实现任意阶多变量多项式函数的无误差逼近 ,证明了对于任意多变量连续函数均可通过一组与子区域个数相同的学习数据 ,NFI AMS的学习总是以任意精度收敛的。     

联想记忆神经网络的学习算法设计

提出了联想记忆神经网的学习算法，并给出了算法的收敛性定理。     

基于竞争的联想存储器学习算法

提出两种基于竞争的神经网络联想存储器学习算法－ＣＣ算法和ＡＣＣ算法,并证明算法得到的神经网络对任一输入模式的竞争收敛性,由ＣＣ算法得到的网络,利用ｐ＋ｎ个神经元存储ｐ个ｎ维样本模式;每个样本点都是吸引中心,不存在假吸引中心;对任一输入模式,总被吸引到与之海明距离最小的样本点上;不产生拒识点。     

基于牛顿前向插值公式的联想记忆系统

基于牛顿前向插值公式提出一种对任意阶多维函数可实现无差逼近的新型CMAC联想记忆系统,详细讨论了该系统的原理、插值算法及训练规则,仿真实例表明了系统的可行性与有效性.该系统在信号处理、模式识别及高精度实时智能控制等领域具有广泛的应用价值.     

基于记忆图样权重的联想记忆神经网络学习算法

提出了记忆图样对神经突触联接强度的贡献权重概念。通过使原图样成为稳定态即稳定条件得到的方案求解该权重,得到了突触联结强度矩阵,实现了神经网络相关模式的联想记忆。将此算法和其它联想记忆算法进行了比较和讨论,并用计算机进行了模拟。     

基于竞争的联想存储器学习算法

提出两种基于竞争的神经网络联想存储器学习算法—CC算法和ACC算法 ,并证明算法得到的神经网络对任一输入模式的竞争收敛性 ,由CC算法得到的网络 ,利用 p n个神经元存储p个n维样本模式 ;每个样本点都是吸引中心 ,不存在假吸引中心 ;对任一输入模式 ,总被吸引到与之海明距离最小的样本点上 ;不产生拒识点 .ACC算法是CC算法的改进形式 ,所得网络可在自适应学习中收敛 ,竞争次数较CC算法大大降低 本文算法得到的网络在存储容量、容错能力方面好于Hopfield联想存储器及作为联想存储器使用的BP网络 .     

数学神经网络（Ⅱ）：神经网络的学习算法

重点研究神经网络的学习算法，给出了单人单出，多入单出，单入多出及多入多出网络学习算法的通用公式，指出了目前人工神经网络研究的方法没有跑出计算数学的圈子，人工神经网络所具有的“优点”并没有真正的实现。     

一类学习联想神经网络的动态特性研究

本文讨论了一类联想神经网络在学习新的模式过程中，结构变化引起网络平衡点状态变化的动态特性；分析了联想过程中输入激励在噪声干扰情况下网络的抗噪性能，得到一些对于研究联想神经网络学习性质有用的结论。     

模糊联想存储器及自适应学习算法在地震预报中的应用

介绍了模糊联想存储器ＦＡＭ的基本结构、ＦＡＭ的自适应学习算法以及ＦＡＭ推理机的原理，并成功地将其用于地震预报专家系统中。其成果表现为：在知识获取方面，用积空间聚类的方法，自适应地产生地震预报规则；在推理方面，用ＦＡＭ推理机实现了对结构性语言经验的综合推理。     

一种新的CMAC-AMS学习算法

为了提高CMAC(cerebellar model articulation controller)神经网络实时在线学习的快速性和准确性,在基于信度分配的CA-CMAC-AMS学习算法的基础上,结合牛顿向前插公式,提出了一种新的CMAC-AMS学习算法(CA-NCMAC-AMS)。数值模拟表明,这种CA-NCMAC-AMS的学习算法不但有较快的学习速度和训练精度及建模能力,而且在信号处理、模式识别及高精度的实时智能控制等领域具有很大的应用潜力。     

基于自联想记忆算法的图像缩放研究

针对图像缩放中的问题,提出基于自联想记忆算法。首先确定自联想记忆最小上界和最大下界,自联想记忆每个层之间的神经元通过最近域互连接方式连接信息交替,能够在神经系统缺损信息时通过自联想记忆恢复出原来存储的完整记忆模式;接着所有神经元节点采用同步方式调整状态,利用均场定理加快自联想记忆神经网络学习速度;最后给出了图像缩放算法过程。实验仿真显示算法输出图像能够较好地保持原图像内容,峰值信噪比(PSNR)比较大。     

神经网络学习算法中的奇点及振荡算法

以前向神经网络为基础，基于梯度下降规则，推导了ＯＩＮＮ的学习算法，说明由梯度下降规则推导出的学习算法中存在奇点。奇点经常导致学习陷入“伪局部极小”，大大影响了学习进程，奇点产生的原因是对节点特性函数的求导，对节点特性函数的修改可使算法避免奇点，提出了一种振荡算法可有效地克服局部极小。     

一种混合模糊联想记忆网络

本文改进了Ｋｏｓｋｏ．Ｂ提出的最大最小联想记忆网络的模糊Ｈｅｂｂ关系编码规则,给出了一种新的学习算法,新算法克服了Ｋｏｓｋｏ．Ｂ算法的缺陷,在一定条件下,本文的学习算法能将模式对完整地联想出来．另外,本文在分析网络的容错性及稳定性的基础上,提出了一种五层混合模糊联想记忆网络,五层混合网络具有良好的联想容错能力．实验结果表明,本文的学习算法及混合网络是有效的．     

一种新型的前馈多层神经网络学习算法

利用矩阵Ｍｏｏｒｅ－Ｐｅｎｒｏｓｅ逆的方法,提出了一种新型的前馈多层神经网络学习算法－ＭＢＰ算法。该算法采用了群体搜索的策略,打破了ＢＰ算法一次一点的搜索方式,一次可搜索权空间中的一个超平面,仿真结果表明,该算法在提高收敛速度和避免陷入局部极小点方面都有一定的进展。     

激励函数可调的前馈神经网络在线学习算法

针对标准ＢＰ算法的不足,提出了一种激励函数可调的前馈神经网络在线学习算法。该方法去除了样本的预处理过程,以在线方式训练前馈神经网络,同时修正网络的权重,阈值与激励函数。,上于避免了神经元的输出饱和现象,算法的收敛速度明显提高,并在一定程度上防止了局部极小解的出现。仿真结果证明了这种算法的有效性。     

前馈神经网络的逐层优化学习算法

提出了求解前馈神经网络的逐层优化学习算法，首先对输出层权值进行优化，然后再对隐层权值进行优化，如此交替迭代直至求出最优解。在分层优化过程中，对节点激池数进行了线性，同时为防止由于线性化造成较大的误差，在目标函数中加入惩罚项。     

前馈神经网络的二阶学习算法

前馈神经网络是神经网络中应用最广的一种。但由于神经网络采用Ｂ－Ｐ算法，收敛速度慢。在分析了神经网络算法原理的基础上，提出了一种基于变质量法的优化训练算法。仿真证明，这种算法能够大大提高神经网络的收敛速度。     

0模糊联想存储器及自适应学习算法在地震预报中的应用

介绍了模糊联想存储器ＦＡＭ（ＦｕｚｚｙＡｓｓｏｃｉａｔｉｖｅＭｅｍｏｒｙ）的基本结构、ＦＡＭ的自适应学习算法以及ＦＡＭ推理机的原理，并成功地将其用于地震预报专家系统中．其成果表现为：在知识获取方面，用积空间聚类的方法，自适应地产生地震预报规则；在推理方面，用ＦＡＭ推理机实现了对结构性语言经验的综合推理．     

2种改进的神经网络结构学习算法

针对已提出的灵敏度计算和自构形２种神经网络结构学习算法，提出２种改进的算法，实验证明改进的算法比原算法有更好的泛化能力。