基于忆阻器的脉冲神经网络硬件加速器架构设计

脉冲神经网络(spiking neural network, SNN)作为第三代神经网络,其计算效率更高、资源开销更少,且仿生能力更强,展示出了对于语音、图像处理的优秀潜能.传统的脉冲神经网络硬件加速器通常使用加法器模拟神经元对突触权重的累加.这种设计对于硬件资源消耗较大、神经元/突触集成度不高、加速效果一般.因此,本工作开展了对拥有更高集成度、更高计算效率的脉冲神经网络推理加速器的研究.阻变式存储器(resistive random access memory, RRAM)又称忆阻器(memristor),作为一种新兴的存储技术,其阻值随电压变化而变化,可用于构建crossbar架构模拟矩阵运算,已经在被广泛应用于存算一体(processing in memory, PIM)、神经网络计算等领域.因此,本次工作基于忆阻器阵列,设计了权值存储矩阵,并结合外围电路模拟了LIF(leaky integrate and fire)神经元计算过程.之后,基于LIF神经元模型实现了脉冲神经网络硬件推理加速器设计.该加速器消耗了0.75k忆阻器,集成了24k神经元和192M突触.仿真结果显示,在5...     

双层结构突触仿生忆阻器的时空信息传递及稳定性

现有计算机体系架构下的神经网络难以对多任务复杂数据进行高效处理,成为制约人工智能技术发展的瓶颈之一,而人脑的并行运算方式具有高效率、低功耗和存算一体的特点,被视为打破传统冯·诺依曼计算体系最具潜力的运算体系.突触仿生器件是指从硬件层面上实现人脑神经拟态的器件,它可以模拟脑神经对信息的处理方式,即"记忆"和"信息处理"过程在同一硬件上实现,这对于构建新的运算体系具有重要的意义.近年,制备仿生突触器件的忆阻材料已获得进展,但多聚焦于神经突触功能的模拟,对于时空信息感知和传递的关键研究较为缺乏.本文通过制备一种双层结构忆阻器,实现了突触仿生器件的基本功能包括双脉冲易化和抑制、脉冲时间依赖突触可塑性(spiking time dependent plasticity, STDP)和经验式学习等,还对器件的信息感知、传递特性和稳定性进行了研究,发现该器件脉冲测试结果满足神经网络处理时空信息的基本要求,这一结果可以为忆阻器在类脑芯片中的应用提供参考.     

应用于感存算一体化系统的多模调控忆阻器

交互式人工智能系统的构建依赖于高性能人工感知系统和处理系统的开发.传统的感知处理系统传感器、存储器和处理器在空间上是分离的,感知数据信息的频繁传输和数据格式转换造成了系统的长延时与高能耗.受生物感知神经系统的启发,耦合感知、存储、计算功能的感存算一体化技术为未来感知处理领域提供了可靠的技术方案.具有感知光、压力、化学物质等能力的忆阻器是应用于感存算一体系统的理想器件.本文从器件层面综述了应用于感存算一体化系统忆阻器的研究方向和研究进展,包括视觉、触觉、嗅觉、听觉和多感官耦合类别,并在器件、工艺与集成、电路系统架构和算法方面指出现阶段的挑战与展望,为未来神经形态感存算一体化系统的发展提供可行的研究方向.     

生物构型对耦合Hindmarsh-Rose神经元系统响应能力的影响

利用Hindmarsh-Rose神经元模型研究了真实的生物细胞连接构型对耦合神经元系统响应能力的影响. 外界刺激信号通过细胞耦合从受刺激的神经元传递到其他神经元,合适的生物构型可以提高系统对刺激信号的响应能力和敏感度;同时,生物构型还会影响神经元系统的同步能力以及选择效应. 模拟的结果可以帮助我们理解面对不同外界刺激,生物体会协调自身结构,选择最佳的构型予以响应.     

具有感存算一体化的新型神经形态视觉传感器

传统的数字图像处理系统包括图像传感器与图像处理单元,二者在物理空间上分离,图像信息在其间的传输造成了延时与能耗。此外,数字图像传感器基于"帧"的工作原理,可能丢失一些重要信息,或者造成数据冗余。人类视觉系统提供了一种高效并行的信息处理方式。神经形态视觉传感器能够模拟人类视网膜的功能,同时具备感知光信号、存储信号和进行信息预处理的功能。这类感存算一体化的神经形态视觉传感器简化了人工视觉系统的电路复杂性,提升了信息处理效率,节省了系统功耗。文章总结了传统的数字图像传感器存在的问题,介绍了几种重要的人工神经网络,讨论了新型神经形态视觉传感器的研究进展和存在的问题。     

数字式声呐中的升采样率处理

升采样率处理是某些数字式声呐的必不可少的预处理.本文给出整倍数升采样率运算的基本原理和理论结果。指出,升采样率处理的好坏不仅取决于窗函数的长度,也还和输入信号的功率谱密度有关.为实现升采样率处理,可以采用几种不同方法,文中指出用输入样本补零和窗函数卷积的方法是有效的.在数字计算机上的模拟取得了良好的结果.这种方法便于用专用数字信号处理芯片实现,并且对输入、输出采样率的选取上有很宽容的余地.     

变权小世界生物神经网络的兴奋及优化特性

根据实际生物神经网络具有小世界连接和神经元之间的连接强度随时间变化的特点,首先构造了一个以Hodgkin-Huxley方程为节点动力学模型的动态变权小世界生物神经网络模型,然后研究了该模型神经元的兴奋特性、权值变化特点和不同的学习系数对神经元的兴奋统计特性的影响.最有意义的结果是,在同样的网络结构、网络参数及外部刺激信号的条件下,学习系数b存在一个最优值b^*,使生物神经网络的兴奋度在b=b^*时达到最大. 关键词： 动态变权生物神经网络 小世界网络 Hodgkin-Huxley方程     

海豚等动物神经系统处理多普勒信号的一种可能性方案

海豚、蝙蝠等动物具有功能强大的生物声纳，生物神经系统处理多普勒效应的网络结构可能会有多种形式.对这类生物的神经系统信号处理机制及结构的研究，将能为信息处理提供新的视角.根据序空间神经编码理论，构建了一个生物神经回路处理多普勒信号.经计算机仿真可知，该生物神经网络运算速度快、分辨率高，并能处理任意的连续变频率多普勒信号.所研究的仅由1—2个神经元组成的网络结构是最简单的，由于网络只有一级神经元的延时，保证了处理的快速性，在神经元输出10个脉冲的情况下分辨率可达7^-10. 关键词： 多普勒效应 海豚 神经编码 神经脉冲序列     

神经形态阻变器件在图像处理中的应用

随着搭载于边缘终端上的图像与视频等数据密集型应用的日益增长,基于传统冯·诺依曼架构的互补金属氧化物半导体(complementary metal oxide semiconductor, CMOS)硬件系统正面临着能耗、速度和尺寸等多方面的挑战.神经形态器件包括具有存算一体特性的电学阻变器件和具有感存算一体特性的光电阻变器件,因其具有与生物神经系统的高相似度,及其高能效、高集成度、宽带宽等优势,在图像处理应用方面展现出巨大发展潜力.这类器件不仅能够用于加速传统图像低阶预处理和高阶处理中的大量运算,且能用于实现仿生物视觉系统的高效图像处理算法.本文介绍了最近的电学及光电神经形态阻变器件,并结合图像处理算法综述了神经形态阻变器件在图像处理方面的硬件实施和挑战,并对其发展前景提出了思考.     

基于马赫曾德调制器产生24GHz波段超宽带信号毫米波（英文）

采用双驱动马赫曾德调制技术生成24GHz波段的超宽带毫米波信号,建立了基于双驱动马赫曾德调制器的超宽带毫米波信号理论模型,并利用理论模型进行实际运算模拟产生了带宽达5.8GHz的超宽带毫米波信号.研究了毫米波信号的信号质量和带宽.结果表明:通过适当调节毫米波信号发生器的控制信号强度,可以有效抑制产生的毫米波信号中残余振荡和低频成分;控制输入信号的脉冲宽度可实现对生成毫米波信号带宽的灵活调节.该超宽带毫米波信号发生器可用于汽车短程雷达、入侵检测传感器和移动无线电通信等领域.     

铝基薄膜忆阻器作为感觉神经系统的习惯化特性

感觉神经系统可在外界刺激与生物体反应之间建立联系.感觉神经系统中的最小单位神经元可直接将外界刺激传递至中枢神经,再由中枢神经通过控制和调节生物体对外界刺激作出反应.神经突触连接了相邻神经元进行脉冲信息传递功能.习惯化是神经突触在信息传递中过滤外界无关信息时的一个基本特性,可以让感觉神经系统更快速地适应外界环境变化.忆阻器模拟神经突触功能在近年获得进展,然而针对以忆阻器为基础的具有习惯化特性的神经突触以及完整神经系统的研究相对匮乏.本文利用磁控溅射技术制备了厚度约为40 nm且含铝纳米颗粒的氮化铝薄膜忆阻器,并发现这种结构忆阻器对于重复的外界刺激有明显的习惯化行为,该行为与感觉神经系统的习惯化特性极为相似.若将这种具有习惯化的神经突触与感觉神经元串联,可形成LIF(leaky integrate-and-fire)生物模型模拟完整的神经系统行为,也为忆阻器在第三代神经网络(脉冲神经网络)中的应用提供理论参考.     

双耳幅值差确定声源方向的神经信息处理机理研究

神经信息系统实质上是定量系统, 应引起足够重视. 关于神经系统的定量研究方面的报道比较少见. 这一问题将会影响进一步的研究, 如双耳声音定向. 双耳定向是定量测量, 用定性分析的方法无法满足要求. 已有的生理实验发现声音输入信号强度与听觉神经的输出频率存在单调递增关系, 所以本文中声音强度的变化被简化成神经脉冲频率的变化. 本文基于圆映射和符号动力学原理, 建立了神经回路定量模型, 模型中对同侧输入回路采用兴奋性耦合, 对侧输入回路采用抑制性耦合, 并考虑神经元间突触连接的量子释放特征, 采用化学耦合模型实现连接, 用耦合系数表示神经元间的耦合程度. 采用Hodgkin-Huxley模型仿真研究听觉神经回路的输入/输出脉冲序列关系. 在已经仿真过的参数范围, 模型在输入信号变化与输出脉冲频率变化间存在单调递增/递减的关系. 对于单输入单输出的神经元, 采用符号动力学方法进行符号化; 对于多输入单输出的神经元, 采用分析各输出脉冲的产生时间, 判断其变化位置, 从神经脉冲序列中得到对应的两耳声音幅值差变化, 以此定位声源. 随着输出脉冲数的增加, 符号序列的长度增加, 符号序列对输入信号变化敏感, 能够得到较高的测量精度. 仿真结果表明这个模型是定量的, 神经脉冲序列能够区分信号的大小.     

基于层状多元金属氧化物的人造突触

神经形态电子学的迅速发展为生物神经系统仿生与模拟提供了有力支持.具有三明治结构的两端人造突触电子器件不仅在结构上模拟了生物突触,同时在类神经电脉冲信号的作用下可以完成对生物突触塑性的模拟与调控.本文利用溶胶-凝胶法合成了具有层状结构的P3相Na_2/3Ni_1/3Mn_2/3O₂多元金属氧化物.借助其晶体结构中Na~+易于嵌入/脱出的特性,设计并制备了基于Na_2/3Ni_1/3Mn_2/3O₂的离子迁移型人造突触,器件在电脉冲信号的刺激下实现了对生物突触塑性的模拟,并通过调校类神经尖峰脉冲信号,成功对塑性行为进行了调控.成功模拟了兴奋性突触后电流、双脉冲易化、脉冲数量依赖可塑性、脉冲频率依赖可塑性、脉冲电压幅值依赖可塑性和脉冲持续时间依赖可塑性.同时,器件实现了对摩斯电码指令的准确识别与响应.     

惯导输出模拟器设计

针对惯导组件产品测试中多种信号的输出,设计一种基于FPGA惯导组件输出模拟系统。以FPGA芯片为核心,在Quartus II软件开发平台上使用Verilog语言进行编程然后生成原理图,设计DDS(Direct Digital Synthesizer)信号发生器来输出48路脉冲信号,实现对4个惯导组件输出的48路脉冲信号模拟。在FPGA中采用Verilog硬件描述语言编写8串口发送代码生成原理图,实现对8个惯导组件输出8路串口数据的模拟。通过人机交互界面的按键和液晶对脉冲输出和串口发送的参数进行调节,实现脉冲输出和串口发送的设定。利用DDS技术设计48路脉冲较其他方法精度更高,利用FPGA的并行运算特点实现8路串口数据的并行发送。设计降低了各种测试信号连接时的复杂度,提高了测试信号的稳定度和惯导组件标定的效率。     

小世界生物神经网络的相干共振研究

研究了无外界周期信号时Hodgkin-Huxley模型小世界生物神经网络的非线性响应.数值模拟结果显示：当噪声强度取某一有限值时,峰序列有序度可以达到最大,即产生相干共振现象.同时发现： 随着网络规模N的变化,相干共振系数cv的极小值不是一个,而是多个.这表明相干共振可发生在神经元集群数目特定的不同规模的网络中. 关键词： 相干共振 有序度 小世界网络 生物神经网络     

光纤中双泵浦低失真受激布里渊散射快光

采用快速傅里叶变换算法,数值模拟了双泵浦宽带布里渊吸收谱的受激布里渊散射快光.模拟结果表明信号脉冲的时间提前、衰减和脉冲展宽因子容易受到两个泵浦光的相对频率分离因子、输入泵浦光的功率以及光纤长度的影响.优化设计频率分离因子、输入泵浦光的功率以及光纤长度,224ps高斯信号脉冲实现了80ps的最大提前量和0.87的最小展宽因子.研究结果可以提高光纤通信系统的数据速率,降低脉冲失真.     

霍尔传感器温度漂移补偿电路设计

霍尔传感器作为一种半导体器件,其灵敏度随着温度变化而产生漂移的特性,限制了其在高精度磁场测量场合的应用。传统的温度补偿方法虽然对温度变化的一次项进行了完全补偿,但是却引入了温度变化二次项的误差。因此,对于温度变化显著的高精度测量场合,传统温度补偿法将不再适用。设计了一种闭环反馈电路,通过温度传感器采集温度信号,与信号处理电路的最终输出信号进行运算后送回信号处理电路的输入端进行补偿,而并不是简单地将温度信号与霍尔信号的输入信号进行相加后送入信号处理电路。仿真分析结果表明,通过调节补偿电路的反馈比例系数与霍尔芯片温度漂移系数,可以完全补偿霍尔芯片的灵敏度漂移。因此,这种闭环补偿方法可以不引入与温度变化二次项有关的误差,消除因温度变化产生的漂移,不仅适用于霍尔传感器,也适用于其他会随着温度漂移的传感器。     

一种遥测系统中信号源的设计

在遥测系统中,信号源能否完全模拟测试系统所需信号是保证整个系统高可靠性的核心;设计以FPGA为控制芯片,通过PCI总线实现与上位机的通信,结合硬件和软件的综合设计完成了模拟信号、时间指令信号及可变频脉冲信号的稳定输出。经长期实验表明:模拟信号输出稳定,输出误差±30 mV,脉冲信号可按照要求准确输出不同频率、固定个数的脉冲,且系统数据传输速率可达到40 Mbps。     

基于非挥发存储器的存内计算技术

通过在基本单元上集成存储和计算功能,存内计算技术能够显著降低数据搬运规模,被广泛认为是突破传统冯·诺依曼计算架构性能瓶颈的新型计算范式.非挥发存储器件兼具非易失特性和存算融合功能,是实现存内计算的良好功能器件.本文首先介绍了存内计算范式的基本概念,包括技术背景和技术特征.然后综述了用于实现存内计算的非挥发存储器件及其性能特征,包含传统闪存器件和新型阻变存储器;进一步介绍了基于非挥发存储器件的存内计算实现方法,包括存内模拟运算和存内数字运算.之后综述了非挥发存内计算系统在深度学习硬件加速、类脑计算等领域的潜在应用.最后,对非挥发型存内计算技术的未来发展趋势进行了总结和展望.     

基于忆容器件的神经形态计算研究进展

人工智能的快速发展需要人工智能专用硬件的快速发展,受人脑存算一体、并行处理启发而构建的包含突触与神经元的神经形态计算架构,可以有效地降低人工智能中计算工作的能耗.记忆元件在神经形态计算的硬件实现中展现出巨大的应用价值;相比传统器件,用忆阻器构建突触、神经元能极大地降低计算能耗,然而在基于忆阻器构建的神经网络中,更新、读取等操作存在由忆阻电压电流造成的系统性能量损失.忆容器作为忆阻器衍生器件,被认为是实现低耗能神经网络的潜在器件,引起国内外研究者关注.本文综述了实物/仿真忆容器件及其在神经形态计算中的最新进展,主要包括目:前实物/仿真忆容器原理与特性,代表性的忆容突触、神经元及神经形态计算架构,并通过总结近年来忆容器研究所取得的成果,对当前该领域面临的挑战及未来忆容神经网络发展的重点进行总结与展望.