光通信研究, 2023 (1): 17, 网络出版: 2023-02-15  

光子脉冲神经网络研究历程与展望

Research History and Prospect of Photonic Spiking Neural Networks
作者单位
中国信息通信科技集团有限公司 光纤通信技术和网络国家重点实验室,武汉 430074
摘要
人工神经网络(ANN)学科的发展推动了信息处理技术的进步,目前,被称为第3代ANN的脉冲神经网络(SNN)以其更具生物可解释性,更适合ANN硬件实现的优势受到业界的广泛关注,并已成功应用于模式识别、医学成像和智能控制等多个领域。受制于“后摩尔时代”电子芯片的制程不断接近极限以及冯·诺依曼体系“存算分离”带来的性能瓶颈,低时延、低能耗、高带宽和高并行性的光子计算方案应用于SNN的硬件实现成为信息处理领域多学科融合的热门课题。文章介绍了光子SNN的起源,利用光学器件的特性实现神经元的行为和突触连接强度的变化进而实现SNN的研究历程和多种实现方案,总结了光子SNN目前存在的瓶颈和挑战,展望了光子SNN的未来发展趋势。
Abstract
The development of Artificial Neural Network (ANN) discipline promotes the progress of information processing technology. At present, the Spiking Neural Network (SNN) known as the third generation ANN is widely attracted more attention in the industry because of its advantages of behaving more biologically interpretable and more suitable for the implementation of ANN hardware, and it has been successfully applied to pattern recognition, medical imaging, intelligent control and other fields. Constrained by the fact that electronic chip manufacturing process is constantly approaching the limit in the " Post-Moore Era" and the performance bottleneck brought by the " separation of storage and computing" in the von Neumann system, photonic computing solutions with low latency, low energy consumption, high bandwidth, and high parallelism applicated to the hardware implementation of SNN has become a hot topic of multi-disciplinary integration in the field of information processing. This paper introduces the origin of the photonic SNN, the research process and various implementation schemes that use the characteristics of optical devices to realize the behavior of spiking neuron and synaptic connection strength thus realizing the SNN, and summarizes the current bottlenecks and challenges of the photonic SNN. And the future development trend of photonic SNN is also prospected.

0 引言

人工神经网络(Artificial Neural Networks,ANN)是一种运算模型,用以对生物神经系统结构和功能进行抽象和模拟,在信息处理和模式识别等领域发挥着重要作用[1]。现代神经科学的实验表明,许多生物神经系统都采用神经元发放脉冲的时间来编码信息[2-3],脉冲信号在神经系统中的运动是大脑进行思维的基础[4]。因此,根据现代神经科学的最新研究成果,更具生物可解释性的第3代ANN——脉冲神经网络(Spiking Neural Networks,SNN)应运而生。SNN具有计算量小、对噪声鲁棒性强的优势,其应用已涉及信息处理的各个领域并取得了较大进展。SNN适合于硬件实现,近十年来随着光学器件技术和工艺的进步,结合光学优势克服电学瓶颈的光子SNN正逐步取得发展。

本文介绍了脉冲神经元的建模机制,SNN的学习机制和软硬件实现,重点介绍了光子SNN基于不同光学器件的实现方案,进而对光子SNN的发展进行总结与展望。

1 SNN

生物神经元具有对内外刺激做出响应的能力,而脉冲神经元模仿生物神经元的工作模式,图1所示为脉冲神经元模型。图1(a)展示了一个生物神经元通过大量的树突接收其他神经元的轴突发放的各不相同的动作电位,即脉冲序列,并对它们进行整合从而使得轴突发放一定时间间隔的输出脉冲序列,该输出脉冲序列又成为与之连接的下一个神经元的输入脉冲序列。真实的生物神经元形态和动力学特征十分复杂,对其进行高维建模则很难进行数学分析,不利于大规模SNN的组网和研究,因此,研究者对脉冲神经元建立了状态变量微分方程模型并对其进行简化从而提出多种影响较大的脉冲神经元模型[5-16]图1(b)所示的泄露积分发放(Leaky Intergrate-and-Fire,LIF)神经元模型是目前普遍公认的在生物真实性和实现简化性方面取得最佳平衡效果的神经元模型[17],长期以来在包括光子SNN的神经计算领域得到了广泛的应用。

图 1. 脉冲神经元模型

Fig. 1. Spiking neuron model

下载图片 查看所有图片

脉冲神经元的连接构成了SNN,在SNN的学习机制方面,通常认为具有两种学习机制:即在无标签数据的情况下进行无监督训练和在标签数据的情况下进行监督训练。在无监督学习中,脉冲时序依赖可塑性(Spike-Timing-Dependent Plasticity,STDP)算法与生物学习机制密切相关[18-20],是一种基于突触前脉冲和突触后脉冲的时序来调整神经元之间连接强度的机制[21-24]图1(c)所示当突触前脉冲先于突触后脉冲发放(tpre<tposttpre为突触前脉冲发放时刻,tpost为突触后肪冲发放时刻)时,神经元连接强度增强,反之(tpre>tpost)神经元连接强度减弱,神经元连接强度变化(Δw)的绝对值与脉冲发放时间差(Δt)成反比。在监督学习中,目前比较著名的监督学习算法有SpikeProp[25]、Tempotron[26]、ReSuMe[27]、突触权重关联训练(Synaptic Weight Association Training,SWAT) [28]、Chronotron[29]、脉冲模式关联神经元(Spike Pattern Association Neuron,SPAN) [30]和精确脉冲驱动(Precise Spike Driven, PSD) [31]算法,这些监督学习算法主要基于梯度下降、STDP机制或脉冲序列卷积[32]

在基于软件实现SNN方面,北京大学信息科学技术学院数字媒体所媒体学习组和鹏城实验室联合开发了SpikingJelly框架,该框架基于PyTorch并采用SNN进行深度学习,已应用于物体检测任务并实现了较好的效果[33]。此外,Eshraghian团队[34]开发的SNN深度学习框架snnTorch亦被深度学习界广泛使用。但使用上述框架在图形处理器(Graphics Processing Unit,GPU)等通用硬件上对数据集进行训练时,数据集的“0-1”脉冲序列编码被GPU等通用硬件当作普通实值进行矩阵运算,从而无法体现SNN的优势。

在基于硬件实现SNN方面,具有代表性的成果包括:英国曼彻斯特大学的SpiNNaker[35]、德国海伦堡大学的HiCANN[36]、美国斯坦福大学的Neurogrid[37]、IBM公司的True-North[38]、Intel公司的Loihi[39]、我国浙江大学的Darwin[40]以及清华大学的Tianjic[41],以上神经形态的硬件实现摒弃冯·诺依曼架构而采用存算一体的方式并结合SNN设计,实现学习、感知、推理和预测的人工智能行为。然而,受限于电子瓶颈以及摩尔定律的放缓,电子类脑硬件难以进一步提高SNN的计算速度和能效[42]

2 光子SNN

相较于传统电子计算芯片面临制程接近摩尔定律极限所带来的瓶颈和约束,光具有高带宽、高速率、低延时和低功耗的优良特性,因而利用光的上述优势集成光子SNN,进而实现学习、感知、推理和预测等功能,已成为当今信息处理领域多学科融合的热门方向,国内外的多个研究团队开展了深入研究并已取得较为丰富的成果。本文以下内容将介绍多种光子SNN,按照实现器件分类,包括半导体光放大器(Semiconductor Optical Amplifier,SOA)实现方案、电吸收调制器(Electro Absorption Modulator,EAM)实现方案、激光器实现方案、微环实现方案以及其他实现方案。

2.1 SOA实现方案

2009年,美国普林斯顿大学Fok研究团队[43]首次提出了光子LIF神经元,开辟了光子SNN的研究领域。经过多次完善,2011年,该团队设计了图2所示的实验来实现基于SOA的光子LIF神经元[44],其核心思想是建立SOA载流子密度变化和LIF神经元膜电位变化之间的对应关系来实现光子LIF神经元。输入脉冲经可调光衰进行加权和可调延时线进行延时后通过50∶50耦合器耦合形成一路输入信号(图2中A处),输入信号与波长为λ1的采样脉冲同步进入SOA。由于采样脉冲的能量很小,因此它对SOA增益的影响相比输入信号可忽略不计。由于SOA内部的交叉增益调制(Cross Gain Modulation,XGM),输入信号会导致SOA的增益突然下降,SOA输出的采样脉冲(图2中B处)能量随之降低;随后SOA的增益逐渐恢复,采样脉冲的输出功率也逐渐提升。SOA输出处的带通光谱滤波器使得只有波长为λ1的采样脉冲经掺铒光纤放大器(Erbium Doped Fiber Amplifier, EDFA)放大和偏振控制器(Polarization Controller, PC)后输出至由长度为10.5 m的高掺杂GeO2(HD)非线性光纤所构成的阈值判决器1,对低于设定阈值的光信号进行过滤从而输出清晰的脉冲序列,然后由太赫兹光非对称解复用器(Teraherz Optical Asymmetric Demultiplexer, TOAD)对阈值判决器1的输出(图2中C处)进行反转,阈值判决器1的输出脉冲作为TOAD的控制信号,在该控制信号所制造的转换窗口内波长为λ2的采样脉冲作为TOAD的输出信号从而实现信号的反转。TOAD的反转作用实现了光信号的恢复,使得输出波长完全独立于输入波长。此外,由于对信号的反转会带来一定程度的信号劣化,在神经网络的传播过程中这种劣化会积累进而导致类脑计算错误,从而在TOAD的输出端对光信号进行第二次阈值处理。

图 2. 基于SOA的光子LIF神经元[44]

Fig. 2. Experimental setup of photonic LIF neuron based on SOA[44]

下载图片 查看所有图片

上述实验虽然实现了基于SOA的光子LIF神经元模型,但两个阈值判决器使得LIF神经元模型的实现过于复杂和昂贵,且没有实现对神经元的抑制性输入。针对上述问题,该团队提出了图3所示的基于SOA的对称光子神经元结构[44]。该结构包含两个SOA,SOA1接收兴奋性输入,SOA2在接收抑制性输入的同时接收SOA1的输出。基于SOA的对称光子神经元的输出可以视为单独兴奋性输入和单独抑制性输入结果的叠加,当且仅当兴奋性输入存在而抑制性输入不存在时,基于SOA的对称光子神经元才发放脉冲。

图 3. 同时接收兴奋性输入和抑制性输入的对称光子神经元结构[44]

Fig. 3. Schematic of the symmetric photonic neuron with excitatory and inhibitory inputs[44]

下载图片 查看所有图片

基于SOA的光子脉冲神经元性能受载流子生存时间和脉冲发放后恢复时间的影响,现代SOA的载流子生存时间可低至10 ps,恢复时间可低至25 ps,实验所用SOA的恢复时间从小于100 ps到近似500 ps,可输出皮秒级脉宽。

与此同时,国内也有北京大学和西安电子科技大学等高校开展了相关研究。2015年,北京大学赵建业教授团队[45]进行了基于SOA的光子STDP的实验,其实验结构框图如图4所示。锁模激光器(Mode-locked Laser,MLL)作为脉冲源,其输出光经两个带通滤波器输出波长为λ1λ2的光并分别被用作突触前脉冲和突触后脉冲,两束光之间的相对时延由一个可变光延迟线(Optical Delay Line,ODL)控制,突触前脉冲和突触后脉冲由一个90∶10的光耦合器分开,形成的强脉冲作为信号脉冲,弱脉冲作为探测脉冲,突触前探测脉冲和突触后信号脉冲进入SOA1,突触前信号脉冲和突触后探测脉冲进入SOA2,信号脉冲进入SOA之前,通过电流注入对应于载流子密度的SOA增益被保持在一个常数值,信号脉冲进入SOA之后,载流子密度由于受激发射而下降,这个持续数ps的过程被称为增益饱和。脉冲通过后,表征SOA增益的载流子密度将由来源于外部电流注入的载流子而恢复,一般恢复时间将持续几百ps,增益恢复的动态特性由探测脉冲采样,探测脉冲通过光带通滤波器从SOA的输出提取,然后通过光电探测器(PhotoDetector, PD)探测。图5所示为基于SOA的光子STDP实现机制,如果探测脉冲在信号脉冲到来之前进入SOA(图5中Ⅱ、Ⅲ所示),那么探测信号被正常放大且不被载流子损耗所影响,如果探测脉冲在信号脉冲之后的几百ps以内到达SOA(图5中Ⅰ、Ⅳ所示),那么此时探测信号的输出功率将弱于正常放大的功率,SOA1构成图5(左)的波形,SOA2构成图5(中)的波形,SOA1构成的波形和SOA2构成的波形相减之后形成图5(右)所示的STDP特征。该团队所用MLL脉冲发放频率为100 MHz,因此脉冲发放间隔为10 ns,远大于实验所用SOA的恢复时间25 ps,突触前脉冲和突触后脉冲的相对时延Δt在-400~400 ps之间可调。

图 4. 基于SOA的光子STDP实验结构框图[45]

Fig. 4. Schematic diagram of photonic STDP based on SOA[45]

下载图片 查看所有图片

图 5. 基于SOA的光子STDP实现机制[45]

Fig. 5. Implementation mechanism of photonic STDP based on SOA[45]

下载图片 查看所有图片

2021年,我国西南大学邓涛教授团队[46]提出利用垂直腔半导体光放大器(Vertical-Cavity Semiconductor Optical Amplifier, VCSOA)对上述实验进行改进,相比于传统的平面SOA,VCSOA所需的偏置电流和输入功率都更低。

2.2 EAM实现方案

2012年,美国普林斯顿大学Fok研究团队[47]提出了一种混合模/数的光子脉冲神经元,并首次利用EAM构建光子脉冲神经元,其实现原理图如图6所示,该光子脉冲神经元由一个作为积分器的EAM、一个基于四波混频(Four-WaveMixing, FWM)的异步脉冲源发生器以及一个基于高锗掺杂非线性环路镜(Ge-doped NLM)的阈值判决器组成。图6中Ⅰ处波长为1 550.12 nm的N路输入信号进行加权和延时并由图6中Ⅱ处的光耦合器进行耦合。图6中Ⅲ处所示少部分混合信号通过FWM构成脉冲光源,一个分布反馈式激光器二极管(Laser Diode, LD)发出1 547.21 nm的连续波光信号作为FWM的泵浦,当输入信号和泵浦同时存在时FWM发生,由此新产生的1 544.30 nm波长的光信号构成了脉冲光源。图6中Ⅳ所示混合信号和脉冲光源的发光进入EAM,输入信号的能量积累于EAM,EAM的输出表征脉冲源的强度。EAM的输出脉冲进入图6中Ⅴ处的阈值判决器,阈值判决器滤除低于阈值的弱脉冲,高于阈值的强脉冲则以图6中Ⅵ处的阈值输出。该团队的研究成果使得神经元的输出不再受限于脉冲源的采样速率,实现了神经元的异步响应。信号在EAM的累积基于负偏置EAM的有限交叉调制恢复时间,负偏置越大相应的恢复时间越低。该团队所用EAM负偏置最大可调至-3 V,相应恢复时间最低可为约10 ps,产生50 ps的累积窗口进而实现ps级的脉宽。

图 6. 基于EAM的异步光子脉冲神经元的实现[47]

Fig. 6. Implementation of an asynchronous spiking photonics neuron based on EAM[47]

下载图片 查看所有图片

2013年,该研究团队利用具有饱和吸收体的EAM和SOA完成了STDP的ps级实现[48],其实验结构框图及实现机制图如图7所示。图7(a)所示突触前脉冲和突触后脉冲分离,突触前脉冲绝大部分进入EAM,突触后脉冲绝大部分进入SOA。图7(b)中Ⅰ所示当突触后脉冲先于突触前脉冲发放时,突触后脉冲进入SOA导致SOA增益的迅速下降,如果突触前脉冲紧随突触后脉冲到来,那么SOA的输出功率会最低,反之,如果突触前脉冲的发放时间远在突触后脉冲发放时间之后,那么随着时间的增加SOA的增益会逐渐恢复,SOA的输出功率也会增加,此时对于EAM,图7(c)中Ⅲ所示由于EAM反向偏压的存在,在突触前强脉冲到来之前EAM无法对突触后弱脉冲进行饱和吸收,导致EAM的输出功率很低。图7(b)中Ⅱ所示当突触前脉冲先于突触后脉冲发放时,突触弱脉冲不会导致SOA增益下降,因此输出功率保持不变,对于EAM,图7(c)中Ⅳ所示当突触后脉冲紧随突触前脉冲到来时,强烈的饱和吸收作用于突触后脉冲导致EAM输出强脉冲,由于反向偏压的存在,EAM的吸收逐渐建立,导致突触后脉冲的输出功率逐渐降低。将图7中Ⅰ~Ⅳ所实现的效果线性叠加即可实现(图7(d)所示)基于SOA和EAM的光子STDP,实验所用突触前脉冲和突触后脉冲的功率都为10 dBm左右,脉宽都为5 ps左右,相对时延在-300~300 ps之间可调。

图 7. 基于SOA和EAM实现光子STDP[48]

Fig. 7. Implementation of photonic STDP based on SOA and EAM[48]

下载图片 查看所有图片

2.3 激光器实现方案

2.3.1 DFB激光器实现方案

2013年,美国普林斯顿大学Nahmias团队[49]首次提出利用嵌入可饱和吸收(Saturable Absorber, SA)的分布反馈式(Distributed FeedBack,DFB)激光器(DFB-SA)和光电探测器来模拟LIF神经元模型,其实验结构框图及原理图如图8所示。图8(a)所示该模型主要由3个部分组成:两个PD和1个激光器,PD接收的兴奋性输入和抑制性输入综合作用产生可以调制激光器增益模块载流子注入的输入电流并通过SA输出光脉冲。DFB-SA作为阈值判决器和脉冲生成器其行为类似于真实的生物神经元轴突。图8(b)所示输入脉冲作用于PD产生的电流扰动调制增益,足够的兴奋积累导致脉冲的输出,紧随而来的是一个短暂的不应期,与此伴随的是增益载流子浓度的下降和SA载流子浓度的上升。2015年,该研究团队继续对上述实验进行扩展[50]图8(c)所示通过波分复用(Wavelength Division Multiplexing, WDM)技术多路输入脉冲在同一波导传播,通过一组可调光谱滤波器对不同波长的脉冲信号在光域进行兴奋加权或抑制加权后再次集成在同一波导进入平衡光电探测器(Balanced PhotoDetector, B-PD)。WDM技术的使用实现了神经元的多路输入进而可实现光子脉冲神经元的大规模片上集成。2020年,该团队进一步将基于DFB-SA的LIF神经元模型集成到Ⅲ-Ⅴ族光子集成电路中[51]

图 8. 基于DFB-SA实现LIF神经元[49-50]

Fig. 8. Implementation of LIF neuron based on DFB-SA[49-50]

下载图片 查看所有图片

2020年,我国上海交通大学邹卫文教授团队[52]使用DFB-LD实现了基于单波长的光子STDP,其实验结构框图和结果曲线如图9所示。图9(a)所示输入波形由任意波形发生器(Arbitrary Waveform Generator, AWG)提供,DFB-LD由一个具有150 kHz外部调制带宽的LD控制器驱动,随后的可调光衰用于调整B-PD的输入光功率,最后由示波器监控输出信号。图9(b)和9(c)所示低幅度的脉冲为突触前脉冲,高幅度的脉冲为突触后脉冲。当突触后脉冲先于突触前脉冲发放时,B-PD的输出有两个波峰,两个波峰幅度之差构成了图9(d)所示的STDP曲线tpost-tpre<0的部分。当突触前脉冲先于突触后脉冲发放时,B-PD的输出有一个波峰,该波峰的幅度构成了图9(d)所示的STDP曲线tpost-tpre>0的部分。图9(e)所示当突触后脉冲幅度上升时STDP曲线随之整体上升。图9(f)所示突触前脉冲幅度上升时,STDP曲线tpost-tpre>0的部分保持稳定而tpost-tpre<0的部分会下降,因此可以将突触前脉冲和突触后脉冲的幅度作为可调参数来调节STDP曲线。

图 9. 基于DFB-LD实现光子STDP[52]

Fig. 9. Implementation of photonic STDP based on DFB-LD[52]

下载图片 查看所有图片

2.3.2 嵌入石墨烯可饱和吸收体(GSA)的可激发激光器实现方案

2013年,美国普林斯顿大学Shastri等人[53]首次提出基于可饱和吸收体(Graphene Saturable Absorption,GSA)的可激发激光器实现光子脉冲神经元,其实现原理图如图10所示。该团队进行了图10(a)所示的实验,波长为980 nm的泵浦光经由一个980/1 550 nm的WDM耦合器进入掺铒光纤(Erbium Doped Fiber, EDF)以保持其载流子浓度,用以放大通过1 480/1 550 nm的WDM耦合器进入环路的兴奋性脉冲。隔离器确保激光器中光信号的单向传输。激光器的脉冲通过一个80∶20的耦合器输出。图10(b)所示的结果验证了当有足够的兴奋性光(蓝色)输入石墨烯增益区提升了载流子浓度后,环路将激射出脉冲(红色)。

图 10. 石墨烯可激发激光器的实现[53-54]

Fig. 10. Implementation of graphene excitable laser[53-54]

下载图片 查看所有图片

2016年,该团队在前期实现石墨烯可激发激光器作为LIF神经元的基础上实现了简单时间模式检测任务[54],其原理图如图11所示。两个石墨烯可激发激光器级联,输入为一对时间间隔为Δt的脉冲,脉冲经过第一个激光器后通过数千米长的单模光纤(Single Mode Fiber, SMF)产生延时τ,当Δtτ时第2个激光器发放脉冲,两个激光器之间通过一个PD而非直接的光输入用以调制激光驱动器,这种PD驱动架构有利于大规模片上神经网络的实现。与此同时,该团队还实现了基于石墨烯可激发激光器的LIF神经元实现反馈回路,其原理图如图12所示。通过作为延时单元的SMF将输出反馈给输入,电加权单元控制光/电探测器的调制深度,用以根据是否高于阈值来提供全响应或无响应。脉冲可以在反馈回路中循环传播。反馈回路的实现表明基于石墨烯可激发激光器的LIF神经元具备多级联和信息记忆的能力,这种能力是实现多层神经网络进而实现复杂信息处理任务的基础。

图 11. 基于石墨烯可激发激光器的LIF神经元实现时间模式检测任务[54]

Fig. 11. Temporal pattern recognition implemented by LIF neuron based on graphene excitable laser[54]

下载图片 查看所有图片

图 12. 基于石墨烯可激发激光器的LIF神经元实现反馈回路[54]

Fig. 12. Self-recurrent bistable circuit implemented by LIF neuron based on graphene excitable laser[54]

下载图片 查看所有图片

2018年,该团队在前期实现基于石墨烯可激发激光器的LIF神经元基础上对实验进行了进一步的改进[55],其原理图如图13所示。

图 13. 同时接收兴奋性输入和抑制性输入的石墨烯可激发激光器[55]

Fig. 13. Implementation of graphene excitable laser with excitatory and inhibitory inputs[55]

下载图片 查看所有图片

AWG1调制一个1 480 nm的LD来生成兴奋性输入,AWG2调制一个980 nm的LD来生成抑制性输入,此时的EDF没有额外的泵浦输入。实验表明兴奋性输入会导致脉冲输出,当抑制性输入在时间上先于兴奋性输入且逐渐接近兴奋性输入时,脉冲输出逐渐被压制到0。

2.3.3 垂直腔面发射激光器实现方案

2013年,美国普林斯顿大学Nahmias团队[56]首次提出嵌入SA的垂直腔面发射激光器(Vertical-Cavity Surface-Emitting Laser, VCSEL)(VCSEL-SA)光子脉冲神经元,并从理论上提出这种低功耗、小面积和便于大规模集成的嵌入SA的可激发激光器具有LIF神经元的动力学行为,其结构示意图如图14所示。来自光纤系统的多路输入波长(λ1λ2,…,λk)信号通过光栅耦合器耦合向下进入VCSEL-SA,不同波长的光信号各自产生兴奋或抑制激励,波长为λ0的激励脉冲沿VCSEL-SA朝上输出。2015年,该团队进一步通过SPICE分析从理论上提出了基于VCSEL-SA的光子脉冲神经元等价电路模型[57],并在此基础上进一步验证了该等价电路模型的脉冲输出神经元动力学特性。2017年,我国西南大学邓涛团队[58]设计实验验证了两个互连的VCSEL之间可以实现可控的脉冲传输。

图 14. VCSEL-SA结构示意图[56]

Fig. 14. A schematic diagram of VCSEL-SA[56]

下载图片 查看所有图片

2019年,西安电子科技大学项水英教授团队从理论上提出利用VCSEL和VCSOA设计双层光子SNN以实现基于无监督算法的任意脉冲模式识别[59],其结构示意图及原理图如图15所示。图15(a)所示为嵌入SA的VCSEL构成LIF神经元(VCSEL1,VCSEL2,…,VCSELn),突触连接权重(W1W2,…,Wn)通过由前所述基于VCSOA实现的STDP阵列进行调整。图15(b)所示为神经网络仿真学习过程,时空脉冲发放时刻固定(t1t2),训练过程中噪声脉冲发放时刻随机(t3),突触后神经元的脉冲发放时刻(t4)逐渐收敛到首脉冲发放时刻t1图15(c)所示随着学习的进行突触后脉冲发放时刻(Post-Synaptic Spike Timing, PST)、突触连接权重(w1w2w3)逐渐收敛至固定值,PST与目标脉冲输出时刻之差sdm逐渐收敛到0,由此验证了基于光子STDP的学习规则对噪声的鲁棒性,同时该团队还验证了由于噪声脉冲发放时刻具有随机性,因此实际需要更多的学习周期以达到收敛,更多的突触前神经元、VCSOA的输入波长接近谐振腔的谐振波长以及提升学习速率有利于提升神经网络的性能,VCSOA更高的偏置电流亦有利于提升神经网络的性能但要考虑平衡功耗。

图 15. 基于VCSEL和VCSOA实现无监督任意脉冲模式识别的光子SNN[59]

Fig. 15. Photonic SNN for unsupervised arbitrary pulse pattern recognition based on VCSELs and VCSOAs[59]

下载图片 查看所有图片

2021年,该团队在上述工作的基础上进一步提出基于VCSEL-SA和VCSOA的光子SNN实现监督学习分类任务[60],其结构示意图如图16所示。“0-9”为待识别的10种输入模式并在实际训练时对输入模式加上噪声后进行时空编码构成输入层神经元(PRE1, PRE2,…,PRE-IN)的输入,每种输入模式由20×20的像素所构成,监督信号为目标脉冲,神经网络的训练由基于STDP和anti-STDP规则的ReSuMe算法来执行。输入层神经元的输入、监督信号以及由输出层神经元输出构成的脉冲反馈共同作用通过上述算法训练神经元的连接权重wij。随着训练的进行输出层神经元(POST1,POST2,…,POST-O)脉冲发放时刻会逐步收敛,最终实现根据输出层神经元的脉冲发放时刻识别对应的输入模式。

图 16. 基于VCSEL-SA和VCSOA实现监督学习分类任务的光子SNN结构示意图[60]

Fig. 16. Schematic diagram of photonic SNN for supervised learning classification task based on VCSELs-SA and VCSOAs[60]

下载图片 查看所有图片

同年,该团队在传统权重学习基础上引入突触延时可塑性,实现了基于VCSEL-SA的光子SNN[61]和基于VCSEL-SA的二进制卷积光子SNN[62],实现了利用基于VCSEL-SA的光子SNN实现数独求解器[63]。2022年,该团队又实现了基于VCSEL-SA的光子SNN用于运动识别和方向识别[64]以及基于VCSEL-SA的多层光子SNN[65]表1所示为基于激光器的光子脉冲神经元关键性能参数。

表 1. 基于激光器的光子脉冲神经元关键性能参数

Table 1. Parameters of photonic spiking neuron based on lasers

激光器平台单脉冲能量/pJ脉冲发放速率/GHz注入方式泵浦面积
DFB激光器[66]InP50.0~2>600 μm×200 μm
GSA激光器[54]InGaAsP-C-Si75.04相干光40 μm2
VCSEL[67-68]分立器件0.41相干光40 000 μm2

查看所有表

2.3.4 其他激光器实现方案

2011年,比利时布鲁塞尔自由大学Coomans团队[69]提出基于半导体环形激光器的光子脉冲神经元,并从理论上提出通过光注入触发脉冲在可激发非对称的半导体环形激光器内部触发脉冲的可能性。2013年,葡萄牙阿尔加维大学Romeira团队[70]提出包含了由纳米级双势垒量子阱共振隧道二极管所驱动的LD组成光电集成电路在1 550 nm工作波长条件下生成ns级光脉冲的能力;2022年,英国斯特拉斯克莱德大学Hejda团队[71]进一步提出了基于共振隧道二极管的光子SNN,在时空脉冲模式分类任务中实现了94%的分类准确率;2013年,比利时根特大学Alexander团队[72]提出基于微盘激光器的光子脉冲神经元,同年该团队从理论上验证了微盘激光器可以对来自其他微盘激光器的兴奋性脉冲做出响应[73]。2014年,法国巴黎第七大学Braive团队[74]提出基于嵌入SA的微柱激光器具有神经元的兴奋性行为,验证了在单脉冲扰动下激光器可以产生亚纳秒的响应脉冲并分析了激光器泵浦偏置的作用、双脉冲激发条件下激光器的绝对和相对不应期,以及由载流子动态特性所调制的抑制动态;2019年,同样来自该机构的Pammi团队[75]继续验证了单个和耦合的微柱激光器的计算能力以及通过可调时延和脉冲碰撞来执行时间模式识别;2016年,希腊雅典国立卡波蒂斯坦大学Mesaritakis团队[76]提出一种半导体量子点被动MLL来实现神经元的兴奋性和抑制性行为,该实现方式仅需简单地调整激光器内置SA的反转电压而无须使用复杂的电/光转换结构。2019年,同样来自该机构的Sarantoglou团队[77]验证了半导体量子点被动MLL具有将兴奋性信号和抑制性信号分别在各自波段内进行光脉冲编码来实现真正的抑制性神经元的能力;2022年,我国西安电子科技大学项水英教授团队[78]提出基于SA的法布里佩罗激光器来实现光子脉冲神经元并通过实验验证了其具有时间积分、门限判决、脉冲生成以及不应期的LIF神经元特性,并进一步提出通过时分复用脉冲编码来实现基于光子SNN的模式识别任务。

2.4 全光微环谐振器实现方案

2012年,比利时根特大学Van Vaerenbergh团队[79]从理论上验证了当输入波长接近微环谐振器共振波长时足够高的输入功率会加热微环,由此产生的热光效应会形成双稳态性能,此外由于光可以产生改变折射率系数的自由载流子,因此高品质系数的微环甚至可以自激发脉冲。微环的这种双稳态性能和可以自激发脉冲的能力使得绝缘硅上微环可以实现脉冲神经元的特性;2013年,该团队继续从理论上验证了微环的动态特性可以用于设置脉冲在级联的两个微环间传播的时延用以实现SNN的训练算法,为基于微环谐振器的更大规模SNN的实现奠定了基础[80];2018年,美国普渡大学Chakraborty团队[81]提出基于顶部嵌入相变材料Ge2Sb2Te5(GST)的微环谐振器作为光子脉冲神经元,其结构示意图及原理图如图17所示。图17(a)所示为其结构示意图,初始状态的GST为晶态,满足谐振条件的“写”脉冲从INPUT端口耦合进入环形波导作用于GST导致其晶度降低非晶化提升最终到达非晶态,相应地,在“读”阶段随着GST晶度的降低谐振光波从THROUGH端口导出的比例相对降低而从“DROP”端口导出的光波相对提高。图17(b)所示为DROP端口的传输特性,这种仅改变GST的晶度即可控制光波传输比例的机制构成了“积分-发放”脉冲神经元模型。在此基础上该团队进一步将两个嵌入GST的微环谐振器组合成一个可同时接收正输入和负输入的单个神经元(如图17(c)所示),输入脉冲通过两个微环谐振器的“DROP”端口和“THROUGH”端口分别进行正积分和负积分,通过移相器Φ形成的合成脉冲的幅度为两者之差,神经元膜电位的积分与合成脉冲的幅度成比例。脉冲的发放由图17(c)的“输出单元”来执行,该结构包含一个光放大器,一个环行器,以及一个顶部嵌入初始状态为晶态的GST的矩形波导。对嵌入GST的矩形波导而言,当GST处于晶态(非晶态)时,其传输率较低(高)。对积分单元和输出单元而言,“读”、“写”周期逐次循环进行,在神经元积分单元的“写”周期内,“读”脉冲通过发放单元。另一方面,在神经元积分单元的“读”周期内,“读”脉冲依次通过微环谐振器和放大器后形成的脉冲写入位于输出单元嵌入于波导的GST。环行器用于引导进入和离开矩形波导的脉冲。当位于积分单元的GST处于初始晶态时,光放大器的输出不足以使矩形波导内的GST非晶化,因此此时的脉冲无法通过矩形波导,然而,在若干“写”脉冲的作用下,膜电位的积分超过阈值后光放大器的输出足以使矩形波导内的GST非晶化进而可以实现脉冲的输出。一旦神经元实现脉冲输出,“复位”脉冲将会传递,使得神经元恢复初始状态。该团队利用这种同时包含积分单元和输出单元的光子脉冲神经元构建了3层全连接的SNN用以对MINIST数据集进行训练,实现了98.06%的识别准确率。

图 17. 基于嵌入GST微环谐振器的光子脉冲神经元[81]

Fig. 17. Photonic spiking neuron based on microring resonator embedded with GST[81]

下载图片 查看所有图片

2019年,德国明斯特大学Feldmann团队[82]提出并制造出集成可塑突触(图18(a)所示)的全光SNN,其结构图如图18所示。神经元之间突触连接的权重通过集成于光波导顶部的相变材料(Phase Change Material,PCM)来改变,多路不同波长(λ1λ2,…,λN)的输入加权后经微环谐振器以及WDM多路复用器(图18(b)所示)集成于单波导后进入集成PCM胞体(图18(c)所示)的环形谐振器(图18(d)所示),足够的功率将导致环形谐振器输出脉冲,以上的过程同样构成了“积分-输出”的脉冲神经元模型。通过调整上述所述单个神经元(图18(e)所示)的输入权重即可实现最简单的基于监督学习与非监督学习的模式识别任务,进一步地集成多个上述神经元构成多层SNN可实现更为复杂的模式识别任务。

图 18. 基于相变材料和微环谐振器的全光脉冲神经网络[82]

Fig. 18. All-optical spiking neuron network based on PCM and microring resonators[82]

下载图片 查看所有图片

2022年,美国普林斯顿大学Jha团队从理论上验证了一种互补金属氧化物半导体(Complementary Metal Oxide Semiconductor,CMOS)兼容的集成石墨烯硅基微环谐振器光子脉冲神经元[83],其结构示意图如图19所示。该团队从理论上验证了石墨烯的克尔效应和饱和吸收可以提升神经元的非线性效应。

图 19. 与硅总线波导耦合的混合石墨烯硅基微环示意图[83]

Fig. 19. Perspective view of the hybrid graphene-on-silicon microring coupled with a silicon bus waveguide[83]

下载图片 查看所有图片

同年,西安电子科技大学项水英教授团队提出一种基于Add-Drop型微环谐振器的光子脉冲神经元[84]图20所示的基于Add-Drop型微环谐振器的光子脉冲神经元的动力学模型表现为“共振-输出”,这种光子脉冲神经元没有明确的脉冲发放阈值门限,任意强度的光扰动输入在光泵浦的作用下即可产生一个输出脉冲,这种特性对于光时序编码SNN是重要的实现机制。

图 20. 基于Add-Drop型微环谐振器的光子脉冲神经元[84]

Fig. 20. Photonic spiking neuron based on add-drop microring resonators[84]

下载图片 查看所有图片

同时,该团队还验证了这种Add-Drop型微环谐振器在突触强脉冲的作用下对随后到来的弱脉冲产生强烈的非线性效应,由此实现了光子STDP。此外Add-Drop型微环谐振器还具有权重配置的功能,Add-Drop型微环谐振器具有较大的热光系数使得温度的变化和折射率的变化有着近似线性的关系,折射率的变化进一步导致共振波长的变化,最终导致Drop端口的输出发生变化,产生权重在[0,1]范围内可调的效果。基于以上成果该团队实现了基于Add-Drop型微环谐振器的光子脉冲神经元构成的神经网络,采用基于权重的ReSuMe延时学习算法进行脉冲序列学习并实现了收敛,同时该团队还验证了初始权重、门限功率和学习速率对神经网络性能有影响,对其进行合理的设置有助于提升网络性能。表2所示为基于微环谐振器的光子脉冲神经元关键性能参数。

表 2. 基于微环谐振器的光子脉冲神经元关键性能参数

Table 2. Parameters of photonic spiking neuron based on lasers microring resonators

微环谐振器种类平台单脉冲能量/pJ脉冲发放速率/GHz面积/μm2
硅基微环谐振器[85]Si6.00.005100
集成石墨烯硅基微环谐振器[83]Si0.740.000100

查看所有表

2.5 其他实现方案

除上述方案之外,2020年,我国西南大学吴加贵研究员团队[86]提出了基于硅基光子微腔的光子脉冲神经元,验证了微驱动谐振器的调制效应可以生成神经形态光脉冲;同年,我国上海交通大学苏翼凯教授团队[87]提出了基于无源微谐振器的光子脉冲神经元,该团队利用微谐振器的非线性特征来实现脉冲神经元,并表现出了脉冲神经元的激发门限特性、不应期特性和级联特性;2021年,波兰华沙大学Tyszka团队[88]通过实验验证了在激子极化激元的脉冲非共振激发状态下半导体微腔具有LIF神经元的行为。

总体来看,基于SOA和EML的光子神经元为早期的实现方案,技术成熟,但SOA和EML存在体积较大难以集成的问题。基于激光器实现光子脉冲神经网络的方案众多,但还是受制于“光-电-光”的转换效率,且从大规模集成的角度来看激光器的体积仍然偏大。基于相变材料和微环谐振器的方案是近年的研究趋势,微环谐振器体积小容易集成,但受制于微环谐振器的控制难度和相变材料的寿命,该方案仍待进一步完善与优化。

3 结束语

SNN的硬件化是实现其强大智能算力的重要途径,同时,光具有高速、低功耗和大带宽等特性,因此光子SNN具有比生物大脑快千万倍乃至十亿倍的运算速度和推理能力的潜力。总体来看,由于人类对神经科学和类脑机制的研究还处于初始阶段,因此现阶段光子SNN的理论模型和训练算法仍与真实生物神经元的运行机制存在较大差异;其次,现阶段光子SNN的物理实现还主要以单个分离光学器件实现神经元和突触为主,整体网络的性能探索和研究多基于仿真,实现真正的大规模集成光子SNN还需克服器件体积大、加工难度高,以及不同功能的光学器件难以耦合等各种难题;最后,现阶段光子SNN的训练和控制仍然要通过电子芯片来实现,这也使得光子SNN的整体性能将仍然受限于电学硬件的瓶颈。

综上,光子SNN涉及人工智能、计算科学和光电集成等多个领域,需要从底层的材料器件,中间的系统架构,到上层的算法实现来进行多层次、跨领域的交叉研究和发展。未来,随着光子技术的不断进步与突破,光子SNN的实现有望往大规模、集成化、可编程、低功耗和低成本的方向演进,越来越多地适用于数据中心和自动驾驶等复杂场景。

参考文献

[1] HaykinS. Neural Networks and Learning Machines[M]. Upper Saddle River: Pearson Education, 2009.

[2] Engel A K, König P, Kreiter A K, et al. Temporal Coding in the Visual Cortex: New Vistas on Integration in the Nervous System[J]. Trends in Neurosciences, 1992, 15(6): 218-226.

[3] McANALLY K E N I, Stein J F. Auditory Temporal Coding in Dyslexia[J]. Proceedings of the Royal Society of London (Series B: Biological Sciences), 1996, 263(1373): 961-965.

[4] Lestienne R. Spike Timing, Synchronization and Information Processing on the Sensory Side of the Central Nervous System[J]. Progress in Neurobiology, 2001, 65(6): 545-591.

[5] Hodgkin A L, Huxley A F. Currents Carried by Sodium and Potassium Ions through the Membrane of the Giant Axon of Loligo[J]. The Journal of Physiology, 1952, 116(4): 449-472.

[6] Hodgkin A L, Huxley A F. A Quantitative Description of Membrane Current and Its Application to Conduction and Excitation in Nerve[J]. Bulletin of Mathematical Biology, 1990, 52(1): 25-71.

[7] Morris C, Lecar H. Voltage Oscillations in the Barnacle Giant Muscle Fiber[J]. Biophysical Journal, 1981, 35(1): 193-213.

[8] FitzHugh R. Impulses and Physiological States in Theoretical Models of Nerve Membrane[J]. Biophysical Journal, 1961, 1(6): 445-466.

[9] Nagumo J, Arimoto S, Yoshizawa S. An Active Pulse Transmission Line Simulating Nerve Axon[J]. Proceedings of the IRE, 1962, 50(10): 2061-2070.

[10] Hindmarsh J L, Rose R M. The Assembly of Ionic Currents in a Thalamic Neuron Ⅰ. the Three-Dimensional Model[J]. Proceedings of the Royal Society of London (B: Biological Sciences), 1989, 237(1288): 267-288.

[11] Hindmarsh J L, Rose R M. The Assembly of Ionic Currents in a Thalamic Neuron Ⅱ. the Three-Dimensional Model[J]. Proceedings of the Royal Society of London (B: Biological Sciences), 1989, 237(1288): 289-312.

[12] Hindmarsh J L, Rose R M. The Assembly of Ionic Currents in a Thalamic Neuron Ⅲ. the Three-Dimensional Model[J]. Proceedings of the Royal Society of London (B: Biological Sciences), 1989, 237(1288): 313-334.

[13] Izhikevich E M. Simple Model of Spiking Neurons[J]. IEEE Transactions on Neural Networks, 2003, 14(6): 1569-1572.

[14] Lapique L. Recherches Quantitatives Sur L'excitation Electrique Des Nerfs Traitee Comme Une Polarization[J]. Journal of Physiology and Pathololgy, 1907, 9: 620-635.

[15] Izhikevich E M. Resonance and Selective Communication via Bursts in Neurons Having Subthreshold Oscillations[J]. Biosystems, 2002, 67(1-3): 95-102.

[16] Izhikevich E M. Resonate-and-Fire Neurons[J]. Neural Networks, 2001, 14(6-7): 883-894.

[17] Maass, Wolfgang, Bishop ChristopherM., et al. Pulsed Neural Networks[M]. Cambridge, USA: MIT Press, 2001.

[18] Masquelier, Timothée, Guyonneau R. Competitive STDP-based Spike Pattern Learning[J]. Neural Computation, 2009, 21(5): 1259-1268.

[19] Peter U, Diehl, Latthew C, et al. Unsupervised Learning of Digit Recognition Using Spike-Timing-Dependent Plasticity[J]. Frontiers in Computational Neuroscience, 2015, 9: 99-103.

[20] Ferré Paul, Franck M, Thorpe S J. Unsupervised Feature Learning with Winner-Takes-All based STDP[J]. Frontiers in Computational Neuroscience, 2018, 12: 24-32.

[21] Bi G Q, Poo M M. Synaptic Modifications in Cultured Hippocampal Neurons: Dependence on Spike Timing, Synaptic Strength, and Postsynaptic Cell Type[J]. Journal of Neuroscience, 2012, 18(24): 10464-10472.

[22] Bi G Q, Poo M M. Synaptic Modification by Correlated Activity: Hebb's Postulate Revisited[J]. Annual Review of Neuroscience, 2001, 24(24): 139-166.

[23] Morrison A, Diesmann M, Gerstner W. Phenomenological Models of Synaptic Plasticity based on Spike Timing[J]. Biological Cybernetics, 2008, 98(6): 459-478.

[24] Masquelier, Timothée, Thorpe, et al. Unsupervised Learning of Visual Features through Spike Timing Dependent Plasticity[J]. PLoS Computational Biology, 2007, 3(2): 31-38.

[25] Bohte S M, Kok J N, La Poutré Han. Error-backpropagation in Temporally Encoded Networks of Spiking Neurons[J]. Neurocomputing, 2000, 48(1-4): 17-37.

[26] Gütig R, Sompolinsky H. The Tempotron: A Neuron that Learns Spike Timing–based Decisions[J]. Nature Neuroscience, 2006, 9(3): 420-428.

[27] Ponulak F, Kasiński A. Supervised Learning in Spiking Neural Networks with ReSuMe: Sequence Learning, Classification, and Spike Shifting[J]. Neural Computation, 2010, 22(2): 467-510.

[28] Wade J J, McDaid L J, Santos J A, et al. SWAT: A Spiking Neural Network Training Algorithm for Classification Problems[J]. IEEE Transactions on Neural Networks, 2010, 21(11): 1817-1830.

[29] Florian R V. The Chronotron: A Neuron that Learns to Fire Temporally Precise Spike Patterns[J]. Plos one, 2012, 7(8): e40233.

[30] Mohemmed A, Schliebs S, Matsuda S, et al. Span: Spike Pattern Association Neuron for Learning Spatio-Temporal Spike Patterns[J]. International Journal of Neural Systems, 2012, 22(4): 1250012.

[31] Yu Q, Tang H, Tan K C, et al. Precise-Spike-Driven Synaptic Plasticity: Learning Hetero-Association of Spatiotemporal Spike Patterns[J]. Plos one, 2013, 8(11): e78318.

[32] Taherkhani A, Belatreche A, Li Y, et al. A Supervised Learning Algorithm for Learning Precise Timing of Multiple Spikes in Multilayer Spiking Neural Networks[J]. IEEE Transactions on Neural Networks and Learning Systems, 2018, 29(11): 5394-5407.

[33] CordoneL, MiramondB, ThierionP. Object Detection with Spiking Neural Networks on Automotive Event Data[C]//IJCNN at 2022 IEEE WCCI Congress. Padua, Italy: IEEE, 2022.

[34] Eshraghian J K, Ward M, Neftci E, et al. Training Spiking Neural Networks Using Lessons from Deep Learning[J]. arXiv Preprint arXiv: 2109.12894, 2021.

[35] Furber S B, Lester D R, Plana L A, et al. Overview of the SpiNNaker System Architecture[J]. IEEE Transactions on Computers, 2012, 62(12): 2454-2467.

[36] SchemmelJ, BrüderleD, GrüblA, et al. A Wafer-Scale Neuromorphic Hardware System for Large-Scale Neural Modeling[C]//2010 IEEE International Symposium on Circuits and Systems (ISCAS). Paris, France: IEEE, 2010: 1947-1950.

[37] Benjamin B V, Gao P, McQuinn E, et al. Neurogrid: A Mixed-Analog-Digital Multichip System for Large-Scale Neural Simulations[J]. Proceedings of the IEEE, 2014, 102(5): 699-716.

[38] Akopyan F, Sawada J, Cassidy A, et al. Truenorth: Design and Tool Flow of a 65 mW 1 Million Neuron Programmable Neurosynaptic Chip[J]. IEEE Transactions on Computer-Aided Design of Integrated Circuits and Systems, 2015, 34(10): 1537-1557.

[39] Davies M, Srinivasa N, Lin T H, et al. Loihi: A Neuromorphic Manycore Processor with on-Chip Learning[J]. IEEE Micro, 2018, 38(1): 82-99.

[40] Ma D, Shen J C, Gu Z H, et al. Darwin: A Neuromorphic Hardware Co-Processor based on Spiking Neural Networks[J]. Journal of Systems Architecture, 2017, 77: 43-51.

[41] Pei J, Deng L, Song S, et al. Towards Artificial General Intelligence with Hybrid Tianjic Chip Architecture[J]. Nature, 2019, 572(7767): 106-111.

[42] 项水英, 宋紫薇, 高爽, 等. 光神经形态计算研究进展与展望(特邀)[J]. 光子学报, 2021, 50(10): 1020001.

    Xiang S Y, Song Z W, Gao S, et al. Research Progress and Prospect of Optical Neuromorphic Computing(Special Invitation)[J]. Photonics Journal, 2021, 50(10): 1020001.

[43] Rosenbluth D, Kravtsov K, Fok M P, et al. A High Performance Photonic Pulse Processing Device[J]. Optics Express, 2009, 17(25): 22767-22772.

[44] Kravtsov K, Fok M P, Rosenbluth D, et al. Ultrafast All-optical Implementation of a Leaky Integrate-and-Fire Neuron[J]. Optics Express, 2011, 19(3): 2133-2147.

[45] Ren Q S, Zhang Y L, Wang R, et al. Optical Spike-timing-dependent Plasticity with Weight-dependent Learning Window and Reward Modulation[J]. Optics Express, 2015, 23(19): 25247-25258.

[46] TianT, NiM, WuG Q, et al. Theoretical Investigation of Weight-dependent Optical Spike Timing Dependent Plasticity based on VCSOA[C]//Journal of Physics: Conference Series. Guangzhou, China: IOP Publishing, 2021, 1792(1): 012037.

[47] Fok M P, Tian Y, Rosenbluth D, et al. Asynchronous Spiking Photonic Neuron for Lightwave Neuromorphic Signal Processing[J]. Optics Letters, 2012, 37(16): 3309-3311.

[48] Fok M P, Tian Y, Rosenbluth D, et al. Pulse Lead/Lag Timing Detection for Adaptive Feedback and Control based on Optical Spike-Timing-Dependent Plasticity[J]. Optics Letters, 2013, 38(4): 419-421.

[49] NahmiasM A, TaitA N, ShastriB J, et al. An Evanescent Hybrid Silicon Laser Neuron[C]//2013 IEEE Photonics Conference. Bellevue, WA, USA: IEEE, 2013: 93-94.

[50] Nahmias M A, Tait A N, Shastri B J, et al. Excitable Laser Processing Network Node in Hybrid Silicon: Analysis and Simulation[J]. Optics Express, 2015, 23(20): 26800-26813.

[51] Nahmias M A, Peng H T, de Lima T F, et al. A Laser Spiking Neuron in a Photonic Integrated Circuit[J]. ArXiv Preprint ArXiv: 2012.08516, 2020.

[52] Ma B W, Zou W W. Demonstration of a Distributed Feedback Laser Diode Working as a Graded-Potential-Signaling Photonic Neuron and its Application to Neuromorphic Information Processing[J]. Science China Information Sciences, 2020, 63(6): 1-8.

[53] ShastriB J, NahmiasM A, TaitA N, et al. Graphene Excitable Laser for Photonic Spike Processing[C]//2013 IEEE Photonics Conference. Bellevue, WA, USA: IEEE, 2013: 1-2.

[54] Shastri B J, Nahmias M A, Tait A N, et al. Spike Processing with A Graphene Excitable Laser[J]. Scientific Reports, 2016, 6(1): 1-12.

[55] Ma P Y, Shastri B J, De Lima T F, et al. Simultaneous Excitatory and Inhibitory Dynamics in An Excitable Laser[J]. Optics Letters, 2018, 43(15): 3802-3805.

[56] Nahmias M A, Shastri B J, Tait A N, et al. A Leaky Integrate-and-Fire Laser Neuron for Ultrafast Cognitive Computing[J]. IEEE Journal of Selected Topics in Quantum Electronics, 2013, 19(5): 1-12.

[57] Shastri B J, Nahmias M A, Tait A N, et al. SIMPEL: Circuit Model for Photonic Spike Processing Laser Neurons[J]. Optics Express, 2015, 23(6): 8029-8044.

[58] Deng T, Robertson J, Hurtado A. Controlled Propagation of Spiking Dynamics in Vertical-Cavity Surface-Emitting Lasers: Towards Neuromorphic Photonic Networks[J]. IEEE Journal of Selected Topics in Quantum Electronics, 2017, 23(6): 1-8.

[59] Xiang S Y, Zhang Y H, Gong J K, et al. STDP-based Unsupervised Spike Pattern Learning in a Photonic Spiking Neural Network with VCSELs and VCSOAs[J]. IEEE Journal of Selected Topics in Quantum Electronics, 2019, 25(6): 1-9.

[60] Xiang S Y, Ren Z X, Song Z W, et al. Computing Primitive of Fully VCSEL-based All-optical Spiking Neural Network for Supervised Learning and Pattern Classification[J]. IEEE Transactions on Neural Networks and Learning Systems, 2020, 32(6): 2494-2505.

[61] Han Y N, Xiang S Y, Ren Z X, et al. Delay-weight Plasticity-Based Supervised Learning in Optical Spiking Neural Networks[J]. Photonics Research, 2021, 9(4): B119-B127.

[62] Zhang Y H, Robertson J, Xiang S Y, et al. All-optical Neuromorphic Binary Convolution with a Spiking VCSEL Neuron for Image Gradient Magnitudes[J]. Photonics Research, 2021, 9(5): B201-B209.

[63] Gao S, Xiang S Y, Song Z W, et al. All-optical Sudoku Solver with Photonic Spiking Neural Network[J]. Optics Communications, 2021, 495: 127068.

[64] Gao S, Xiang S Y, Song Z W, et al. Motion Detection and Direction Recognition in a Photonic Spiking Neural Network Consisting of VCSELs-SA[J]. Optics Express, 2022, 30(18): 31701-31713.

[65] Fu C T, Xiang S Y, Han Y N, et al. Multilayer Photonic Spiking Neural Networks: Generalized Supervised Learning Algorithm and Network Optimization[J]. Photonics, 2022, 9(4): 217.

[66] ThackerH D, LuoY, ShiJ, et al. Flip-chip Integrated Silicon Photonic Bridge Chips for Sub-picojoule Per Bit Optical Links[C]//2010 Proceedings 60th Electronic Components and Technology Conference (ECTC). Las Vegas, NV, USA: IEEE, 2010: 240-246.

[67] Hurtado A, Schires K, Henning I D, et al. Investigation of Vertical Cavity Surface Emitting Laser Dynamics for Neuromorphic Photonic Systems[J]. Applied Physics Letters, 2012, 100(10): 103703.

[68] Lee J H, Delbruck T, Pfeiffer M. Training Deep Spiking Neural Networks Using Backpropagation[J]. Frontiers in Neuroscience, 2016, 10: 508.

[69] Coomans W, Gelens L, Beri S, et al. Solitary and Coupled Semiconductor Ring Lasers as Optical Spiking Neurons[J]. Physical Review E, 2011, 84(3): 036209.

[70] Romeira B, Javaloyes J, Ironside C N, et al. Excitability and Optical Pulse Generation in Semiconductor Lasers Driven by Resonant Tunneling Diode Photo-Detectors[J]. Optics Express, 2013, 21(18): 20931-20940.

[71] HejdaM, AlanisJ A, Ortega-PiwonkaI, et al. Photonic Spiking Neural Network with Resonant Tunnelling Diode Optoelectronic Neurons[C]//CLEO: Science and Innovations. San Jose, California, United States: Optica Publishing Group, 2022: SW5E.1.

[72] Alexander K, Van Vaerenbergh T, Fiers M, et al. Excitability in Optically Injected Microdisk Lasers with Phase Controlled Excitatory and Inhibitory Response[J]. Optics Express, 2013, 21(22): 26182-26191.

[73] Van Vaerenbergh T, Alexander K, Dambre J, et al. Excitation Transfer between Optically Injected Microdisk Lasers[J]. Optics Express, 2013, 21(23): 28922-28932.

[74] Selmi F, Braive R, Beaudoin G, et al. Relative Refractory Period in an Excitable Semiconductor Laser[J]. Physical Review Letters, 2014, 112(18): 183902.

[75] Pammi V A, Alfaro-Bittner K, Clerc M G, et al. Photonic Computing with Single and Coupled Spiking Micropillar Lasers[J]. IEEE Journal of Selected Topics in Quantum Electronics, 2019, 26(1): 1-7.

[76] Mesaritakis C, Kapsalis A, Bogris A, et al. Artificial Neuron based on Integrated Semiconductor Quantum Dot Mode-Locked Lasers[J]. Scientific Reports, 2016, 6(1): 1-10.

[77] Sarantoglou G, Skontranis M, Mesaritakis C. All Optical Integrate and Fire Neuromorphic Node based on Single Section Quantum Dot Laser[J]. IEEE Journal of Selected Topics in Quantum Electronics, 2019, 26(5): 1-10.

[78] Xiang S Y, Shi Y C, Guo X X, et al. Hardware-algorithm Collaborative Computing with Photonic Spiking Neuron Chip Based on Integrated Fabry-P\’erot Laser with Saturable Absorber[J]. ArXiv Preprint ArXiv: 2204.08362, 2022.

[79] Van VaerenberghT, FiersM, VandoorneK, et al. Towards a Photonics Spiking Neuron: Excitability in a Silicon-on-Insulator Microring[C]//2012 International Symposium on Nonlinear Theory and Its Applications (NOLTA-2012). Palma, Majorca, Spain: IEICE, 2012: 767-770.

[80] Van VaerenberghT, FiersM, BienstmanP, et al. Towards Integrated Optical Spiking Neural Networks: Delaying Spikes on Chip[C]//2013 Sixth ”Rio De La Plata” Workshop on Laser Dynamics and Nonlinear Photonics. Montevideo, Uruguay: IEEE, 2013: 1-2.

[81] Chakraborty I, Saha G, Sengupta A, et al. Toward Fast Neural Computing Using All-photonic Phase Change Spiking Neurons[J]. Scientific Reports, 2018, 8(1): 1-9.

[82] Feldmann J, Youngblood N, Wright C D, et al. All-optical Spiking Neurosynaptic Networks with Self-Learning Capabilities[J]. Nature, 2019, 569(7755): 208-214.

[83] Jha A, Huang C, Peng H T, et al. Photonic Spiking Neural Networks and Graphene-on-Silicon Spiking Neurons[J]. Journal of Lightwave Technology, 2022, 40(9): 2901-2914.

[84] Han Y N, Xiang S Y, Zhang Y N, et al. An All-MRR-based Photonic Spiking Neural Network for Spike Sequence Learning[J]. Photonics, 2022, 9(2): 120.

[85] Van Vaerenbergh T, Fiers M, Mechet P, et al. Cascadable Excitability in Microrings[J]. Optics Express, 2012, 20(18): 20292-20308.

[86] YangY L, DengY, XiongX Y, et al. Neuron-like Optical Spiking Generation based on Silicon Microcavity[C]//2020 IEEE 20th International Conference on Communication Technology (ICCT). Nanning, China: IEEE, 2020: 970-974.

[87] Xiang J L, Torchy A, Guo X H, et al. All-optical Spiking Neuron Based on Passive Microresonator[J]. Journal of Lightwave Technology, 2020, 38(15): 4019-4029.

[88] Tyszka K, Furman M, Mirek R, et al. Leaky Integrate-and-Fire Mechanism in Exciton-polariton Condensates for Photonic Spiking Neurons[J]. ArXiv Preprint ArXiv: 2111.13123, 2021.

柯特, 朱盈, 彭楚宇, 胡晓, 肖希. 光子脉冲神经网络研究历程与展望[J]. 光通信研究, 2023, 49(1): 17. Te KE, Ying ZHU, Chu-yu PENG, Xiao HU, Xi XIAO. Research History and Prospect of Photonic Spiking Neural Networks[J]. Study On Optical Communications, 2023, 49(1): 17.

引用该论文: TXT   |   EndNote

相关论文

加载中...

关于本站 Cookie 的使用提示

中国光学期刊网使用基于 cookie 的技术来更好地为您提供各项服务,点击此处了解我们的隐私策略。 如您需继续使用本网站,请您授权我们使用本地 cookie 来保存部分信息。
全站搜索
您最值得信赖的光电行业旗舰网络服务平台!