世界首个光子神经网络诞生
历史上2016年11月19日(农历:2016年10月20日)大事记
2016年11月19日(农历2016年10月20日),世界首个光子神经网络诞生:比传统方法快1960倍。
以机器学习神经网络为代表的人工智能技术正在改变我们生活的许多方面,对支撑这些技术所需的数据处理能力的需求也越来越强。而针对神经网络的结构开发出神经形态芯片(neuromorphic chip)有望能大幅提升神经网络的性能。
日前,来自普林斯顿大学的 Alexander N. Tait 等科学家在 arXiv 上发表了一篇题为《神经形态硅光子学(Neuromorphic Silicon Photonics)》的论文,介绍了世界上首个「光子神经网络(Photonic Neural Network)」。
和我们目前主流的基于电子的处理方式相比,光子的方式的速度可以达到更快、也能实现更高的带宽。
据 MIT Technology Review 的报道介绍,开发光子神经网络这个难题的核心是生产一种每个节点都有相同的响应特征的装置以用作神经元。这些节点采用了微型的环形波导(tiny circular waveguides)的形式,这些波导被蚀刻在硅衬底中,光可以在其中循环。当释放这个光并调制在阈值处工作的一个激光的输出时,该环境中输入光的一点微小的改变就会给该激光的输出带来巨大的影响。
其中的关键在于,该系统中的每个节点都工作在一定的光波长长——这是一种被称为波分复用(wave division multiplexing)的技术。在来自各个节点的光被送入该激光之前会被总功率检测求和。然后该激光输出会被反馈回节点以创造出一个带有非线性特征的反馈回路。
那么这种非线性能在多大程度上模拟神经行为呢。研究表明其输出在数学上等效于一种被称为连续时间循环神经网络(continuous-time recurrent neural network)的输出。
这些研究者为进行概念验证开发了一个 49 节点的硅光子神经网络——实验表明在一个实验性的差分系统仿真任务中比传统方法快了 1960 倍!
当然,验证性的实验不一定能够适用于实际的应用场景,但毫无疑问,这一研究为基于光子的神经网络的发展提供了重要的推动力。在带宽和速度需求日渐高涨的今天,这有望能为我们提供一种我们所需的解决方案。
论文:神经形态硅光子学(Neuromorphic Silicon Photonics)
我们报告首次观察到了集成模拟光子网络(integrated analog photonic network),其中的连接(connection)是通过 microring weight banks 和首次被用作光子神经元(photonic neurons)的电光调制器(electro-optic modulators)配置而成。这种硅光子电路和连续神经模型之间的数学同构(mathematical isomorphism)通过动态分叉分析(dynamical bifurcation analysis)而得到了证明。已有的神经工程工具可以利用这种同构性来适应硅光子信息处理系统。我们使用一种「神经编译器(neural compiler)」编程了一个的 49 节点的硅光子神经网络,它模拟了传统的神经网络,并且预计其表现在一个实验性的差分系统仿真任务中超过了传统方法 1960 倍。利用了硅光子平台的光子神经网络可以接入用于无线电、控制和科学计算的超快信息处理环境。
图 1:带有用作神经元的调制器的 STAR broadcast-and-weight network。MRR: microring resonator, BPD: balanced photodiode, LD: laser diode, MZM: 马赫-曾德尔调制器 (Mach-Zehnder modulator), WDM: 波分复用器(wavelength-division multiplexer)。
图 2:带有 2 个 MZM 神经元和一个外部输入的实验配置,阵列波导光栅(AWG)中进行波长复用,并耦合到一个片上 broadcastand-weight network。这个 2×2 的循环网络是由 MRR 权重配置的,w11,w12 等等。神经元状态由低通滤波跨阻抗放大器(low-pass filtered transimpedance amplifiers)的电压 s1 和 s2 表示。
- [ 1600年 ] 11月19日 查理一世出生
- [ 1665年 ] 11月19日 法国画家尼古拉·普桑逝世
- [ 1863年 ] 11月19日 美国总统亚伯拉罕·林肯发表著名的盖茨堡演说
- [ 1969年 ] 11月19日 贝利攻进第一千个球
- [ 1980年 ] 11月19日 大陆第一支时装表演队诞生
- [ 1982年 ] 11月19日 第九届亚运会在新德里开幕