首页 >> 科学研究 >> 科研进展 >> 正文

类脑智能芯片研究中心黄如院士-杨玉超教授团队在深度储备池计算硬件研究中取得重要进展

信息来源: 类脑智能芯片研究中心     发布时间:2022-02-21     浏览量:

储备池计算(Reservoir Computing)是一种低训练代价、低硬件开销的循环神经网络(RNN),在时序信息处理方面具有广泛的应用,例如波形分类、语音识别、时间序列预测等。储备池计算系统由神经元循环连接的储备池和输出层两部分组成,其中仅有输出层需要训练从而显著降低了训练代价,而系统中的储备池可以由具有短时程特性的非线性器件来实现。当前国际上针对储备池计算系统的研究主要集中在探索使用不同类型的非线性器件(如忆阻器、自旋扭矩振荡器、纳米线网络、半导体光学放大器等)来构建单层储备池,但储备池状态数、记忆容量、复杂动力学特性等的局限在根本上制约了系统本身信息处理能力的提升。

针对这一关键问题,类脑智能芯片研究中心黄如院士-杨玉超教授课题组首次采用可级联短时程非线性单元构建了深度储备池(deep reservoir)计算硬件,通过储备池层数的增加实现了层次化的信息处理能力、更丰富的储备池状态数、更大的记忆容量以及更复杂的动力学特性。该工作在构建深度储备池计算硬件系统、实现层次化的时序信息处理方面迈出了重要的一步。

在技术路线上,研究团队首先研制了可级联的单层储备池硬件,通过将动态忆阻晶体管与平面器件进行串联分压,实现了电压输入、电压输出的短时程非线性单元。由于输入和输出为相同的物理量,解决了通常情况下电压输入、电流输出器件难以直接级联的问题,为构建深度储备池计算硬件奠定了器件基础。基于该类短时程非线性单元,作者进一步制备了深度储备池硬件系统,并结合分时复用的虚拟节点方法获得了丰富的储备池状态。实验研究结果表明,相比同等规模的单层储备池计算系统,本工作所构建的深度储备池计算硬件具有更大的记忆容量、更丰富的储备池状态数、层次化的信息处理能力,并在波形分类、电能消耗预测等任务中展示了优异的性能,证明了深度储备池计算系统在时序信息处理任务中的潜力。

相关成果以“Multilayer Reservoir Computing Based on Ferroelectric α-In2Se3 for Hierarchical Information Processing”为题,发表在《先进材料》(Advanced Materials)上。北京大学集成电路学院2018级博士生刘柯钦为第一作者,杨玉超教授、黄如院士为通讯作者。

以上研究工作得到国家自然科学基金委后摩尔重大研究计划、国家杰出青年基金、国家重点研发计划、111计划、北大-百度基金等项目的支持。


图:基于深度储备池计算系统的时序信息处理