低功耗毫瓦级注意力机制类脑芯片研发成功。
在北京,人民网6月5日的报道指出(记者赵竹青),尽管人脑能运行复杂的神经网络,但其整体能耗仅约20瓦,远低于当前人工智能系统的能耗。鉴于此,在追求算力提升与能耗增加的竞赛中,效仿人脑的低能耗特性来研发新型智能计算系统是一个极具前景的领域。近日,由中国科学院自动化研究所李国齐、徐波团队与时识科技公司等合作,他们研发出了一种名为“Speck”的类脑神经形态系统级芯片(System on Chip, SOC),该设计实现了软件与硬件的协同,旨在展现类脑神经形态计算在整合高级大脑机制时的优势。这项成果已在线发表在《自然・通讯》。
该研究首次提出“神经形态动态计算”的理念,通过设计一款名为“Speck”的芯片,运用注意力机制进行动态计算。在硬件层面,即使无输入, Speck也能保持极低功耗;在算法层面,它能根据输入的重要程度动态调整计算。在典型视觉任务中,它能将功耗降至0.7毫瓦,充分发掘神经形态计算在效能与性能方面的潜力。 Speck是异步感测与计算一体化的类脑神经形态SoC,内置动态视觉传感器(DVS相机)和神经形态芯片,静息功耗低至0.42毫瓦。它能在微秒级别精确感知视觉信息,采用全异步设计,仅在接收到事件输入时执行稀疏加法运算,有效节省能源。
针对SNN在时间维度上无法根据输入难度调整发放脉冲的“动态失衡”问题,研究者通过注意力机制构建的神经形态脉冲动态计算框架,实现了对不同输入的差异化动态响应。此外,Speck的Sinabs编程框架支持动态计算的SNN算法训练和部署。结果显示,通过注意力机制,SNN得以实现动态计算,根据输入难度调整脉冲模式,成功解决了“动态失衡”,在提高任务性能的同时大幅降低了能耗。在DVS128 Gesture数据集上,集成动态计算功能的Speck提升了9%的任务精度,平均功耗则从9.5毫瓦降至3.8毫瓦。
这一研究成果实证了融合不同层次大脑机制能进一步激发类脑计算的潜力,为未来将大脑进化中的高级神经机制融入神经形态计算提供了积极的启示。希望这项工作能引起更多人的关注。
该研究首次提出“神经形态动态计算”的理念,通过设计一款名为“Speck”的芯片,运用注意力机制进行动态计算。在硬件层面,即使无输入, Speck也能保持极低功耗;在算法层面,它能根据输入的重要程度动态调整计算。在典型视觉任务中,它能将功耗降至0.7毫瓦,充分发掘神经形态计算在效能与性能方面的潜力。 Speck是异步感测与计算一体化的类脑神经形态SoC,内置动态视觉传感器(DVS相机)和神经形态芯片,静息功耗低至0.42毫瓦。它能在微秒级别精确感知视觉信息,采用全异步设计,仅在接收到事件输入时执行稀疏加法运算,有效节省能源。
针对SNN在时间维度上无法根据输入难度调整发放脉冲的“动态失衡”问题,研究者通过注意力机制构建的神经形态脉冲动态计算框架,实现了对不同输入的差异化动态响应。此外,Speck的Sinabs编程框架支持动态计算的SNN算法训练和部署。结果显示,通过注意力机制,SNN得以实现动态计算,根据输入难度调整脉冲模式,成功解决了“动态失衡”,在提高任务性能的同时大幅降低了能耗。在DVS128 Gesture数据集上,集成动态计算功能的Speck提升了9%的任务精度,平均功耗则从9.5毫瓦降至3.8毫瓦。
这一研究成果实证了融合不同层次大脑机制能进一步激发类脑计算的潜力,为未来将大脑进化中的高级神经机制融入神经形态计算提供了积极的启示。希望这项工作能引起更多人的关注。
本文标签: