唐建石:研制一系列新原理神经形态忆阻器,旨在推动类脑计算突破“冯∙诺依曼”架构瓶颈 | 创新35人专栏

收藏
关键词: 类脑研制神经
资讯来源:DeepTech深科技
发布时间: 2022-04-02


1 月 22 日,由 DeepTech 携手络绎科学举办的“MEET35:创新者说”论坛暨“35 岁以下科技创新 35 人”2021 年中国线上发布仪式成功举行。


来自科学界和产业界的人士在云端共同见证了新一届中国青年科技领军人物登场。



作为“远见者”入选的唐建石研制了一系列神经形态的忆阻器来模拟生物突触、神经元和树突等多种功能,致力于推动类脑计算的进步。


获奖时年龄:33 岁


获奖时职位:清华大学副教授


获奖理由:过去几十年,半导体技术的发展始终在一定程度上遵循摩尔定律,但时至今日,人类已经逼近硅晶体管尺寸微缩的物理极限,传统计算硬件的性能持续提升变得愈发困难。与此同时,人工智能等新兴技术的飞速发展又对高算力、高能效的计算硬件提出了更高的需求。


为了解决这一矛盾,清华大学副教授唐建石专注于探索新材料、新器件、新架构来开发更快、更高效的先进计算技术。他带领团队提出了调控氧化物中离子运动的新机制,研制了一系列神经形态的忆阻器来模拟生物突触、神经元和树突等多种功能,并进一步利用其独特的存算一体优势和仿生特性来实现高效的类脑计算。


聚焦新材料、新器件以及新架构研究类脑计算,以突破“冯∙诺依曼”瓶颈


随着新兴技术的飞速发展,数据迎来了爆炸式增长,如何高效、快速处理这些海量数据,对芯片的算力(即每秒能计算的次数)与能效(即单位功耗能提供的算力)提出了越来越高的要求。


据 OpenAI 数据显示,2012 年之后,人工智能的神经网络训练对算力的需求大约每 3.4 个 月就翻一倍,此增长速度远远高于过去几十年里集成电路行业所遵循的摩尔定律——每 18-24 个月芯片集成度与性能提高一倍。


我们可以看到,在摩尔定律的推动下,硅基芯片的算力与能效在过去 40 年增长了近一千万倍,但整体趋势已明显放缓,传统计算硬件面临的瓶颈与挑战主要来自以下两方面:


第一,来自于后摩尔时代的工艺瓶颈。随着集成电路产业向 5nm 及更先进工艺节点迈进,晶体管特征尺寸逐步逼近物理极限,由短沟道效应、量子效应等带来的功耗、可靠性等问题制约了芯片性能的进一步提升,芯片制造成本也不断飙升,导致摩尔定律面临失效;


第二,来自于芯片厂商普遍采用的传统“冯∙诺依曼”架构。其数据的存储和计算分离带来了“存储墙”等问题,在人工智能等以大数据为核心的应用中,大量的数据需要在存储器和处理器之间通过有限带宽的数据总线反复搬移,导致了能耗和延时的急剧增长。


因此,清华大学集成电路学院唐建石副教授将研究方向聚焦在如何利用新的材料、新的器件以及新的架构来实现更快、更高效的先进计算技术,以突破“冯∙诺依曼”瓶颈,这也是当前学术界和产业界重点关注的方向。


据悉,唐建石课题组目前主要围绕基于忆阻器的类脑计算来开展研究,通过学习大脑的基本结构和工作原理开发存算一体技术,实现存储-计算融合,以解决“冯•诺依曼”架构中的“存储墙”问题。


研制一系列新原理忆阻器,来实现高效的类脑计算


作为极具潜力的新型非易失性存储器之一,忆阻器(也称阻变存储器,或 RRAM)是一种新型神经形态器件,可以模拟神经突触或者神经元的功能,具有高速、低功耗、多比特存储以及结构简单、CMOS 工艺兼容、集成密度高等优点,可以通过外加电压脉冲来连续调节忆阻器的电导,表现出模拟阻变特性。


唐建石表示:“我们把忆阻器交叉阵列作为计算单元,把输入的电压作为一个向量,用忆阻器电导矩阵表示要运算的矩阵,用欧姆定律做乘法,用基尔霍夫电流定律做加法,就可以在一个脉冲之内快速完成向量-矩阵乘法的操作,从而实现多种神经形态计算,这就是用忆阻器实现存算一体的基本原理。”


传统数字电路具相比,基于忆阻器的存算一体架构具有显著的性能优势,它避免了数据的来回搬运,一个忆阻器就可以等效地完成一个乘法器、一个加法器以及一个存储器的功能。


传统忆阻器大多是基于非晶氧化物,其关键挑战之一在于氧离子运动的随机性,导致器件的阻变特性表现出较大的离散性。为此,唐建石团队提出了通过精确调控氧化物中离子运动来设计神经形态器件的新机制,研制了一系列具有优良模拟阻变特性的新原理忆阻器来准确模拟生物突触、神经元和树突等多种功能,并进一步利用其独特的存算一体优势和仿生特性来实现高效的类脑计算。


譬如,唐建石团队研制了一种基于可控离子嵌入的新型电化学存储器(ECRAM)作为人工突触器件,其模拟阻变特性具有优良对称性和线性度,可实现高速、低功耗的类脑计算(IEDM 2018);设计并制备了一种基于可逆拓扑相变的新型忆阻器(TPT-RAM),具有高度可控的模拟阻变特性,以解决传统忆阻器随机性大的难题。


再比如,他们还首次研制了一种动态忆阻器作为人工树突器件,并构建了一种包含树突计算的新型仿生人工神经网络,以显著提升网络准确率和能效,进一步利用该动态忆阻器实现了一种新型的并行储备池计算系统,成功演示了高精度语音识别、混沌预测等典型时序信号处理任务。


此外,唐建石团队还提出了一种基于忆阻器的新型脑机接口,可以利用仿生的神经形态器件高效解码多通道生物脑电信号,破译大脑的工作机理,演示癫痫预测和大脑癫痫状态识别。


提升忆阻器模拟阻变特性,破解非晶氧化物传统忆阻器随机性大的难题


针对现有的神经形态器件在电导调控精度、波动性等方面的性能瓶颈问题,唐建石团队与清华大学物理系于浦教授团队进行跨学科合作,从新型阻变机理出发,提出了利用具有可逆的拓扑相变特性的氧化物锶钴氧(SrCoOx)材料作为器件的阻变层。


他们联合设计了一种新原理神经形态器件——基于可逆拓扑相变的新型忆阻器(TPT-RAM),通过调控氧离子沿着晶体中氧空位通道有序迁移,可大幅度提升忆阻器的模拟阻变特性,有助于解决基于非晶氧化物的传统忆阻器随机性大的难题[1]。


图 | 基于可逆拓扑相变的新型忆阻器TPT-RAM(来源:Science Advances


实验表明,该器件在类脑计算和神经网络剪枝方面性能表现优异,唐建石团队利用其独特的双模态突触特性演示了神经网络剪枝,可以帮助减少了约 84.2% 的冗余突触,同时将手写数字图像识别准确率提高到 99%,该工作为优化和设计高性能的神经形态器件和类脑计算提出了一个新的思路。


在此前的神经形态器件研究中,忆阻器通常被用来作为人工突触或神经元器件,分别模拟突触可塑性与神经元积分-发放功能。


唐建石表示:“为了弥补人工树突器件的空白,我们团队通过材料体系遴选与器件结构设计,制备出了一种能够模拟树突功能的动态忆阻器件[2]成功复现了生物树突对信号的非线性过滤、积分以及对时序信号的处理方式。”


图 | 包含树突计算的新型人工神经网络(来源:Nature Nanotechnology

唐建石进一步表示:“对于所研制的动态忆阻,除了用作上述人工树突型器件外,我们还利用其固有的动态特性和非线性构建了高效的仿生计算系统——储备池计算系统[3],在语音识别和混沌信号预测任务上分别实现了极低的错词率和预测误差,结果优于已有的储备池计算系统,初步验证了动态忆阻器在神经网络加速器、边缘人工智能计算和智能传感等方面的应用潜力。”

图 | 基于动态忆阻器的新型储备池计算系统(来源:Nature Communications


为了满足规模化应用需求,现阶段的忆阻器还存在器件间一致性较差、操作电压偏大等问题需要解决,该团队正针对这些问题不断攻坚克难,希望能尽快将其应用到大规模的神经网络中。


探寻人工智能应用落地和成果转化,推动类脑计算技术产业化


据悉,近年来,唐建石在 Nature Electronics、Nature Nanotechnology、IEDM 等重要期刊和国际会议上以通讯/第一作者发表论文 38 篇。他的论文被引次数超过 7000 次,其中 8 篇论文入选“ESI 高被引论文”。


他表示:“科研是一项永无止境的工作,钻研地越深,越触及领域的前沿,就越能发现更多的新问题。


兴趣,是支撑我做科学研究最大的动力来源;兴趣,会驱使我们去关注本领域发展的科技前沿,去尝试解决一个个的科学问题与技术挑战。另外,帮助我国集成电路产业在科研中培养更多的优秀人才,这也是我做科研的动力来源之一。”


然而,科研之路不只有鲜花与掌声,科研难题也很常见,每当遇到困难时,唐建石通常会沉下心来从不同角度去分析问题,寻找突破口,通过查阅文献、与别人合作研讨去分析可能的解决方法,然后不断去尝试、总结,直到找到问题的答案。

唐建石认为,做科研的成就感主要来自两方面:一方面,是解决某个科学技术问题带来的喜悦感,发现别人未曾发现的现象、在本领域做出学术贡献;另一方面,作为教师能够把自己的知识和技能传递下去,看到自己培养的学生迅速成长带来的欣慰感,当学生做出一项好的成果时,比自己发一篇好文章还要高兴。


对于入选“创新 35 人”,唐建石表示,“非常感谢《麻省理工科技评论》“35岁以下科技创新 35 人”组委会和评审专家的认可,更感谢我们团队和学校对我的支持与帮助,这次获奖不仅是对我本人和团队过去多年工作的认可,更是对我未来科研工作的鞭策与鼓励,激励我为科学、为社会继续做出更大贡献。”


未来,唐建石还会沿着如何利用新材料、新器件以及新架构来实现更快、更高效的先进计算技术进行探索,去推动忆阻器与类脑计算技术的产业化应用。


扫描上图二维码,下载络绎科学 APP
  输入邀请码 RHP2HD,观看直播回顾


-End-



参考:

1. Xin Mou, Jianshi Tang, et al., Science Advances 7, eabh0648 (2021)

https://www.science.org/doi/epdf/10.1126/sciadv.abh0648

2.Xinyi Li, Jianshi Tang, et al., Nature Nanotechnology 15, 776–782 (2020)

https://www.nature.com/articles/s41565-020-0722-5

3.Yanan Zhong, Jianshi Tang, et al.,Nature Communications 12, 408(2021)

https://www.nature.com/articles/s41467-020-20692-1


【关于创新35人】

自 1999 年起,《麻省理工科技评论》每年从世界范围内的新兴科技、创新应用中遴选出 35 岁以下对未来科技发展产生深远影响的创新领军人物,涵盖但不限于生物技术、能源材料、人工智能、信息技术、智能制造等新兴技术领域。“35 岁以下科技创新 35 人”(MIT Technology Review Innovators Under 35,简称 TR35)堪称科技领域最权威的青年人才评价体系之一,在产业界和学术界获得了广泛认同。2017 年,TR35 中国评选正式推出,目前已历经五届。


【正在报名】

2022 年“35 岁以下科技创新 35 人”中国报名已正式开启,若您有意愿了解或申报 2022 TR35 China,欢迎点击“阅读原文”了解详情。更多新一届评选细节请持续关注 DeepTech 和络绎科学。


【咨询邮箱】

tr35@mittrchina.com