英特尔联合高校研发神经形态技术，可使大型深度学习网络节能16倍

近日，格拉茨技术大学 (TU Graz)的计算机科学家在 Nature Machine Intelligence 期刊上发表论文表明，他们通过在类脑神经形态芯片上模拟人脑的长-短期记忆单元功能，大幅提高运行大型深度学习神经网络的能源效率，最高达到其他 AI 系统的16倍。

©Nature Machine Intelligence

近年来，人工智能 (AI) 得到了突飞猛进的发展，广泛应用于机器视觉、推荐算法、自动驾驶、生物医疗、自然语言处理、智能助手等等生活的方方面面，这样的成就离不开其背后的核心，也即人工神经网络 (ANN) 和深度学习 (DL) 技术的突破。人工神经网络非常擅长处理大量数据，能够自主识别和推断对象以及不同对象之间的关系，但其同样极其惊人的能耗一直是阻碍这一领域发展的主要障碍，不仅设备、能源成本高昂导致高度中心化，还会带来大量的碳排放，对环境非常不友好。

©Pexels

而在这次突破性研究中，格拉茨技术大学 (TU Graz) 理论计算机科学研究所与英特尔神经形态计算实验室的科学家们通过实验展示了，在运行大型深度神经网络处理自然语言句子等序列时，使用他们的神经形态技术硬件所消耗的能量只有非神经形态硬件的1/4甚至是1/16。这一惊人的突破可能会以无法估量的方式推动人工智能的发展。

英特尔的 Nahuku 线路板，每一个包含8到32张英特尔的 Loihi 神经形态芯片

©Tim Herman/Intel Corporation

让机器更像人

事实上，神经形态的硬件并非是第一次提出。早在2014年，芯片制造头部企业高通(Qualcomm)就做出了他们自己的神经形态芯片（入选2014年全球十大突破性技术），称其为 Zeroth 计划，并将其用于一只名叫 Pioneer 的哈巴狗大小的机器人。通过在芯片上直接模拟由亿万级别的神经元和突触构成的大脑，这一技术能够以大规模并行方式处理信息，凭借区区一块智能手机芯片和摄像头，Pioneer 就能通过模仿和学习实现通常需要大型深度学习神经网络、复杂特殊的编程以及大量电力才能完成的动作和任务。这是由于，相比于计算机传统的基于冯·诺依曼架构的线性计算，神经形态芯片在处理图像或是声音方面的能力和效率要高得多，能够以一种更像人的方式去理解周遭的环境和叙事，并对它们做出响应。

具体到应用，高通最为关注的是 AI 智能助理方面，有了神经形态芯片的加持，智能助理将能以人类的方式去理解世界并与之互动，并学会预测你接下来的需求，比如不仅提示你照片中某个人物的名字，还可以帮助你回忆你和这个人是如何、在哪里认识的，以及你们之间发生了什么故事等等。

不过，高通的 Zeroth 本质上只是在芯片上通过模拟的方式搭载神经形态软件，虽然效果显著，但与真正的“硬核”神经网络还有很大的差距。与此同时，欧洲的人类大脑计划 (Human Brain Project, HBP) 也投入约1亿欧元用于神经形态技术研究，TU Graz 与英特尔的这项研究突破就是由该计划资助的，而这一次，模拟大脑的深度学习软件终于用上了同样受大脑启发的神经网络硬件。

高通的 Zeroth NPU 以及 Pioneer 机器人

©Tim Herman/Intel Corporation

向大脑学习

那么，TU Graz 和英特尔的合作项目为什么能做到如此节能呢？这和他们模拟人脑的做法有关。人类大脑的能效极高，其中的数千亿个神经元在处理信息时只消耗大约20瓦的能量，差不多仅仅相当于一个普通的节能灯泡的能耗。

大脑，绝不虚标！  ©John3/TopPNG

研究人员发现，这种惊人的低能耗与人脑的一种短期记忆机制相关，“实验表明在没有神经活动的情况下，人脑仍然能够在短时间内存储信息，存储位置在神经元所谓的“内变量”上，”TU Graz 教授、论文通讯作者沃夫冈·玛斯 (Wolfgang Maass) 解释道，“模拟实验表明一种神经元子集的疲劳机制是实现这种短期记忆的关键所在。”

沃夫冈·玛斯 (Wolfgang Maass) 教授  ©Lunghammer-TU Graz

目前这项研究缺乏直接证据，因为这些“内变量”暂时无法被测量，不过这已经意味着大脑神经网络只需要通过检测哪些神经元处于疲劳状态就可以重建它们之前处理的信息。换句话说，先前的信息（也即短期记忆）被存储在神经元的不活动状态中，而神经元不活动就意味着消耗的能量最少。

英特尔的 Nahuku 线路板  ©Tim Herman/Intel Corporation

于是，研究人员试图复刻这种大脑机制以取代当前传统计算机芯片上高耗能的逐个检索、来回访问存储的方式，采用英特尔的神经形态 Loihi 芯片组成矩阵，开发出一种超极化后电位 (AHP) 电流机制，并使用了两种深度学习网络进行测试。其中，反馈神经网络负责“短期记忆”，使用大量循环模块去寻找输入信号中可能相关的信息；而前馈神经网络则负责判断找到的这些关系当中哪一些是真正与当前任务有关的，并将无意义的关系筛掉。只有处理相关关系的“神经元”模块会被触发，其他的则一概处于静止状态，从而实现能耗的大大降低。

菲利普·普兰克 (Philipp Plank)  ©diemosbachers.at

在测试中，研究人员在32张 Loihi 芯片的网络上运行他们的算法，并将一个由20个句子组成的故事给到了该神经网络，测试它对故事含义以及其中人、事、物关系的理解。结果表明，这一装置的能效大幅超过了传统计算机，“我们这个系统的能源效率达到了在传统硬件上运行其他 AI 模型的4到16倍”，TU Graz 玛斯教授的博士生、论文作者之一菲利普·普兰克 (Philipp Plank) 提到。同时，未来用上英特尔下一代的 Loihi 芯片之后，芯片间通讯的效率将得到大幅提升，所以他还预计，该系统的能效将进一步提高。

麦克·戴维斯 (Mike Davies)

©Tim Herman/Intel Corporation

“英特尔与 TU Graz 的合作进一步证明了神经形态技术能够通过从生物学的角度重新思考并颠覆深度学习技术，大幅提高其目前的能源效率。”

——英特尔神经形态计算实验室的负责人麦克·戴维斯 (Mike Davies)

多学科交叉发展

事实上，信息技术、人工智能与生命科学、脑神经科学等的融合催生出突破性进展本身并不是什么新鲜事了，这一点从历年的《麻省理工科技评论》“全球十大突破性技术”评选就能看出，而这在大脑这一人体最复杂、精密的器官身上体现得尤为突出。

2006年入选“全球十大突破性技术”的“弥散张量成像”(DTI) 技术通过追踪大脑中水分子扩散的方向来绘制其中轴突的分布和走向，让我们得以一窥大脑中神经元之间传输电信号的脑白质的真容，这一大脑成像技术的重大进展加深了我们对大脑运作方式的认知。

“DTI 让我们能够以前所未有的方式检视大脑。”

——明尼苏达大学医学院神经系统科学家和精神病学家 开尔文·林 (Kelvin Lim)，该技术的研究者之一

2008年入选“全球十大突破性技术”的“神经连接组学”则另辟蹊径，通过荧光蛋白等技术给大脑的神经网络进行染色，从而尝试为神经系统中收集、处理和存储信息的错综复杂的神经回路创建物理映射，方便直接观察。这一技术大大提高了科学家观察大脑的“图像分辨率”，使得他们可以在“大脑线路图”中一目了然地观测信息是如何在大脑的不同区域、不同神经元以及不同突触之间传输的，进而研究各种发生机制，以及精神类疾病、神经系统疾病究竟是哪些线路出错导致的缺陷。

“大脑本质上是一台计算机，其发育过程实质上就是自行布线的过程，它还支持重新布线（以适应变化）。如果现在有一张大脑的线路图，我们就能更好地了解它是如何工作的。”

——麻省理工学院计算神经科学家塞巴斯蒂安·宋 (Sebastian Seung)，该技术的研究者之一

我们对大脑结构认知的不断进步带来的是人工智能领域的突破性进展，其核心、也是前面提到过的深度学习技术（入选2013年“全球十大突破性技术”）就是一个典型的例子。它仿照大脑的神经网络去构建人工的深层神经网络架构，将大量数据筛过一层一层的“神经元”，赋予机器以“学习”的能力。

无独有偶，2014年与“神经形态芯片”一同入选“全球十大突破性技术”的“大脑图谱”则是受益于偏振光成像技术的发展而产生的脑神经科学突破。同样是在欧洲的人类大脑计划 (HBP) 的资助下，一个由德国和加拿大科学家领导的研究小组花了十年的时间制作了一个大脑的三维图集，构建了一个支持在其中自由游走、放大、缩小以查看细节的高精度“数字大脑”，可以让科学家非常清晰地看到完整脑组织内细胞和神经纤维的排列以及神经元、神经回路的空间结构，其分辨率达到了此前这类图集的50倍。

One More Thing

最近，比利时纳米数字研究机构 Imec 开发了 Neuropixels 探测器，是一种新的探针，可以在神经元的水平上观察活体大脑。

Neuropixels（神经像素）探针  ©Imec

这根探针是一根数字探针，用到了一种叫做神经像素（Neuropixels，也即新探测器的名字）的全新技术来观察大脑，其功能类似于成像，不过，它记录的是电场，而不是光场。它背后的研究团队有着多学科交叉背景，包括工程师、神经科学家、软件设计师等等，目前取得的成果也是充分利用了属于其他领域的微电子学的发展，发明了一种新的传感器，能够同时监听任何一小部分脑组织中成千上万个神经元之间的电流对话。与此同时， Imec 还创建了 OpenScope 共享大脑天文台，向世界各地的大脑研究者提供开源数据。

观测大脑的电场  ©Imec

这一突破毫无疑问会进一步加深我们对大脑活动的理解，它又会给其他学科领域带来什么样的惊喜呢？让我们拭目以待。

大脑成像  ©EBRAINS

资助这次神经形态芯片研究的人类大脑计划 (HBP) 也是一个多学科交叉的国际研究组织，成员包括来自神经科学、医学以及其他受脑科学启发的科技领域的500多位科学家与工程师等等。他们最近正在建设一个永久性的研究机构 EBRAINS（直译为电子大脑），将进一步以大脑为核心推动各个学科的融合发展。

©EBRAINS

他山之石，可以攻玉。“两耳不闻窗外事，一心只读圣贤书”的时代已经过去，多学科交叉、跨学科融合发展已经是大势所趋，且正愈演愈烈。为此，我们梳理了由《麻省理工科技评论》发布的200项“全球十大突破性技术”，涵盖过去二十年科技领域几乎所有学科最前沿、最精华的内容，还邀请了全球相关领域专家、投资人进行深度解读和权威点评，一并整理进了《科技之巅（20周年纪念版）》，可能是一书了解各个学科领域、通晓科技发展的最佳途径。目前新书即将推出，不论你是兴趣广泛、雨露均沾，还是专精一门、十年一剑，相信它都会给你带来灵感的迸发！欢迎持续关注，我们一起见证20年来科技发展的沧海桑田，一瞥世界未来的样子。

参考资料：

1.https://www.technologyreview.com/supertopic/tr10-archive/

2.https://www.nature.com/articles/s42256-022-00480-w

3.https://mp.weixin.qq.com/s/3pxgchbGR4QSmCcF2qwaKg

4.https://mp.weixin.qq.com/s/yEvcF9nT2lOrOcNszJf-0A

5.https://mp.weixin.qq.com/s/3vDtcoT6QOLgUAyjWCAJcw

6.https://www.tugraz.at/en/tu-graz/services/news-stories/tu-graz-news/singleview/article/tu-graz-und-intel-demonstrieren-signifikante-energieeinsparungen-durch-neuromorphe-hardware0/

7.https://brainchip.com/products/

8.https://baijiahao.baidu.com/s?id=1703195366038752859&wfr=spider&for=pc

9.https://www.lelewen.cn/wenda/623949via5648c1f.html

10.https://baijiahao.baidu.com/s?id=1713041775802377099&wfr=spider&for=pc

11.https://m.thepaper.cn/baijiahao_18204680

-END-