施路平:类脑计算——人脑与电脑
●●●
施路平教授的演讲题目是《类脑计算——人脑与电脑》。他为我们介绍了发展类脑计算的必要性及其挑战,并分享了关于世界首款异构融合类脑芯片“天机芯”的研究成果。他认为,人脑和电脑这两个系统可以互补,类脑计算能够支撑人工通用智能以下为演讲全文:
各位朋友大家好!非常感谢大会能够给我这一次机会和大家分享类脑计算。类脑计算是借鉴脑科学的基本原理、面向人工通用智能、基于神经形态工程发展的新的计算技术。
为什么我们要发展这样一个技术?
大家知道现在我们生活在一个数码宇宙,万事万物随时随地联系起来,构成一个万物互联的数码宇宙。这个宇宙成长非常快,信息每两年翻一番,整个宇宙迅速地膨胀,而且从来不退步。这样一个宇宙是基于我们现在的计算机架构,而计算机架构又基于冯诺依曼架构。
冯诺依曼架构是我个人认为人类发展史上最简洁、漂亮、对我们影响最大的一个架构。它的特点是计算和存储分离,计算和存储都通过总线来回调度。大家可以设想一下,来回调度耗费了很多能量,耽误时间速度慢,造成了堵塞,所以有了带宽的瓶颈。因此,计算机领域最高的图灵奖2017年的两个得主hennessy和patterson最近写了一个长文,结论是未来的10年是计算架构发展的黄金十年。因为我们过去是用计算机做计算,现在我们是用它处理信息,而我们的数码宇宙每两年翻一番,就是能耗也受不了。
当然还有其它原因,就是我们现在生活在一个人工智能时代,人工智能取得了非常大的成绩。不过我们发现,尽管可以用alphago战胜世界冠军,但是仍然有很多瓶颈。简单来说我们必须满足5个条件,那就是充足的数据、确定性的问题、完备的知识、静态的环境和单一的系统。
举个例子,如果我们让一个智能机器人从这里出去,如果不事先编程,它是做不到的。因为我们人用了几年的时间建立起“我”这个概念。在哪里?怎么出去?走门儿,还是走窗户?所有的这些都与我们的通用智能有关。所以我们的结论是,我们要发展一个人工通用智能,我们想象的人工通用智能。只是我们没有充足的数据,现在数据很少甚至很多假数据,很多问题也不能明确。
我们碰到过一个动态的,而且有很多系统交互在一起,但是我们的系统仍然能够处理。这就是我们希望的人工通用智能。要发展人工通用智能,我们必须向脑学习,因为整个宇宙是目前唯一的一个通用智能体。我们把脑和电脑做一个比较,会发现电脑强的,人不强;电脑不强的,人强。我们看过《最强大脑》,那些我们叹为观止的、非常让我们羡慕的选手的能力,其实对于计算机来讲是小儿科。我们发现人脑和电脑两个系统虽然原理不同,但是实际上是互补的,所以借鉴脑科学的基本原理改造现在的计算机系统、发展类脑计算是发展人工通用智能的一个非常重要的部分,因为前者是后者的计算基石。
发展人工通用智能不是一个新的想法。如果我们看一下过去图灵、冯诺依曼这些大科学家早期的文章,会发现这是我们一直以来的梦想。现在为什么是发展人工通用智能最好的时机呢?因为随着精密仪器的发展,我们对脑知道的越来越多,我们似乎到了一个理解脑的关口。超级计算机的发展可以使我们进行很好的模拟仿真,省钱、省力、省时间。大数据、云计算给我们提供了一个像脑一样复杂的系统,和脑交相呼应,我们可以共同研究、互相促进。另外,纳米器件已经可以使我们去发展像人脑能耗水平一样的神经元和突触这样的电子器件。
所以,现在是发展人工通用智能最好的一个时机。
要发展类脑计算去支撑人工通用智能,脑起了非常大的作用。它到底起了一个什么作用?13年前,有感于摩尔定律在二三十年后要到头,所以我开启了类脑计算的研究。当时我自认为自己做研究还不错,但忽然感到自己不会做研究了,因为没有文献,很多东西需要自己摸索,所以感到非常的苦恼。有一次我去爬山,故意让自己钻进森林走丢了,后来我就根据太阳判断方向,盯着一个方向一直走、一直走,走到高速公路上,截了一辆车。之后,我还找了一个阴天进去,我想了一个办法,一直往高爬,爬到最高的地方,盯住一个点一直走、一直走,走到高速公路,截了个车我又回去了。这两件事情让我思考,脑在这里面起的是指南针的作用,给我们提供的是方向感,因为这是唯一所知的通用智能体。
做研究,我喜欢做难的,因为我觉得越难的越容易。因为太容易的话有很多竞争者,你很难领先;如果很难,做着做着旁边就没人了,你反而可以领先。但是,有一个前提条件,就是方向必须是正确的。如果你走到错路上,大家都跑了,你是很尴尬的。
我们人的智能是建立在碳基上的,在硅基上我们已经建造了现在的数码宇宙,而碳基、硅基的结构非常相近。所以我们有一个信念,碳基上能够实现的,硅基上一定能够实现。发展类脑计算和人工通用智能,真正的挑战既不是科学,也不是技术,而是因为我们的学科分布使得我们没有合适的人做这样的研究。而且,脑科学和计算机科学,一个探索自然世界,一个更关注应用,它们有不同的文化和语言,目标也不一样,所以多学科融合尤为关键。
清华大学类脑计算研究中心由7个院系组成,因为这个领域不仅仅是计算机和脑科学,还有数学、物理、电子、微电子等。我们7个院系的老师在一起反复讨论,每周半天的时间,最后我们7年只做了一件事情,叫“融合、融合再融合”。
在这个过程当中,我们梳理了一下发展人工通用智能,现在主要是有两条技术路线。一条是计算机主导的,一条是脑科学主导的。计算机主导的像机器学习在图像识别、语音理解、自然语言的处理方面取得了辉煌的成绩,但是它很难处理不确定性的问题等。脑科学方面,像是神经形态计算发展得也很快,但是由于我们不理解脑的机制,极大地阻碍了它的发展。但是两条技术路线实际上互补,把两者结合起来,是目前我们认为最好的一种方法。
发展类脑科学实际上还有两条,一个是基于计算机用脑科学的基本原理来改变计算架构,第二个就是仿脑,因为brian-inspired computing实际上覆盖了brain-like,你都已经brain-like了,还能不是inspired吗?所以,我们用一个“类脑”这样简单又明了的词涵盖这两个部分。就我们本身而言,我们是沿着brian-inspired computing这个路线走的。这一研究,实际上你要研究理论芯片、软件、系统、云脑到应用。但是大家总是问一个问题:“不理解人脑,凭什么你能造出类脑计算系统来?”
我们思考了很久,后来得到了答案。
我们的答案是这样的:计算机是把多维空间的信息转换成为0、1这样一维的信息流,用计算来解决问题,cpu的主频越来越快。换句话说,你用的是时间复杂度,你的问题是什么?你的问题是当你缩维的时候,你的(数据的)相关性丢失了,这就是人很容易确定一个物体是在真实空间里还是在镜子里,计算机则很难,这个是根本原因。
脑我们不知道它的基本原理,但是我们知道,一个神经元接一千到一万个神经元,换句话说我们在这里把信息扩束了,把相关性增强了,我们用的是空间复杂度。另外我们的脑还用脉冲来编码,引进了时间的因素,我们还利用了时空复杂度。所以我们是想保持现在的计算机所有的优点,保持时间复杂度,增加一块类脑芯片。增加的是什么呢?增加的是空间复杂度、时空复杂度。
如果我们以这种观点来看现在的技术,你就发现现在的人工神经网络的加速器是面向深度人工神经网络,它利用的就是空间复杂度。而像脑一样工作的神经形态计算,面向的是脉冲神经网络,它利用的是时空复杂度。一个空间复杂度,一个时空复杂度,何不把它结合起来呢?所以我们想了一个办法,提出了天机芯片架构。我们用了3%的代价,实现了既支持人工神经网络又支持像脑一样工作的脉冲神经网络,而且还支持两个的异构建模。
“天机芯”登上 nature 封面
我们还利用类脑芯片构建了一个人工通用智能的研究平台。我们的想法是这样:构建一个可以和系统互动的多模态交叉研究平台,我们利用环境变化逼迫这个系统变化,当它变化的时候,我们会观察应用这种变化时,系统应该遵循的基本原理,从而帮助我们迭代发展。利用一块天机芯片,我们就实现了感知、追踪、过障、避障、自动控制、语音理解、自主决策。
装上“天机芯”的自行车可以追踪、自动避障等
芯片很重要,软件也很重要。因为如果没有软件,应用工程师是不愿意做应用软件开发的。在我们实验室我们自己开发了一个软件工具链,在我们实验室现在实际上已经搭起了第一代的类脑计算机。我们现在做的是一个类脑云脑,它和现在的云计算的差别是云计算是把很多技术整合起来,而类脑云脑是面向人工通用智能的。因为人工通用智能的研究,并不是多种人工智能的简单叠加。我们的想法是把脑的弹性和计算机的刚性结合起来,把数据驱动和知识驱动结合起来,把通用知识和推理结合起来。当然这是一个非常具有挑战性的长期研究,我们的策略是循序渐进。
大家记住我刚才说的五个条件,我们可以设想一下,我们先专注在一个一个问题的研究上,这个可以称为是第一代。然后两个问题一起研究,这个可以称为第二代,然后第三代、第四代,最后是第五代,从而让我们构建人工通用智能。我们发展类脑计算,支撑人工通用智能,因为它是通用智能,所以它可以赋能各行各业,可以有很多的应用。
其中,我们对智能教育特别感兴趣,因为我们教育的很多问题都可以通过这样的研究解决。比如说高质量的教育资源很稀少,所以造成了教育不公,社会从一开始发展就有不公平的因素。还有因材施教,我们每个人是不一样的,但由于经费有限、仪器有限,我们很难做到真正的理论联系实际。此外,还有终生学习等等。随着类脑计算、人工通用智能的发展,这些都会逐渐地解决,然后发展新的系统。但是还有一个非常重要的因素,因为教育最主要的是塑造人。
自工业革命以来,我们发展了蒸汽机、发电机、计算机、大数据,还有现在的万物互联。我们一直在改变外部的世界,在改变我们的物质生活。但看一下我们现在的世界,贸易纷争,国家、民族、人之间有很多矛盾,我们忽然发现,当我们的物质生活发展得已经很快时,精神生活实际上没有同步发展。我们现在在智能时代发展类脑计算,我们有机会向内发展,审视我们的内心。
我通常只参加学术活动,这次之所以接受腾讯的邀请来做这一个演讲,是因为腾讯提出了一个“科技向善”的理念,和我们的理念是相通的。我们衷心地希望人类在发展我们的技术、探索外界世界的同时,能够也研究一下我们的内在世界,内外兼修、共同发展,建设一个美好、和谐的世界。
谢谢大家!
注:本文转载自公众号“腾讯科学we大会”。