NeuroAI作者，冷泉港主任独家专访：忽视神经科学给我们的启示是愚蠢的

A：基本思想是，如果我们看人工智能的历史，它是完全与神经科学的历史交织在一起的。如果你回到现代人工智能的最开端，现代人工智能的第一篇论文，可以说是第一篇神经网络论文，是 McCulloch-Pitts 1943 年的这篇论文，它提出了人工神经元的想法。1946年，冯·诺依曼提出的冯·诺依曼机（所有现代数字计算机的基础）正是受到了这篇论文的启发。1957年提出的感知机（Perceptron）也是生物神经细胞的简单抽象。 

回溯人工神经网络的历史。例如，卷积神经网络 CNN 明确地受到 Hubel 和 Wiesel 的启发。20年来，大多数人工智能和人工技术的重大进步，有很多都来自神经科学。这篇工作的核心思想就是希望两方要保持这些联系牢固， 神经科学领域的人，以及人工智能领域的人，在两个学科方面都受过同样训练的人。所以我们要做的就是团结起来，重新团结，重新团结起来。核心思想就是汲取神经科学中的养分，将它们应用到AI当中。

Q：白皮书强调了 NeuroAI 革命。你认为这场革命的最终目标是什么？它通向哪里？

A：人们总是在说AGI，我不喜欢这个术语，因为我不相信智能的通用性，智能应该是非常具体的。每个智能体、每个有机体都有其特定的偏见。这就像没有免费午餐定理，你不可能同时擅长所有事情。我更喜欢AHI（artificial human intelligence）这个词， 人们普遍想象这样一个智力金字塔，底部是蠕虫，或水母，然后再高一点，可能有鱼，最后是老鼠、猴子和黑猩猩，然后是人类。我认为这是完全错误的。我认为，每个不同的有机体都非常擅长解决各自需要解决的问题。所以NeuroAI革命的终极目标应该是AHI。现在缺失的部分（需要解决的部分）不是那些使人类成为独特人类的小部分，而是其他一切。

有一个理论叫做莫拉维克悖论，莫拉维克是一名AI研究员的名字。1988年，他写了一本关于这一概念的书，核心思想是，对人类来说很难的事情对计算机来说往往很容易。对人类来说容易的事情对计算机来说却非常困难。

国际象棋是一项具有挑战的游戏。大多数人都不是很擅长。1997年，计算机在这项技术上打败了人类，IBM的“深蓝”打败了世界国际象棋冠军卡斯帕罗夫。其他游戏也是如此。显然，计算机在计算乘法之类的方面要厉害得多。但如今，人工智能目前的发展轨迹正在让人工智能解决我们认为独特的人类问题，比如语言。大规模语言模型虽然仍然不完美，但是已然相当接近人类的语言能力。但目前我们还没有可以与物理世界交互的人工智能体。比如说，我的梦想是拥有一台可以装洗碗机的洗碗机，可以帮我铺床、洗衣服，因为那样我就不用做那么多的家务了。而我们距离那个目标还非常遥远。

5 年前，人们说人们预测人工智能革命会颠覆经济，例如取代开车的人。我有一辆特斯拉，它还不会自己开呢。开车驾驶涉及与世界互动。所以我最近还在和要上大学的孩子们开玩笑说，如果他们未来想保住自己的饭碗，应该当水管工。因为AI没法很快取代水管工。

Q：如何理解具身图灵测试？

A：「具身图灵测试」其实最开始是别人提出来的，在我们的这篇工作中强化了。标准的图灵测试是指一个人工智能系统可以在对话中愚弄人类，目前我们已经非常接近了。最好的语言模型已经可以骗人，得出的文本甚至比很多人说话都连贯通顺。而具身图灵测试，则是关于测试智能体与世界互动的方式，比如说打网球或骑自行车。

换句话说，一个智能体要能做这个星球上的每只动物毫不费力可以做的事情。所以我想目标是重新思考认知的基础，但要从下到上进行底层的重建。

Q：如您所说，目标是AHI，我们如何才能实现这个目标？换句话说，如何提供切实可行的技术路线图？

A：这是一个开放性的问题。这篇文章的作者列表上有20多个人，都来自不同机构，但我只和他们中的几个有过合作。关于具体如何推进，可能想法各不相同。其实这不像说，有一个列表，上面写好了我们要做1234。

我认为，核心思想就是，为了取得进步，忽视自然、神经科学要教给我们的东西是愚蠢的。打个比方，想象一下，一艘来自外太空的宇宙飞船并降落在地球上，上面有一大堆先进的技术。反重力设备等。于是我们也想建造反重力设备，把它拆开，尽可能多地学习如何建造反重力机器。造AI也是同理，我们四周就遍布着各种让人惊奇的例子，因为遇到的每只动物几乎都是自然、聪明，且能与世界交互的。所以如果不去学习神经科学是愚蠢的。我们已经了解了动物智力的产生，以及神经元和构建模块的知识，只是需要知道以什么样的方式将他们组合在一起。

我们已经完成了一半的逆向工程，已经把这个问题拆解开了。现在需要的是下半场。神经科学的意义在于将它们拆开的时候知道每一部分是什么，而人工智能则侧重于工程，能够以一种有效且有用的方式将它们组合在一起。这才是我们所追求的目标。

Q：在理想状况下，智能机器能像人脑一样稳定、高效吗？

A：我认为，与生物相比，硅基不一定是差一等的基底，甚至可能更好。问题不在于物理基板。问题是我们对生物计算的工作原理了解不够，无法构建复制它的物理系统。这就需要在人工智能工程和神经科学研究之间来回切换。

Q：如果我们想实现《西部世界》中的世界，主要的障碍是什么？

A：我看过几季《西部世界》，它们似乎并不是理想中的AI，很多角色最后下场不怎么样。物理学家Richard Feynman有一句名言——我无法创造出我不理解的事物，“What I cannot create, I do not understand”。也就是只有真正理解了才能够构建。

Q：如何构建「意识」？

A：我能想到的最好方法就是造人，生孩子（笑）。我有两个小孩，我认为他们大部分时间都意识清醒。所以这是最简单的方法，我猜最近大约有 70 亿人都这样做。

另外就涉及到AHI，建立一个像我们一样思考的人工系统，以与我们相同的方式思考，和他交谈，看看他脑子里到底在想些什么。最近的一个报道（https://www.cnn.com/2022/07/23/business/google-ai-engineer-fired-sentient）讲到，有位谷歌工程师认为与他交谈甚欢的大型语言模型有意识，尽管别人都认为是他错了，他却信誓旦旦。

Q：作为神经科学家，神经科学应该如何给人工智能研究带来启发？

A：有两种思考方式。首先，以正确的方式从神经科学中提取思想，并将它们应用于人工神经网络。人工神经网络最初是源于从4、50年前形成的神经回路理论。从那时起，我们已经了解了足够多的神经科学。

AI研究员们经常去神经科学的会议，他们会坐在观众席上，然后说，太有趣了，也许我可以用上那个。这当中有很多偶然性。Yann LeCun、Geoff Hinton他们偶然会读到一些神经科学的论文。Jeff Hawkins实际上花费了大量时间思考神经科学，他非常看重这一学科。印象中，差不多30年前，我还在读研的时候，NeurIPS已经是计算神经科学（computational neuroscience）领域的顶会（NeurIPS 会议最初是在 1986 年由加州理工学院和贝尔实验室组织的关于计算神经网络的年度斯诺伯德（Snowbird）会议上提出的。NeurIPS 旨在为探索生物和人工神经网络的研究人员提供一个互补的开放式跨学科会议。）当时参会者大部分都是在两个交叉领域有所涉猎的人。但是后来两个领域的人渐行渐远，慢慢分离开。做机器学习的人走了一条路，做神经的人走了另一条路。差不多一代人以前，那种亲密的联络日渐衰微。

当然也有一些例外，比如DeepMind所做的事情，斯坦福和麻省理工学院以及越来越多的加州大学洛杉矶分校和越来越多的其他机构来弥合这一鸿沟。我们这篇工作的意义就在于，通过这一篇论文强调这个问题的重要性，起到一个催化剂的作用推动向前。在比如说政府资助方面凸显作用。

Q：AI 研究人员和神经科学家在思维方式上有什么不同？

A：神经科学的人属于科学家，人工智能研究者本质上是工程师。他们的终极目标不是理解，而是构建。而为了构建，你需要理解你所正在构建事物的基础。就好比我们手中的iPhone，在过去的5到10年间，它变得更快更小、电池寿命更长，这些都是渐进式的进步，不需要根本性的灵感。(当然不可否认，iPhone是一件了不起的工程产品）。AI需要根本性的灵感，来自神经科学。

Q：冷泉港实验室是世界上最负盛名的生命科学实验室之一。在那里工作是什么感觉？