查看原文
其他

从小小线虫谈起——溯源神经系统进化,开启生命模拟

智源社区 智源社区 2023-11-24

上世纪七十年代,秀丽隐杆线虫开始被研究者用作模式生物。秀丽线虫、果蝇、鱼、小鼠等模式生物的研究,为探索生物大脑运作机理提供了模板,也为类脑智能的研究铺平了道路。来自布兰迪斯大学、南加州大学、中国科学技术大学、香港城市大学、北京大学等的专家,和智源研究院的研究员们一起,就神经计算和生物智能的最新研究趋势发表了洞见。

整理:熊宇轩、杨依帆

编辑:李梦佳

  






论坛专家名单:

臧蕴亮丨布兰迪斯大学

温泉丨中国科学技术大学

刘强丨香港城市大学

马雷丨智源研究院

赵梦迪丨智源研究院

Bartlett Mel丨南加州大学

吴迅冬丨北京智源人工智能研究院生命模拟中心研究员

陶乐天丨北京大学生命科学学院研究员

杜凯丨北京大学人工智能研究院助理研究员




Neurons Use Structural Interactions to Increase Their Robustness to "noise" Perturbations(神经元通过结构耦合增强功能鲁棒性)


臧蕴亮丨布兰迪斯大学

 

【研究背景及意义】

 

 

神经元(或者神经系统)作为生物系统无时无刻不面临着各种各样的“噪声”干扰,比如环境噪声、温度改变或神经调质的调节作用等因素。这些“噪声”会直接改变支撑神经元产生电信号的离子电流,进而可能影响神经元的正常功能。因此,当神经元面临这些无法预知的“噪声”干扰时,如何抵御这些扰动,对于神经系统功能的鲁棒性具有重要意义。
 
过去的理论认为,神经元可以根据感应到的“误差”信号调整自身细胞膜上离子通道进而修复“噪声”诱发的功能损失。但是,这种修复策略可能需要花费数小时甚至数日,因为修复行为需要合成新蛋白质、并运输到神经元的对应部位,且这一过程存在着耗时、耗能以及空间精度的限制。
 
另一种理论认为,在一个2维或者3维空间中,神经元的不同离子通道通过协同改变,也可以帮助神经元维持功能的稳定性。但是现实中,一个神经元系统可改变的参数很多,比如将参数空间维度上升至15维,神经元的协同改变路径就会变得越来越窄。而且不像神经网络中的点单元,每个神经元都是不一样的。因此,不同的神经元需要寻找不同的协同改变路径。这些因素的叠加使神经元预知改变路径几乎变成了无法实现的挑战。
 
上述两种常见策略都无法解决神经系统面临扰动的功能鲁棒性问题,因为神经系统在非病变情况下功能非常稳定,并没有呈现频繁的“异常-恢复”模式。臧蕴亮博士这里提出了一种新的生物策略,他强调了神经元形态结构对抵御噪声干扰的作用。
 
【研究方法】

 


为了研究拥有个体差异性的神经元对不同离子电流电导改变的敏感度,臧蕴亮博士建立了1292个含有形态结构特征的神经元模型。通过给这1292个模型反复施加噪声扰动(每一个模型100次随机噪声测试)发现,当电流电导改变范围为±10%时,649个模型的输出模式可以100%的得到维持。将改变范围扩大时,每个模型的鲁棒性则出现下降趋势。
 
 
那么这些功能更稳定的神经元电导参数分布是随机分布还是存在一定规律?研究发现,除PY神经元抑制性输入电导值偏高,其他电导参数均匀分布在相应的范围内。这说明,鲁棒性强的模型是分布在整个参数空间内,而非集中在某一些特定区域。而且扰动比较小时鲁棒性强的模型在面临大的扰动时,会逐渐失去鲁棒性的优势。
 
 
通过进一步的研究发现,胞体(soma)和轴突(axon)间电信号的耦合可以使神经元输出信号的鲁棒性达到最优,一旦二者之间的耦合强度偏离生理范围,神经元的鲁棒性能急剧衰减。
 
【总结及展望】

Eve Marder 实验室的臧蕴亮博士通过对1292个模型及其子模型的观察研究,探索了神经元利用结构间相互耦合作用去强化抵御生物“噪声”干扰的鲁棒性机制。这个研究表明即使神经元之间存在着个体差异性,生物进化过程仍然找到了普适性的机制去帮助神经元抵御不可预知的“噪声”干扰,进而维持神经系统功能鲁棒性。

 

Organizing Behaviors across Timescales(不同时间尺度下的行为组织机制)


温泉丨中国科学技术大学

 
【研究背景及意义】
 
动物的神经网络是如何形成复杂动态行为是计算神经科学领域的一大难题。温泉教授以秀丽线虫神经系统为载体,结合全脑钙动态功能成像,光遗传分子遗传手段、以及数学建模,对不同时间尺度下线虫的组织行为展开了研究。
 
 
【研究方法】

长时间跨度的动态序列——刺激与抑制竞争和平衡的关系
 


研究人员发现,控制秀丽隐杆线虫(C.elegans)前进、后退、转向等行为背后的神经动态和神经突触链模型相似:当一种状态被激活后,其他状态会依次被激活——比如率先激活向后运动模块,其次转向模块被激活,最后向前运动模块被激活。但是,当一种状态激活另一种状态时,也会同时抑制另一种状态——比如向后运动模块在激活转向模块的同时,也在试图抑制转向模块。这意味着激活与抑制状态间既存在竞争关系,又存在平衡关系。突触链激活可以解释为何外界刺激能稳健地触发各种运动序列的逃逸行为;不同运动模块相关的神经元之间的相互抑制,伴随以突触可塑性为机制的短时程抑制,解释了运动模块转化的灵活性。这种关系不仅存在于秀丽隐杆线虫身上,也可能存在于果蝇、鱼、小鼠等其他模式动物上。
 
短时间跨度的动态序列——局部本体感受单元具备强信息传递能力
 
 
研究表明,线虫身体的每一节都有一个局部的可伸缩感应结构,或称为本体感受单元。这些感应神经或伸长或缩短,可将身体局部的曲率变化信息从身体的一节传递到另一节,由此从头部产生的快速节律震荡可以以相同的方式传递到尾部。此外,人为设计的微流通道可以将线虫身体的中间部位进行固定,从而切断本体感受信号的传递。本体感受单元是线虫协调身体各部分运动,产生类似正弦波运动的关键。
 
【总结及展望】

温泉教授团队以秀丽线虫模型为载体,研究了长时间跨度的动态序列和短时间跨度的动态序列问题。他们发现,在长时间跨度上,表征不同运动行为的神经模块之间刺激与抑制并存,从而实现了灵活而稳健的运动序列;在短时间跨度上,局部本体感受单元具备强信息传递能力,是协调身体各部分弯曲运动方式,实现快速前进运动的关键。

 

Can we reverse-engineer the simple brain of a tiny worm?(我们可以通过逆向工程模拟小小线虫的大脑吗?)


刘强丨香港城市大学

 

【研究背景及意义】
 
 
模拟人类大脑是人工智能和类脑研究的长远而艰巨的目标。只有 302 个神经元、几千个 化学突触和电突触以及完整连接组的秀丽隐杆线虫,是目前最有希望实现全方位全脑模拟的重要一步。尽管在神经元数量上有级大的不同,人脑与相对简单的线虫神经系统其实有非常多的相似之处。为了最终了解极其复杂精巧的人脑,刘强团队对秀丽隐杆线虫的神经系统进行全方位电生理测绘和逆向工程的研究。 
 
【研究方法】

绝大部分生命体的大脑的神经元通过动作电位处理信息,但线虫的神经系统在过去30多年来被错误的认为只能通过非动作电位的模拟信号进行计算。刘强团队通过系统的电生理研究,首次发现了线虫的某些神经元可以激发由钙离子介导的动作电位并进行与高等大脑非常相似的长距离传导以及频率编码和时间编码等神经运算。
 
感觉神经元AWA通过频率和延迟放电对外界刺激进行编码

 
其中,一对叫AWA 的嗅觉神经元具有两个稳定态,分别应对弱刺激与强刺激,并在特定刺激强度下激发延迟的短脉冲动作电位对信号强度和梯度进行编码。另外,AWA的延迟放电特性的可以避免短暂的刺激激发无规律的放电以达到噪音过滤的功能。因此,线虫仅通过这一对感觉神经元就可以进行信号压缩, 数字编码,降噪等多种复杂计算,从而实现爬升刺激梯度的功能。刘强团队认为这也许是线虫如何充分利用有限数量的神经元而进行精确的计算并高效的指导复杂行为的产生。
 
运动神经元AVL与DVB通过同步动作电位调节肠-脑节律

 
线虫的一个有趣行为是它们每隔大约45秒种会准时排便一次。这个节律行为已知是由肠脑回路控制产生,但其中的神经机制仍不清楚:分隔于头部与尾部的两个肠道运动神经元AVL与DVB如何协作并调节肠-脑节律?刘强团队运用电生理技术直接监测这两个神经元的活动,并与北京大学陶乐天团队合作进行荧光成像研究发现AVL 与 DVB 可以同步发射动作电位并在节律排便行为中扮演重要角色。尤其有趣的是,AVL 能够发射极其罕见的钾离子介导的“倒置动作电位”并可以在不同时间跨度下调节肠-脑节律。
 
【总结及展望】

刘强指出,全世界目前许多学者都在试图通过逆向工程进行秀丽隐杆线虫的全脑建模,遗憾的是尚无一例成功。以上两个案例验证了精确测绘每个线虫神经元独特的电生理属性对下一步成功建模的重要性和必要性。他和合作团队将继续系统测绘线虫每一个神经元的电生理特性,他们的下一步计划是制作线虫神经系统的完整电生理组图谱,并结合已有的完整连接组从而实现完整的线虫神经网络的建模从而为未来更加复杂的全脑建模提供重要指导。


智源仿真秀丽线虫项目进展汇报


马雷、赵梦迪丨智源研究院

【研究背景及意义】

2020 年底,智源研究院「生命模拟研究中心」成立,旨在以任务为驱动,在类脑理论、生命智能模型等方向实现重大原始创新,逐步搭建世界运行效率最高、模拟级别最精细的高精度模拟仿真软硬件系统,构建生命智能模型并挖掘生物智能机制机理,逐步启发和探索新一代人工智能。
 
 
人脑维持具有千亿级别神经元的大脑的功耗非常低。尽管当前人工智能研究取得了诸多成就,但是在低功耗、可解释性等方面还存在诸多待解决的难题,从更精细的角度来模拟神经系统可能对人工智能研究有所启发。
 
 
1986 年,剑桥 MRC 实验室的 John White 首次发表了完整的线虫连接组学数据。时至今日,围绕线虫实验展开的科研工作曾三次获得诺贝尔奖。生物神经元计算具有巨大的潜力,完成相同任务的深度神经网络所需要的神经元可能是生物神经元的数千数万倍。通过精细重现生物的神经结构,有望用较少的神经元实现复杂的智能行为。
 
【研究方法】
 
 
智源研究院天演团队在「仿真秀丽线虫」项目中构建了目前最高精度的线虫神经系统,能够更全面地表征线虫智能,并搭建了三维流体实时动态仿真环境,实现了线虫与环境全闭环的智能训练,支撑起线虫智能互动进化。
 
 
在构建高精度线虫神经系统的过程中,研究人员从微观到宏观自底向上搭建起了包含离子通道、神经元、神经网络三个层次的模型,该模型共由 302 个神经元组成。其中,研究人员根据电生理实验数据构建了 14 种离子通道模型;通过构建 5 类多舱室模型(感觉神经元、中间神经元、指令神经元、头部运动神经元和身体运动神经元)对神经元进行建模,神经元的形态十分精细,动力学特性也十分真实;基于连接矩阵、真实连接规则、随机性构建了细胞模型之间亚细胞尺度的精细连接(突触和间隙连接)。
 
 
极致的环境进化出极致的智能。智能训练环境模拟对于数字智能生物研究非常重要。天演团队的研究人员构建了线虫智能训练的三维流体动态实时仿真环境「GhostInMesh」。通过有限元建模构建了具有 96 块肌肉控制、3341 个四面体构成的运动神经元的秀丽线虫身体;通过简化的流体模型(包含拖曳力和推动力)和投影动力学有限元解算等方法,实现了高效的计算和可视化;构建了大规模线虫仿真环境,支持更大空间的多线虫群体仿真。未来,该环境将支持强化学习算法。
 
【总结及展望】
 
 
智源研究院「天演」团队完成了对秀丽线虫 302 个神经元精细关系的建模和对神经元的生理模拟。该模型支持 14 个离子通道,建模了 106 个神经元组成的嗅觉、运动和神经环路,完成了五类神经元中的电生理动力学的拟合。天宝 1.0 身体包含有解剖学意义的 96 块肌肉,3341 个计算单元。「天演」团队构建了适合线虫智能训练的三维流体动态实时仿真环境「GhostInMesh」,场景尺度达到线虫身长1300倍,CPU单核条件下单线虫单次仿真时间快于0.1秒,支持线虫群体仿真。「天演」团队实现了仿真秀丽线虫与仿真环境的全闭环模拟,训练出由高精度神经系统控制的、与环境实时交互的秀丽线虫,能够像真实线虫一样嗅探并控制身体蠕动到感兴趣的目标。
 
 
线虫模拟是「天演」团队在人工智能生命模拟工程工作中的关键一步。未来,该团队希望对果蝇、斑马鱼、小鼠、人脑进行更高精度的模拟,涉及的神经元数量呈几何级增长,计算复杂度更高。为此,智源研究院将打造运行效率更高,模拟程度更精细的「天演」平台,具备更强大的计算资源,助力神经计算和生命模拟科学研究。
 
除了秀丽线虫,「天演」团队在「高精度虚拟心脏模型」、「电镜连接组学的数据重构」、「树突神经网络理论」、「仿真软件系统研发」等领域也开展了相关研究。
 


Dendrites lie at the crux of a customizable cortical computing architecture(树突是可定义皮质计算架构的关键)


Bartlett Mel丨南加州大学

 
【研究背景及意义】
 
 
人类的大脑皮层中存在各种类型的神经元,其轴突、树突的形态各异,构成了复杂的神经回路。这些神经回路可以处理视觉、听觉、触觉、运动控制。人们很难完全理解大脑皮层各部分的工作原理。
 
 
传统的深度神经网络简单地重复了一些网络层,并不具备生物神经回路的局部结构。目前,最好的深度神经网络还无法完全复现人类神经系统的智能,对神经系统的参数和连接关系进行逆向工程对于研发通用、高效的人工智能十分重要。为此,Bartlett Mel 教授针对人体内广泛存在的锥体神经元的结构和功能展开了深入的研究。
 
【研究方法】

为了研究人脑锥体神经元的工作机制,Mel 教授团队试图解决以下两个问题:
(1)大脑中能够进行计算的组件(神经元,连接结构等)有哪些?
(2)特定的神经元或局部回路需要解决什么问题?
 
 
神经元会将接收到的兴奋性输入或抑制性输入转化为动作电位。传统的点神经元模型认为,具有复杂物理结构的大神经元将所有树突接收到的输入一起送入细胞体,并产生动作电位。这启发了深度学习中「ReLU」激活函数的设计。但是,对于像锥体神经元这样具有细长树突的神经元,点神经元假说遇到了两个主要问题:(1)这些细长树突提供了许多独立工作的「亚单元」(2)细长的树突中会产生局部的「NMDA」脉冲。
 
 
由于锥体神经元就好比一个拥有独立电压舱室的结构,Mel 教授为每个神经元的计算建立了「多层模型」。每个细长的树突都是一个亚单元,都有单独的阈值,通过非线性函数激活。将各树突的激活值送入细胞体内求和,最后对求和结果再次使用非线性函数激活。
 
然而,树突的位置对神经信号的处理也有影响,脉冲的强度与刺激距离胞体的距离呈负相关;对于同一个树突在不同位置的输入之间彼此也有交互。为此,Mel 教授团队建立了类 sigmoid 的 2 舱室模型来描述模拟这种突触的距离效应,其中近端的舱室调整振幅,远端的舱室调整阈值。
 
 
边缘检测
 
Mel 教授从视觉皮层出发,研究特定神经元的功能。在他看来,人类根据物体的边界、方向变化来识别图像,而传统的深度神经网络则倾向于使用颜色和纹理来识别物体,二者之间存在很大的差异。锥体神经元可能形成了如上图所示的模型,不同层次的神经元分别用于识别明暗变化、方向、边界等模式,神经元之间存在刺激、抑制的作用。
 
 
然而,简单细胞的边缘检测能力较差,我们需要进一步将大量简单细胞组合起来,通过「激励网络」重叠其感受野,通过贝叶斯规则和简单的假设处理底层的计算,逐渐影响进行边缘检测的边缘细胞。
 
Mel 教授团队发现,V1 脑区中局部的细胞间相互作用可以显著提高自然图像的轮廓检测性能。这些细胞间的相互作用不能被正负权重捕获。相反,它们由一系列上升、下降和非单调的 U 型函数组成。用于边界检测的整个交互函数族可以由一个「激励神经回路」捕获。
 
长程边缘补全
 
 
Mel 教授团队基于树突的近端、远端交互作用研究了长程轮廓检测和补全任务。他们发现水平连接介导的长程相互作用可以受益于锥体神经元树突的非线性空间整合机制。
 
组合简单的特性来构建更复杂的「高阶」特性
 
 
V1 脑区的许多细胞对于特性的组合十分敏感。为了探究神经元如何结合颜色强度和边界的线索来改善对自然物体边界的检测,Mel 假设树突提供了各种固定的非线性基函数,通过单层学习规则来训练一个皮质启发的网络。他们认为,可以从人类视觉皮层的细胞交叉点中寻找研究的灵感。
 
【总结及展望】

Mel 教授团队在锥体神经元的启发下设计了神经元的多层模型。他们回答了以下两个问题:
(1)大脑中能够进行计算的组件(神经元,连接结构等)有哪些?
(2)特定的神经元或局部回路需要解决什么问题?
 
Mel教授团队提出了树突的多层次模型,并分别从「边缘检测」、「长程边缘补全」和「特征组合」三个方面阐述了树突的多层次模型的工作原理。Mel 教授指出,传统的人工神经网络中神经元直接通过标量代表的突触权重相连,是一种线性组合。而树突的多层模型则认为大脑皮层中细胞间的交互十分复杂和灵活,通过工程手段将神经回路和组合中的人工偏置分离开来似乎是一种很有前景的方法。


圆桌讨论


臧蕴亮丨布兰迪斯大学
温泉丨中国科学技术大学
刘强丨香港城市大学
马雷丨智源研究院
吴迅冬丨北京智源人工智能研究院生命模拟中心研究员
陶乐天丨北京大学生命科学学院研究员
杜凯丨北京大学人工智能研究院助理研究员

Q1:为什么要以线虫为模板研究生物神经系统?近年来该领域有哪些特别值得关注的文章?
    
温泉:我一直将线虫看作是系统神经科学的「氢模型」。我们目前对任何生物神经系统的了解都十分有限,为了了解生物神经网络的工作方式,线虫的神经元数量相较于其它系统更为合适。
 
杜凯:线虫是第一个被人类完整解释的神经系统,是非常好的模板。我们将其视为神经系统进化上的起点。我们还应该思考神经系统被设计成这样的原因,是否还有别的替代方案。
 
刘强:我更加关注线虫系统工作的机制。我曾经从事高等动物研究,这方面的研究太过复杂,研究难度极大。线虫的复杂度则低很多,研究的可行性更大。而该工作需要试验者和理论者的密切配合。
 
陶乐天:我在朋友的影响下开始接触线虫。研究该课题主要是受到了好奇心的驱使。人们对线虫的研究是一系列生命模拟工作中的一环,就好比热力学之于统计力学。
 
Q2:钙离子脉冲也存在于人的神经细胞中,可以实现异或等高级运算,我们可以观察这种功能是否会在各个物种上被保留下来?间隙连接(Gap Junction)究竟起到什么作用,如果将这个功能去除,神经系统会受到怎样的影响?
  
温泉:线虫里的 Gap Junction 功能非常复杂,原因之一在于,根据两个神经元之间的电压差,其联系可以为抑制性或兴奋性。Gap Junction 可以非常灵活地控制两个神经元之间的相互作用。
 
就标准方法和细节模型之间的关系而言,大多数的方法都有其价值。我在学生时代通过优化方法解释脑的结构,在工作后转向细节机制。这两套方法都非常重要,可以互补充、互为启发。
    
马雷:通过线虫或整个大脑的反向工程,才有可能构建一个全脑,进行更高级别生物的生命模拟,这不完全是为了人工智能,也有很多其它的意义。
  
Q3:在简单的神经回路中,各神经元存在个体差异性。如何看待这种差异性?对我们的研究有何启发?
    
臧蕴亮:目前,神经科学领域的研究者关于神经元的个体差异性的理解方式还不统一。有人认为神经元的发育就是严格按照遗传密码,目的是为了获得相同的神经元。但是由于生物发展过程中的不严谨性,导致了个体差异。这个背景下,我们要思考的是在面临这些不严谨性时系统如何维持其功能统一性。
 
另一种观点认为,可以从神经元功能集群的角度出发理解神经元之间的差异。一方面,神经元的个体差异可以增加集群的编码性能;另一方面,它可以增加神经元集群功能的鲁棒性。
    
Q4:在树突计算的研究中,神经元之间存在个体差异,需要将神经元简化到怎样的程度?
 
吴迅冬:神经科学对人工智能研究更多起到一种「引导」的作用。不能将其严格当作一种约束。
    
臧蕴亮:树突和神经元和神经网络中的运算单元有很大差异。神经元存在结构,神经元的树突有非常复杂的计算功能。本质上,可以通过调整神经网络用不同的层模拟神经元的复杂程度。

   



推荐阅读


Swin Transformer、ViT作者等共话:好的基础模型是CV 研究者的朴素追求

Richard Sutton:经验是AI的终极数据,四个阶段通向真正AI的发展之路

机器学习泰斗Michael I. Jordan与张宏江共话青年成长之路:研究者要对复杂时代有所贡献

继续滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存