陈自富，上海交通大学科学史与科学文化研究院客座研究员

全文4000余字，读完约需14分钟

编者按：从“阿尔法狗”到“基因编辑”事件所引发的争议，面对当前一系列新技术的突飞猛进，人类应该如何应对？在“新技术的伦理挑战”沙龙上，科学史博士陈自富认为，“对未来科技的公开讨论越多，人类就越安全”，并从科技发展史、人类社会结构等方面做了梳理和解读。

在读者问答环节，他说：“我对所有的技术所持的观点都是谨慎推行，前提是保证透明公开的技术体系，这个体系当中，有患者、消费者作为受益者；有作为推动者的职能机构和企业等等，这些利益相关者应该坐在一起。”

以下为现场问答，点击右侧“沙龙实录”，回顾现场内容。

读者提问：我之前在香港的时候看到一个题目，叫“人工智能的发展可能会让很多人失业，这是一件好事还是坏事？”我不懂技术，当时就问一位做人工智能研究的朋友，他说，其实在他们很多研究者看来，人工智能在20年之内没有办法真的取代人。

但是，假如真的有一天，我们到了所谓“超人工智能时代”，当人的大部分工作可以被机器取代的时候，这对人来说会意味着什么？有的时候我会想，如果我没有了工作，这对我来说到底意味着什么。可能对一些人来说，工作其实是很苦恼的事情，但是另外一些人非常享受工作。我就想请问，如果人工智能有一天可以取代大部分人的工作的时候，对人来说意味着什么？ 

陈自富：前年李开复在《纽约时报》上发了一篇文章，大意是说，那些需要爱心、情感关怀的工作是机器永远不能代替的。往前追溯的话，这个观点其实早在1970年代就有学者提出过。后来我也写过一篇人工智能与就业、失业问题的文章。

我认为未来十年里，人工智能及相关的程序会逐渐取代我们日常那些程序性的脑力劳动，这是一种必须去拥抱和迎接的潮流。从历次的技术革命来看，可能也会出现新的“卢德运动”来反对它。各国国情不同，进度可能有差异，但总的来说，这个临界点一定会到来。

李开复还说，他认为解决办法之一是那些生产人工智能或机器人的企业交税，去“养”那些从事感情陪伴工作的人，为这些岗位提供经费来源。我觉得这个想法挺天真的。

未来如果很多人不用工作就能得到日常生活的满足，闲下来之后的人该怎么办？这是一个系统的问题。首先要想的是，这种情况真的会发生吗？人的生存是有代价的，需要满足温饱、住房等等，除非达到一个很平等的社会，否则很难实现所有人都安心闲下来不去工作。人类的欲望是有差异的，这种情况下就很难设想每个人都能平等获得他的期望。

其次，也很难设想在短期内，我们的生产效率能够达到这么高的水平。目前的人工智能还只是一些脑力劳动，还无法取代物质生产，比如说粮食生产、能源消耗。这个问题也是没有答案的。

所以这个问题我有个不成熟的考虑。第一，人类是有差异的，这会导致我们去选择不同的压力，面对周边不同的社会压力，很难出现只有10%的人工作，90%的人天天喝茶聊天的情况。第二，仅仅凭人工智能很难满足所有的物质满足，除非有其他方面的大的技术进步，比如说核聚变付诸现实，或者一些新的能源生产方式发生革命，这样也许能源产生的效率会极其高，食物也能满足所有人的需要。

这样下去，会不会带来人口无限制的扩张，导致人类在地球上无法生存？进一步，会不会出现人类的星际移民运动？所以这个问题我目前也无法回答你。

但我承认，我在这个问题上思考的关键是第一点——没有完全平等均衡的人类，所以会有差异，会有欲望。后面的问题我觉得我不知道。

读者提问：陈老师您好，之前跟一个朋友聊天的时候他提过一个观点，他说现在社会上很多矛盾的原因，是因为人类做了很多本来应该是上帝做的事情。刚才您也在说，在生殖基因的修饰技术上，您在一定程度上是赞同的观点。我想问的问题是这样，在一个技术逐渐发展和成熟的过程中，它会不会被一些组织或者一些极权国家，或者出于军事的目的，而被滥用？会不会导致一些没有办法阻挡的恶果出现？会有这样的趋势吗？

陈自富：“人类做上帝的事情”，这句话我觉得很正常，可能从中世纪开始，人类一直在做上帝的事情了，关键是看你怎么去定义上帝。如果说宇宙赋予人类进化的能力，让人类可以改造世界、重新定义人与自然的关系，人类作为一种高等进化的生物，本身就时时刻刻在扮演上帝，这是没有办法改变的。有报道说俄罗斯人现在正在申请做和艾滋病治疗的生殖基因修饰，但俄罗斯东正教会影响很大，因此有宗教的限制。如果报道的这件事情真的出了结果，应该会影响几十名甚至上百名胎儿，因为是做生殖性修饰。

我对所有的技术所持的观点都是谨慎推行，不管是人工智能还是生殖性的基因修饰，但前提是保证透明公开的技术体系，这个体系当中，有患者、消费者作为受益者；有作为推动者的职能机构和企业等等，这些利益相关者应该坐在一起，这是非常关键的。在技术透明的情况下下，技术的范围也是可控的。但现实往往并不如此，面对国家与国家之间，国家与内部之间，城市与城市之间，就是不透明的。所以我们作为学者，都呼吁从立法到公众参与，要全过程的透明，尽可能去防范技术的滥用。这里是一种“两害相权取其轻，两利相权取其重”的实现利益最大化的方式。

读者提问：我想问一个关于人与科技的问题。刚才您说，科学不等于技术，但是技术是这个时代的变革，并且带来了很强大的提升。您也强调说，我们更应该关注的是技术对于人类的认知方式和价值观的影响。其实现在我们逐渐形成了一种由科技主导的价值观，在这样一种情景下，就很能够理解哲学上的迷茫，以及此前人文精神主导的价值观的没落。您是研究科学史的，能否从科学史的角度上介绍一下，这种人文与科学的隔阂，以及人文精神没落的原因到底是什么？是什么产生了这样一种局面？

陈自富：首先你强调一点——现在科技发达了，我们缺乏人文关怀了。我们可能更加计较赚了多少钱，房子有多大，小孩子是不是去很好的学校学习。你认为我们已经缺少了那种农业社会和传统工业社会当中的一种人文关怀。然后你提问这个原因是怎么产生的。

我觉得其实挺难回答你这个问题。因为科技跟人文，理论上不应该是对立的。所有的科技应该是成就人类的福祉和幸福。但是现实生活当中，科技带来物质丰富的同时，并不能让每个人充分享受到。这就让人产生了关于科技发展的疑问。

这里面就涉及到两个问题，科技增长在面临制度安排的时候，为什么不能让每个人获得相对公平的机会，获得科技的物质和精神服务的产出？也就是说，在现实的制度安排当中，还没能让科技对成果被每个人平等地享受，这是其一。

第二，这种产品分布、消费能力的不平等，就制造了人的欲望——总想要获得和别人一样的东西。也正是因为不平等，让每个人产生这样的欲望。小孩子在小时候最需要人文关怀，但为什么慢慢长大之后就失掉了？因为这个社会的不平等导致了深层压力和欲望压力，迫使我们离人文的精神越来越远。这是我的一些想法，这个问题很大，挺难回答你的。

读者提问：我想问一个关于权力与技术的问题——如何避免出现那种技术独裁的问题？

各种技术对于人的生活方式、工作方式、认知方式的影响很大，每个人的生活都依赖于技术。很多技术都重新塑造了社会结构，技术发展也导致了社会的重新分层。在这种情况下，如果那些在政治权力更大的人同时掌握了核心技术，如何对这种情况加以制衡？如何保证社会的公正？

陈自富：你这个问题反映了对“技治主义”的疑问，很多工程师都希望能够控制一切，但是现实中却并非如此。反过头来讲，“技治主义”是好事还是坏事？之前柏拉图说要用哲学来治理国家，这里又有人提到要用技术来治理国家，或者说用技术来确定我们的生活方式。

第一，这样的方式能否确保每个人享有公平公正的发展机会？技术有两种含义，一种是狭义的，就是讲的自然科技，比如理工科的人工智能。广义上的技术则包括国家管理。我更倾向于你讲的是自然科学的技术。如果说不和宏观的国家管理结合在一起，单纯的自然科学的技术很难保证社会的发展。有人说，要用人工智能、生物科技去取代广义的技术管理，但这种技术是不可取的，一定要从社会管理、社会治理，从广义的技术去达到理性的效率。

第二，怎么样能够确保公正公平？我认为没有绝对的公正公平，但是我们可以在国家管理技术提升和人文关怀的情况下，尽可能去保证每个人的发展机会是均等的。一定要有相关的约束的机制。

其实我把你的问题做了转换，我认为技术不仅包括科学技术，也包括社会管理技术，这种情况下才能够尽可能的实现相对公平公正，这是我们追求的理想。也许一些国家实现了，也许大部分国家还没有达到，但我们希望能有这样的社会公平。

读者提问：我想问“关于人的定义”。您在强调人的定义的时候，希望我们放开本质主义的方法。如果未来人工智能开始有了独立判断的能力，它和人类的关系会不会就变成了种族之间的、物种之间的关系？如果有这种可能，是否要把人工智能的发展限制在“纯理性无感情”的前提下？

一些人认为，人类跟动物的区别在于，人类是非理性的，动物是理性的，动物在做抉择的时候不会考虑害怕、愤怒这些，而是根据环境来做出直觉判断我。人工智能未来会具备人类这种“非理性的、感性的”元素吗？

陈自富：这个问题很有挑战，引申出了另外一个话题——进化能力。

您刚刚讲到动物，我们先不讲“理性”这个词怎么定义，其实动物跟人类都有“利他”的行为。在《动物世界》这样的纪录片里，母牛哪怕自己牺牲也要救小牛。人类也是这样。单纯从生物学来看，其实生物不应该有这种利他能力的存在。有观点认为有性生殖下的双亲抚育是利他行为的一个来源。还有观点认为，作为群体性生物的动物是有社会性的，如果它保护了它的幼崽，在这个群体中是能获得奖励的。所以其实动物并不都是野蛮的，只是为了吃和生存。关于感情、情感、意识这些问题，其实到目前为止，要去寻求它的本质也是很困难的。

从我们角度来讲，只能站在一个更高的视角来看这个问题。从发展过程来看，人类跟机器人相比，只有第一步是不知道的——第一个原始生命在30多亿年前是怎么诞生的？目前还是没有办法复原的。但是在这之后的生物进化历程，最近两个世纪以来已经有了很多的发现。第一，生物学上人类有独特的基因型，在不同的环境下（比如非洲、东亚），基因型又有不同的表现型变化。我们在进化过程中还产生了社会，产生了情感，这些是在生命体诞生之后，不同种群在相互之间、内部之间相互交往的过程中产生的。

反过头来看机器人。人类现在连自己生命体的进化过程都没有完全掌握，又怎么指望机器能形成人类的意识或情感？因为这个前提是人类知道自己的意识和情感是什么。所以我觉得这个问题本身就可能提错方向了。我也下围棋，几年前我和计算机下棋的时候，觉得很可怕，感觉里面就是住着一个人。但后来发现并不是这样的，因为如果是人的话，他会说话，会高兴，会吹口哨，但是计算机没有这些情绪。

*本文根据南都观察和文化纵横举办的“从“阿尔法狗”到人类基因组编辑”沙龙整理，经陈自富确认。本文已加入“留言赠书计划”，优秀留言将有机会获得《六论自发性》（社会科学文献出版社）一本。