对决（下）：人工智能否超越人类智能？

userzzn

黄文政/人文经济学会特约研究员

2016-03-09 11:09 来自 请讲

字号

2016年1月27日出版的《自然》期刊以封面论文的形式，介绍了谷歌公司研发的一种能与专业棋手对弈围棋的人工智能程序——AlphaGo的算法。论文称，Alphago于去年10月，以5:0的成绩战胜了欧洲围棋冠军樊麾。而且，Alphago将于3月份在首尔挑战过去十年被认为是世界围棋冠军的李世乭；比赛一共5轮，时间分别为9日、10日、12日、13日和15日；获胜者将获得100万美元的奖金。

早在1997年5月11日，IBM公司研发的“深蓝”超级计算机就击败了国际象棋世界冠军卡斯帕罗夫。但发明逾2500年的中国围棋远比国际象棋复杂，在搜索的广度和深度上被认为是人类发明的最复杂的棋类游戏。因此，Alphago战胜顶尖围棋手的消息震惊了围棋界，也被誉为人工智能的重大进展。而今年3月的棋局更是激起了人们的好奇心，也再次掀起有关了人工智能前景的讨论。

那么，人工智能战胜人类棋手是否必然？Alphago是如何下棋的？Alphago与李世乭对弈的胜算如何？人工智能与人类是否存在本质差异？人工智能是否可能取代并最终消灭人类？



目前，人工智能实现的大都是人类的理性而非感性行为。这是因为理性的决策一般都是基于对世界的理解，在信息充分的情况下按照特定目标做出的，这点类似于人工智能完成它所擅长的数据结构化以及目标明确的任务。相比之下，感性行为基于人类的共同感受和常识，看起来简单、直接，但实际上却是建立在人类对世界的适应和反应机制上的。这种机制来自两个漫长的学习过程。一是地球生命几亿年和人类几十万年的演化历史；二是个体几年乃至几十年的经验积累和学习。

其中，群体演化是生命乃至人类通过基因的复制、变异、淘汰等机制不断地适应环境。像直觉中的很大一部分可能是人类演化过程积累下来的。比如，人在黑暗中可能会感到恐惧，这可能就是早期在黑夜遭遇袭击的经历嵌入到基因中。像动物运动的平衡机制、择食的本能也应该是演化出来的利于维持生命的快速反应回路。随着演化分叉，不同物种会在不同的机理下演化出相互独立的能力。比如，人类理解和使用自然语言的能力就嵌入在人类的遗传基因中；一个原始部落的人也能够学会中文，但鹦鹉哪怕能发出所有的音也不可能真正理解中文。

另一方面，除了这些嵌入在遗传基因的能力之外，个体还会获得额外的常识，这从个体出生就开始了。建立这些常识要十几年甚至更长的时间、对人类个体来说，熟能生巧就是行为方式从理性逐渐转为感性的过程。比如，学习驾驶汽车在最开始需要很多理性判断，什么时候踩油门、转弯、刹车等需要大脑决定，但轻车熟路之后，驾驶则越来越成为一个潜意识的行为。在认知机制上，熟能生巧可能体现为让那些常用的反馈回路越来越内化为神经网络的特定结构和连接方式上。

机器要掌握人类感性机制、习得人类的常识极其困难，因为这些看似简单的机制和常识浓缩了上几亿年生命演化史、几十万年人类演化史以及几年乃至几十年个体的经历。机器的智能要真正超越人类智能，也许需要在某种意义以模拟方式重复这些过程。而机器要模拟人类群体演化和个体学习过程，需要设定一个终极目标，以便于自动将这个终极目标分解成具体、短期的子目标，再根据这些子目标来发展各种技能。

从生命演化的过程来看，这个终极目标只有可能是生存，而各种直觉、知识、技能则是达成这一抽象目标的副产品。因此，要让机器自动演化，需要赋予机器自身生存这一终极目标，让机器的各种能力在这一个目标的实现过程中得以发育、提升。从操作性来看，赋予机器这种单一、抽象的目标，并以此目标来筹划各种行为，意味着机器获得了某种意义的“自我意识”。

值得强调的是，生命的演化，尤其是人类等高等生物的生存延续，是通过繁衍在群体意义上实现的，而不是体现于单一的超级生命个体的不断进步。在这个过程中，人类通过求偶、交配、怀胎、生育、养育来将生命延续到下一代，而新的生命则需要从头学习各种知识和技能，花费很长时间才可能达到上一辈的水平。这种以繁衍为基础的生存延续看起来费时耗力，但为何却成为各种高等生物的演化方式呢？

首先，相对于一个复杂无比的超级体系，大量的功能相对简单的个体相互合作演化要更安全。如果只有一个超级生命体，不管其生存能力多么强大，一旦遭遇灾变，整个演化过程就结束了。但如果是大量的生活在不同地域的同质的生命个体在合作演化，他们全部遭遇不测的可能性微乎其微。只要很少个体能够生存下来，演化过程就不会中断。

其次，就演化效率来看，以繁衍为基础的群体比单个超级生命更有优势。本质上，智能的演进体现在通过各种搜索和训练来提升认知能力，需要经历和适应各种不同的环境，尝试不同的应对机制。这种训练的环境样本越大，智能的提升也越快。

设想一下，如果在有限的能源、材料、时间限制下，考虑造机器人去各地探索寻找最高的山峰，那到底是造出单一的各方面能力非常强大的超级机器人，还是造出一群同质、功能相对简单、相互间还可以通讯、协作的小机器人呢？一个机器人不能同时站在两个山顶。哪怕超级机器人的视力和速度再杰出，也要一个山顶，一个山顶去探索。而众多的、相对简单的小机器人，尽管视力差些、速度慢些，却可同时搜索很多山头，再相互交流、学习、合作；最终的搜索效率可能会比单个巨无霸高得多。而且，积累的经验可以通过机器人的自我复制来成倍提高搜索效率，这比单个超级机器人的改进容易得多。

实际上，可重复性是认知演化的基础，而繁衍本质上就是功能的复制，并通过基因的变异、重组、淘汰逐步演化。对人类认知来说，可重复性首先体现为个体之间感知和思维的相似性，这种相似性是交流、合作的前提，也是认知由个体扩展到群体的基础。此外，个体的经验也在不断地重复。虽然历史不会简单重复，但无论是过去还是未来的感知和经验，在思维中都是通过各种认知框架来表达的，而这种表达的各个片段可以被不断被重复。对认知机制来说，这涉及到目标的分解，就是把一个相对宏大的目标分解为相对简单、可重复的较小的任务。

在人类的行为中，这种目标的分解往往是一种靠情绪实现的感性过程。像幸福/悲伤、高兴/愤怒、安心/忧虑等这些情绪感受，本质上都是对人类行为的激励机制。比如，某学生考试过关会产生幸福感，而失败则会感到悲伤。这样一种关联会激励这个学生去努力学习，提升考试能力。

正是因为情绪是行为的激励机制，影响情绪的应该是目标结果的相对水平，而非绝对水平。比如，人的幸福感一般与收入的绝对水平无关，而只与相对水平有关。高收入者未必比低收入者幸福，但自己的收入高于周围人的收入，或者今年收入大幅高于去年收入，特别是到手的奖金高于预期，那可能就会感觉快乐。从生物演化的角度来看，情绪取决于目标结果的相对水平也是自然的。如果幸福感与绝对收入水平正相关，那随着人类社会的进步，人类的整体幸福感会不断提升，这显然有悖于人类基本物理特征应该维持大致稳定的要求。总之，幸福感是实现生存或者繁衍这个更基础目标的激励机制，而不是人类的终极目标本身。

在将机器与人类进行比较时，“自由意志”会被当成是人类有别于机器的重要特征。但这种区别可能并不是本质的。从外部来看，一只猫看到机器人和狗打架，可能就觉得机器人是有自由意志的。从内部的行为机制来看，“自由意志”体现为随机性，而包括Alphago在内的人工智能程序实际上就具有某种随机特性。比如，Alphago在落子时就是采用了基于随机抽样的“蒙特卡洛树”方法。自由意志的重要性体现在，随机性可以扩展个体乃至群体对环境的搜索空间，提升演进的效率。

回到最初的问题，人工智能到底能不能超越人类智能？

智力本质上是搜索的效率，即在各种可能性中尽快搜索到较好的结果，用以表达、理解、预测、判断、决策。智力的演进体现为搜索空间的扩展和搜索速度的提升，而想象力、创造力都是提升效率的手段。Alphago围棋下地聪明，其实就体现在搜索效率的提高上。由于人类演化在个体智能的提升上，远比机器智能的进步缓慢，没有理由认为机器不能全面超越人类。

目前来看，机器能够很好地实现那些数据结构化、目标明确的理性功能。但机器要超越人类，仅仅模拟人类理性行为还远远不够，更大的挑战是如何让机器表现出类似于人类的感性行为。这远比想象的困难，因为看似简单的感性机制，其实浓缩了生物和人类漫长的演化改进和个体生命中经验、知识的不断积累。

一种可能的路径是模拟人类的演化过程。首先，在个体上，让机器的行为目标变得抽象，即赋予机器某种“自我意识”；再将类似于人类“情感”的激励机制嵌入到机器中，用于将抽象目标自动分解为短期和局域子目标，再加以类似于“自由意志”的随机行为。再进一步，实现机器的自我复制、变异、改进等，即模拟人类的繁衍过程，提升机器学习和适应环境的普遍性，合作性与安全性。

当然，人工智能的发展未必需要重复人类的演化历史。实际上，人类的演化可能是从感性到理性，而人工智能的发展似乎是从理性到感性。不过，人工智能的发展㛑可以走捷径，如通过了解人类的特点，直接感性机制嵌入机器。但迄今为止，人工智能领域对于人类感性甚至常识的理解和表达还比较初级，对于用非监督学习方式来模拟人类的感性行为还是一筹莫展。在可预见的将来，机器依然无法代人类，人与机器的合作将长期存在。人会负责非结构化的问题，或者把非结构化问题转化为结构化的模式，让机器负责结构化问题的搜索和求解。在某种意义上，人机一体将成为新的生命形式。

实际上，人类技术的发展早已经拓展了生命的涵义。像互联网发展到今天，已经可以被视为一个超级生命体，而人类则是这个超级生命体上的细胞。虽然是人类发明的产物，但互联网已经脱离了发明者的掌控，越来越遵循其自身演化的逻辑。不过，由于互联网这个超级生命体是单一的，而不是被复制为相对独立的个体，人们通常并没有把互联网视为一个新的生命物种。这反过来也说明，实现繁衍机制或许是机器成为人类竞争对手的标志。

机器与人类的争斗是各种科幻作品中的常青主题。那么机器是否真有可能取代人类？即使人工智能最终全面超越人类，机器代替人类从事所有的工作，那也并不意味着人类就会消亡。人类演化的目的是生存，而不是工作。人类可能因为饥荒而死亡，却不会因为无需工作而活不下去。

那么机器是否会完全脱离人类的控制而最终消灭人类呢？按前所述，机器目标的单一化和抽象化相当于让机器拥有“自我意识”，自动将抽象目标分解成具体、短期的子目标则可以通过嵌入“情绪”机制来实现，而随机性行为则体现了机器的“自由意志”。具有这些特征的机器比较容易脱离人类的控制，而繁衍机制的实现可能导致机器与人类争夺能源。

但从乐观的角度来看，如果机器的智能没有超越人类，机器也就无力消灭人类。如果机器达到人类的智能水平，由于进化的速度会远快于人类，机器不会长期停留在人类的水平，而会很快就会大幅超越人类的智能。到那一步，人类并不会构成对机器的威胁，因此机器也没有必要消灭人类。更现实的是，机器全面超越人类的前景现在依然十分遥远，而且未来人工智能的重大突破都会引起人类的警觉，给人类足够的余地来应对。因此，人类目前真正需要担心的不是被机器消灭，而是自身繁衍是否可持续。

（朋友苑明理、王烁与作者进行了有益讨论并提出了很好的建议，在此表示感谢。）