人工智能的蓬勃发展带来了人们在思想、生活和工作各方面全方位的变革。“人机大战”引发广泛关注的深层原因，在于它在文明史和人类史尺度上以一种仪式化的效应表征了一个时代的来临，即人工智能时代的来临。

人工智能时代来临，人类应该如何行动

从人工智能的主体结构看，无论“阿尔法狗”战胜人类顶尖棋手，还是“微软小冰”创作诗歌，抑或是IBM公司的超级机器人“沃森”跻身杏林、悬壶治病，它们目前充其量属于某种弱的人工智能，离真正的智能主体相去甚远。然而，这并不能消除一种日益滋长起来的恐慌性担忧：一旦人工智能大规模进入我们的生活，人类未来会怎样？斯蒂芬·霍金、史蒂夫·沃兹尼亚克、比尔·盖茨等发出警示说：人工智能可能是人类存在的最大威胁。埃隆·马斯克甚至说：“有了人工智能，就相当于我们开始召唤恶魔。”

透过各种各样的“悲观主义—乐观主义”的观念对峙，我们看到，我们真正需要认真面对的问题是：既然认识到人工智能的时代已经到来，我们要如何行动才使自己成为未来的一部分？换言之，为了避免人工智能在唤醒万物的同时唤醒人类无法控制甚至最终控制或取代人类的“恶魔”，我们到底应该如何行动？笔者认为，这个问题的紧要处只有放在规范性的先行构建上，才能未雨绸缪。它涉及人工智能时代的道德建构问题，应从“人为自己立法”的规范性原理中产生。就形式方面而言，笔者将这种规范性的先行构建概括为一个基本原则，那就是：让算法遵循“善法”。因为“善法”的主体性总是与“目的”相关，而算法在总体上永远只能是达到目的的手段或工具而已。

具而言之，作为人工智能时代的道德建构，让算法遵循“善法”的原则包含两个重要的伦理尺度：一是人工智能自身嵌入的道德，涉及人工智能带来的智能主体模式及其相关伦理尺度；二是人类在拓展人工智能的过程中进行的道德建构，涉及常见的人类主体模式以及人类主体与人工智能主体相处的“主体间”模式及其相关伦理尺度。

“人工智能2.0”是否依系于“道德算法”

第一个方面的伦理尺度与人工智能的智能主体或智能主体模式有关。人工智能通常的定义是：研究如何使计算机等机器能够做那些表现出人的智能的事情，其目标是使智能行为自动化。然而，就智能主体的类型而言，在机器中实现某些人类的智能的弱人工智能，与让机器自主地或自动地表现人类的智能的强人工智能，在强弱程度上是大不一样的。如果将前者记为“人工智能1.0”，那么后者就是“人工智能2.0”。目前的人工智能完全可以看作是从“人工智能1.0”到“人工智能2.0”的过渡，其实质是走向一场更深远的智能主体革命。