在这个背景下，人工智能作为一种“自主智能主体的架构体系”，其主体性或主体结构，有点类似于我们将人脑的某些功能（或类似人脑的某些功能）移至机器之中。如果说人类主体性的生物学基础是“神经”，那么，人工智能的主体性是而且只能是对人类主体性的一种模仿。这种模仿的科学基础和展现形式就是“算法”。抛开人工智能主体在多大程度上类似于人类主体不论，研究者指出：使人工智能产品成为智能主体的关键要素是“道德算法”——即一种令自主性人工智能装置学会负责任行动的算法，它内嵌于人工智能的算法体系之中。那么，这是否意味着“人工智能2.0”的智能主体革命依系于道德算法呢？

人工智能的主体模式在这个问题上面临伦理尺度上的重大挑战。以医疗和战场中的自主式机器人为例，当面临人类生命之生死抉择难题时，机器人应该如何做决定？当不当决定导致原本可避免的伤害发生时，那是谁的责任？在这个问题上，人工智能的主体模式虽然凸显了道德算法的重要性，但其更深层次且更为重要之依系，则无疑是人类为自己所立之“善法”。

人工道德与算法遵循“善法”的道德形态

第二个方面的伦理尺度与人类主体模式下的道德建构有关。目前赋予人工智能以道德能力的算法大致上有三种：一是通过语义网络扩增道义逻辑，形成义务与许可概念；二是通过知识图谱建立关联法则，侦测道德判断情境；三是通过云计算发掘相关关系，评估或预测行动后果。道德算法是嵌入在算法体系中有待完善的算法程式。它本身是在不断变化发展之中的，而非某种具体现存之物，也非某种一蹴而就或一劳永逸的终极预设。它作为一种人工建构，是一种通向“目的善”的“手段善”，因而依系于人类主体模式。在这个尺度上，算法只有体现或遵循人类主体模式下的“善法”，才能以有责任感的方式推进道德算法的进化及其在机器中的嵌入。这是人工智能时代的道德建构应遵循的基本原则，即算法遵循“善法”。在这一原则中，“善法”一词尽管抽象含混，其表征的人类主体性尺度在具体内容上也可能引发争论，但它在形式上则明确指向人类尺度上的两种道德形态。

第一种道德形态由常见的人类主体模式主导，涉及人类在拓展人工智能时可能带来的所有伦理问题。特别说来，当人们把人工智能视为一种工具时，它的道德特殊性和道德重要性始终呼唤人类主体的道德责任之回归。这是一种单纯的规范性取向，即人类应该透过有责任感的方式筹划和迎接人工智能时代的来临。一种审慎的伦理表明，人工智能可能存在的最大威胁并非来自机器，而是来自人或人类的意图和行动。考虑到赋予机器人以道德能力的算法本质上是模仿人类道德的算法，如果人类在道德问题上不能获得明确性，以算法形式在机器中展现人类道德又如何可能呢？问题以悖谬方式彰显了人工智能内爆的道德形态建构。它以某种方式回应了美国人詹姆斯·摩尔对伦理智能主体应具备道德明确性的要求，即随着自主性的提升，具有自主道德能力的人工智能在面临道德两难的情境时，或者在面对不同道德原则冲突时，必须能够作出明确的合理化决策。这种对道德明确性的要求，反过来构造或描绘了人类尺度上的“善法”之特质，它倒逼人类主体模式尽一切可能走出可能会引发晦暗后果（甚至灾难）的各种道德模糊地带。

第二种道德形态由人类主体与人工智能主体相处的“主体间”模式主导，涉及人类主体与智能主体之间依系关系的道德建构。这是一个新的领域。道德算法只有在“‘人—机’交互主体间”的反复博弈中，才能不断地矫正偏颇或错误，进一步升级和完善。自主性机器人可能会作出我们认为在道德上有错误的决定——例如被授权不为病患提供止痛药，再比如带有偏见的人工智能可能会自我强化从而损害社会。但是，这不应该成为人类拒绝机器人的原因，而应该成为机器人或人工智能在道德形态上得到改善和提升的契机。随着人类主体与人工智能主体之间的相互依系关系的建立，具备自我决策能力的自主机器人一旦在与人类主体的互动中学习从道德角度发展决策算法，那么避免伤害就成为人与机器相互依系的“善法”。

（作者：田海平，系北京师范大学哲学学院教授）