超级智能时代的风险转变与伦理应对

　　在人们的印象中，伦理学以揭示自由规律且构建原则规范为主要任务，但是实现这一任务的过程中却暴漏出伦理学的先天孱弱。相比法律和制度，伦理原则缺乏刚性约束力。因此以构建原则规范的AI伦理也表现出伦理学先天孱弱特性。随着AI技术本身迭代加快以及超级智能时代的临近，AI伦理逐渐出现了3个变化：制度化、法律化和工程化来克服这种孱弱特征。

　　超级智能逐渐从技术想象转变为现实问题，AI伦理法律化、制度化和工程化并不能应付超级智能的挑战。相比一般人工智能，超级智能表现出一种明显的差异：人工智能开始作为新的主体重构生产关系和生产力；超级能动性成为一个关键概念影响着人类和人工智能的关系构建。以人工智能风险领域为例，相关的风险理论建立在对人工智能体风险层次的划分之上，比如欧盟的AI法案将人工智能风险划分为四类：最低风险、有限风险、高风险和不可接受的风险。但是高风险和不可接受风险的AI系统技术标准并未按时落地。但是超级智能带来的是存在方式的改变，一种新的生存结构正在形成。本报告借助斯洛特戴克的球体理论，深刻指出AI风险已演变为存在论层面的结构性问题，呈现为复杂的球状风险。为应对上述挑战，AI伦理构建必须实现从“产品”思维向“实践”思维的范式转向。新的AI伦理框架包含两大关键维度：一是技术指向的AI伦理，聚焦与技术应用场景、能力边界及全生命周期等痛点有关的伦理问题；二是人文指向的AI伦理，强调与人文解释、技术批判与人机关系重塑有关的伦理问题。面对超级智能可能引发的权力失衡，报告创造性地构建了“智能契约伦理”框架。该框架主张以契约伦理重构人机关系，为人类主体性寻找数字立足点。在工程化实践上，采用动态契约机制实时监测伦理摩擦，并在冲突发生时将其“挂起”，通过引入四值逻辑交由人类商谈决定，确保人类的最终决策权。目前，契约伦理从单向“对齐”向双向“共契”的演进趋势。面向未来人机共生社会，需要设立以智能契约为内核的“伦理学家AI”作为契约构建者的实践范式。