公司治理与高质量发展：人工智能发展带来的挑战
报告要点
人工智能在企业中的应用逐步的从辅助性工具转变为实质性的决策主体。这一变化对传统公司治理的冲击，集中体现为“股东—董事会—管理层”委托代理关系之外新增了一层“人类—算法”的代理关系，并使治理赖以运转的“授权
监督—问责”闭环出现断裂。人工智能监管制度供给已从原则宣示推进到技术标准、伦理审查与实质执法，而企业内部治理机制的跟进明显滞后，技术能力与治理能力之间的落差构成人工智能发展对公司治理最大的挑战。
人工智能使授权、监督、问责这一闭环出现缺口：授权仍然有效却不再清晰，监督的对象变得难以解释，问责则失去了可以指认的主体。因此企业层面的应对不必另起炉灶，而是要把已经中断的三个环节重新接上。
（一）授权机制：把部署与叫停的权限显式配置
确立董事会的保留事项清单，把原本默认属于管理层的决定权重新明确为董事会的决定事项，使授权关系在人工智能场景下仍然成立。让叫停成为默认结果而非待决事项。将高风险评估与训练中安全配置的变更列为须经专门委员会书面批准的保留事项，并禁止由执行团队以进度为由自行决定；明确重大告警在时限内未获排除时的自动暂停效力，使暂停的发生不需要另行决策；对暂停与重启的权限作具名安排并要求留存决策记录，使事后可以查证由谁做出判断。给数据处理的边界一个明确的授权主体。把红线落到具体的授权决定之上，使每一次数据进入模型训练都有可指认的决定人。
（二）监督机制：让监督者够得着事实
监督主体分三层。董事会专门委员会的职责是审查人工智能战略与重大部署、评估重大风险敞口并定期听取报告。管理层设置首席人工智能伦理官，具体职责包括组织上线前的伦理影响评估、主持算法风险的定期评估、受理内部举报并在必要时向董事会直接报告。运营层面的算法审查小组承担技术性审查，其审查结论应当留档并可供内部审计复核。
（三）问责机制：把算法决策的责任锚定到具体个体
把模型行为还原为若干个由人做出的前置决定，并在事前为这些决定配置责任
主体。包括是否部署，即把具备何种自主能力的系统投入何种场景；授予何种权限，即允许它访问哪些系统、调用哪些工具、在多大数据范围内运行；设置何种约束，即安全配置的水平、监控是否启用、告警如何处置；以及在异常发生时由谁决定是否停止。在多个岗位共同参与的情形下，还需要预先约定责任的分配顺序。记录必须覆盖决策过程本身，而不只是运行结果。上线的审批记录、配置变更的时间与批准人、告警的处置过程、重启的授权，应当与模型的运行日志、推理痕迹一并留存，并存放于执行者无法自行修改的系统中。
风险提示：1、人工智能技术发展突破人工超智能；
2、企业公司治理对人工智能的挑战应对不足。
