人工智能行业：图解《人工智能生成合成内容标识办法》

　　近年来，人工智能快速发展，为生成合成文本、片、音频、视频等信息提供了便利工具，在促进经济社会发展的同时，虚假信息、深度伪造、恶意输出等安全问题突出，加剧传统信息安全风险的动态性、透性和全局性。联合国2024年《治理人工智能，助力造福人类》报告将“损害信息完整性”列为排名第一的风险。

　　无论欧盟《人工智能法》、澳大利亚《安全和负责任的人工智能咨询：澳大利亚政府的临时回应》，还是正在制定中的美国《编辑和深度伪造内容来源保护完整性法案》《数字内容测源标识法案》、英国《人工智能（监管）法案》等提案，均对水印、标识义务有要求。

　　在我国《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》明确相关规定。尽管各国对数字水印、数字指纹、加密元数据等标识技术的具体要求不同，对平台标识义务的强度存在差异，但在从事后内容审核转向生成端风险内嵌控制、提高人工智能治理能力的理念是一致的。

　　《办法》聚焦人工智能“生成合成内容标识”关键点，通过标识提醒用户辩别虚假信息，明确相关服务主体的标识责任义务，规范内容制作、传播各环节标识行为，以合理成本提高安全性，促进人工智能在文本对话、内容制作、辅助设计等各场景加快落地，减轻人工智能生成合成技术溢用危害，防范利用人工智能技术制作传播虚假信总等风险行为，推动人工智能健康有序发展