中国工信部发布《生成式AI服务安全评估指南(试行)》,首设多模态内容溯源强制要求

背景:伴随AIGC应用渗透至新闻、教育、政务等关键领域,深度伪造与跨模态误导风险持续升级。2024年7月,中国工业和信息化部联合网信办、公安部印发《生成式人工智能服务安全评估指南(试行)》,系全球首个针对多模态生成内容提出全流程溯源要求的国家级监管文件。

动态:《指南》明确要求所有面向公众提供服务的生成式AI系统,必须在图像、音频、视频输出中嵌入不可见但可验证的数字水印(CN-Watermark v2.0),并建立全链路日志存证系统,留存原始提示词、模型版本、推理参数及生成时间戳不少于180天。评估流程新增“跨模态一致性校验”环节,重点检测图文描述矛盾、语音唇形不同步等典型失真。首批纳入评估的23家平台已启动合规改造。

影响:政策直接推动国产AI水印技术商业化——杭州某初创企业披露,其CN-Watermark SDK订单量月增300%,支持华为昇腾、寒武纪MLU多平台部署。但中小开发者反馈合规成本陡增,单模型适配费用平均超12万元;另有平台因无法满足实时水印注入延迟<200ms要求,暂缓视频生成功能上线。

展望:《指南》试行期至2025年6月,后续将衔接《人工智能法》立法进程。国际标准化组织(ISO/IEC JTC 1)已启动中国提案的转化讨论,有望形成首个跨模态AI可信标识国际标准。学界建议加快构建国家级AI内容鉴定平台,提供公益性质的第三方水印验证与篡改检测服务。