中国工信部发布《生成式AI服务安全评估指南》正式版,明确深度合成标识强制标准

背景:随着AIGC内容爆发式增长,虚假信息传播、人格权侵害及舆论操纵风险持续升级。2023年试点评估中发现,超67%的商用AI产品未落实内容溯源与风险提示义务,亟需可操作的合规标尺。

动态:2024年8月28日,工信部联合网信办、公安部印发《生成式人工智能服务安全评估指南(2024)》,首次将‘深度合成标识’细化为三级强制要求:所有文本/图像/音视频生成服务必须嵌入不可移除数字水印(Level 1);涉及新闻、政务、医疗等高风险领域须叠加动态闪烁警示标签(Level 2);跨平台传播内容需通过区块链存证实现全链路溯源(Level 3)。指南同步建立‘红黄牌’监管机制,对违规企业实施梯度处罚。

影响:政策直接推动百度文心一言、讯飞星火等主流平台在48小时内完成标识系统升级,淘宝、抖音等平台同步上线AI内容专项审核通道。但中小开发者反馈适配成本高企——Level 3区块链存证单次调用费用达0.3元,可能加速行业集中度提升。国际社会高度关注该标准,ITU已启动对标研究。

展望:指南明确2025年将扩展至3D生成、脑机接口等新兴模态,并试点AI服务‘安全信用分’制度。专家建议需同步建设国家级AI内容鉴定平台,避免企业自证循环,真正构建‘技术可控、风险可溯、责任可究’的治理闭环。