中国工信部发布《人工智能生成内容标识强制标准》,2024年10月1日起全面实施

【背景】

随着AIGC技术爆发式普及,虚假新闻、伪造证件、深度伪造音视频等风险事件呈指数级增长。据国家网信办2024上半年通报,涉AI生成的网络谣言占比已达34.7%,较2023年同期上升19.2个百分点。尽管此前《生成式人工智能服务管理暂行办法》已提出标识要求,但缺乏统一技术规范与强制效力,各平台执行标准参差不齐,用户识别准确率不足52%。

【动态】

2024年7月25日,工业和信息化部联合国家标准化管理委员会正式发布《人工智能生成内容标识技术要求与检测方法》(GB/T 44276-2024)。该标准首次明确四类强制标识场景:图文类内容须嵌入不可见数字水印(支持JPEG/PNG/WebP格式),视频类须叠加半透明动态角标(位置固定、尺寸≥画面宽5%),音频类需注入人耳不可闻但设备可检的声纹特征序列,3D模型文件则强制添加ISO/IEC 23009-1兼容元数据字段。标准还规定检测工具须通过国家级AI内容鉴伪实验室认证,误报率不得高于0.3%。

【影响】

新规将彻底改变内容生态格局。抖音、微信、小红书等头部平台已在7月底完成SDK升级,用户上传AI生成图片时系统自动触发水印嵌入;新华社上线‘智鉴’标识核验插件,记者发稿前可一键验证素材来源。法律层面同步强化,北京互联网法院已受理首例因未标识AI生成内容导致名誉侵权的索赔案。值得关注的是,部分AIGC工具厂商(如妙笔、绘意)宣布将提供‘合规优先’模式,默认启用最高强度标识方案以获取政务采购准入资格。

【展望】

该标准被视为全球首个覆盖全模态、具备司法采信效力的AIGC标识国标。国际电信联盟(ITU)已启动对标研究,预计2025年形成全球互认框架。下一步,工信部将联合公安部建设国家级AI内容溯源平台,实现跨平台标识信息实时共享。长远看,标识技术正从‘被动标注’向‘主动溯源’演进,未来或与区块链存证、可信执行环境(TEE)深度融合,构建覆盖生成、传播、使用的全生命周期治理基础设施。