广电总局重拳治理AI魔改视频,清除数万条低俗篡改内容,建立生成式AI内容备案制

2026年4月8日,国家广播电视总局联合中央网信办、文化和旅游部发布《生成式人工智能视听内容管理暂行办法》,宣布即日起在全国范围开展为期百日的‘清源行动’。截至当日12时,专项行动已清理下架AI生成的颠覆性篡改视频超3.7万条,涵盖对《西游记》《三国演义》等经典影视作品的低俗解构、对红色题材动画的恶搞拼接、以及利用深度伪造技术制造的虚假新闻片段。此次治理首次明确‘AI生成内容责任穿透原则’:平台方须对训练数据来源、模型调用日志、生成内容水印进行全链路留痕;创作者若使用商用AI工具生成传播内容,必须标注‘AI生成’及所用模型版本号,违者将面临最高500万元罚款及账号永久封禁。

新规背后是技术失控风险的急剧升温。据广电监测中心披露,2026年一季度AI生成视频日均流量同比增长320%,其中‘魔改类’内容占比达28.6%,主要集中在短视频平台二次创作区。典型违规案例包括:某MCN机构使用定制LoRA模型将《觉醒年代》人物植入虚拟赌场场景;某AI工具App默认启用‘娱乐化滤镜’,自动将历史纪录片人物表情替换为夸张鬼畜效果。更严峻的是,部分境外生成工具通过API接口向国内用户提供匿名服务,规避内容审核。新规特别增设‘跨境AI服务备案制’,要求所有向境内用户开放API的境外模型厂商,须在60日内完成安全评估与本地化内容过滤模块部署。

政策落地同步催生新型产业生态。北京、杭州等地已试点‘AI内容可信认证平台’,采用国密SM4算法对生成视频嵌入不可篡改数字指纹;字节跳动、腾讯视频等平台紧急上线‘AI内容溯源助手’,用户点击视频右下角标识即可查看生成时间、模型类型、编辑历史等12项元数据。行业专家强调,监管并非抑制创新,而是构建‘可控繁荣’框架——上海张江AI实验室数据显示,合规标注的AI创作内容用户完播率提升41%,商业转化率提高27%。当技术狂奔遇上规则护航,中国正探索一条兼顾创新活力与文化安全的AI治理新路径。