广电总局重拳整治AI魔改视频:清除数万条低俗篡改内容,建立生成式AI内容备案制

2026年4月8日,国家广播电视总局宣布AI魔改视频专项治理工作取得阶段性成果,累计清理违规视频超3.2万条,下架含AI篡改的经典影视、动画及新闻类账号127个,并同步启动生成式AI视听内容备案制度。此次行动直指近年泛滥的‘AI鬼畜解构’乱象:部分自媒体滥用Stable Video Diffusion、Wan2.7等视频生成模型,对《西游记》《新闻联播》等经典内容进行颠覆性改编,植入低俗台词、暴力场景与错误史观,单条视频传播量常超千万,严重侵蚀主流价值阵地。据广电监测中心数据,2025年Q4此类内容日均新增量达1.8万条,同比增长470%,其中73%使用未标注的AI生成标识。

治理机制呈现‘技术反制+制度约束+源头管控’三维特征:技术层面,广电联合中科院自动化所研发‘灵眸’鉴伪系统,通过运动轨迹异常检测、光流场矛盾识别与声画时序错位分析,实现99.2%的AI视频识别准确率;制度层面,新规要求所有面向公众发布的AI生成视听内容,须在平台侧嵌入不可移除的‘AI生成’数字水印,并向广电总局AI内容管理平台提交模型版本、训练数据来源及生成逻辑说明;源头管控则聚焦SDK与API服务商,要求字节、腾讯、百度等头部平台对下游调用方实施实名认证与用途白名单审核。

影响深远的是,此次治理已倒逼产业变革:红果短剧因旗下多部AI换脸剧集涉侵权被强制下架,转而与中科院计算所共建‘合规生成实验室’;B站宣布上线‘AI创作守护计划’,为通过备案的内容提供流量扶持与版权存证服务。专家指出,备案制并非限制创新,而是构建‘可信生成’基础设施——当每一段AI视频都可追溯、可验证、可问责,生成式AI才能真正成为文化繁荣的助推器而非破坏力。这标志着中国AI治理从‘事后追责’迈入‘事前筑堤’新阶段。