近年来，AI深度伪造技术快速发展，被不法分子用于伪造音视频、实施诈骗、造谣传谣等违法违规行为，严重侵害公民合法权益，扰乱社会秩序。2026年，我国明确对AI深度伪造实行“零容忍”态度，全面强化伪造音视频追责机制，加大对相关违法违规行为的打击力度。

最高人民法院相关负责人在2026年两会期间表示，AI换脸类诈骗不仅是财产侵害问题，更可能冲击社会的基础信任结构，人民法院对于此类犯罪风险已有研判。目前，我国已建立AI深度伪造全链条追责机制，明确AI深度伪造的研发者、传播者、使用者的责任边界：研发者不得开发用于伪造音视频、实施违法犯罪的AI工具；传播者不得传播伪造的音视频，发现相关内容需及时删除、举报；使用者不得利用AI深度伪造技术实施诈骗、诽谤、造谣等违法违规行为。

同时，监管部门强化技术防控，推广AI深度伪造检测技术，建立虚假音视频识别平台，及时发现并处置伪造内容；加大处罚力度，对利用AI深度伪造实施违法犯罪的，依法从严惩处，情节严重的追究刑事责任；此外，推动建立AI深度伪造溯源机制，实现伪造音视频的可追溯、可核查。据了解，目前相关部门已查处多起利用AI深度伪造实施诈骗的案件，形成有力震慑。业内人士表示，零容忍态度与强化追责机制的结合，将有效遏制AI深度伪造滥用乱象，维护社会秩序与公众权益。