我国首个AI应用伦理安全指引正式发布,构建全球领先的AI治理‘中国范式’

2026年5月20日,在广西南宁召开的中国网络文明大会人工智能赋能网络文明建设分论坛上,全国网络安全标准化技术委员会正式发布《人工智能应用伦理安全指引1.0》。这是我国首部面向全行业、全场景、全生命周期的人工智能应用级伦理安全规范性文件,标志着我国AI安全治理体系从技术合规迈向价值引导与制度协同的新阶段。

该指引聚焦生成式AI、具身智能、AI代理等前沿应用形态,首次系统提出“以人为本、公平包容、透明可溯、稳健可控、责任明晰”五大核心原则,并针对内容生成、深度合成、情感计算、自动化决策等高风险场景设置差异化治理要求。尤为值得关注的是,指引明确将“情感欺骗风险”“隐性行为诱导”“多模态幻觉传播”列为新型伦理红线,直指当前AIGC滥用、AI陪伴产品误导性交互、智能体人格化越界等现实乱象。

据参与编制的专家透露,该指引并非强制性国标,而是采用“标准+案例+评估工具包”三位一体落地路径:配套发布的《AI应用伦理影响自评表(V1.0)》已接入国家人工智能治理公共服务平台,支持企业一键生成伦理合规报告;首批37个典型违规场景判例库同步上线,覆盖金融营销话术生成、医疗问答幻觉、招聘简历筛选偏见等12类高频应用。目前,包括百度文心、科大讯飞星火、华为盘古在内的11家头部大模型厂商已签署《指引践行承诺书》,承诺在2026年底前完成全部商用模型的伦理对齐升级。

国际观察人士指出,该指引的发布恰逢全球AI监管加速博弈期——欧盟《AI法案》实施细则刚于5月15日生效,美国NIST AI RMF 2.0框架尚处征求意见阶段。而中国以“应用导向、敏捷治理”为特色的伦理指引,既避免了过度规制抑制创新,又填补了算法黑箱与用户权益之间的治理真空,有望成为发展中国家AI治理的重要参考模板。下一步,全国信安标委将联合工信部、网信办启动地方试点,计划在长三角、粤港澳、成渝三大算力枢纽部署“AI伦理沙盒”,允许企业在可控环境中测试高风险创新应用,并动态反哺指引迭代。可以预见,随着《指引1.0》落地,AI产业的竞争维度正从算力、模型参数,加速转向可信度、可解释性与社会接受度的综合比拼。