我国首个《人工智能应用伦理安全指引1.0》发布:AI问答系统须设‘价值对齐开关’与人工兜底机制

2026年5月19日至20日,中国网络文明大会在广西南宁举行。在大会专设的‘人工智能赋能网络文明建设’分论坛上,全国网络安全标准化技术委员会正式发布《人工智能应用伦理安全指引1.0》(以下简称《指引》),这是我国首部面向全行业AI应用、聚焦人机交互场景特别是智能问答系统的国家级伦理安全操作框架。《指引》明确要求:所有面向公众提供自然语言问答服务的大模型产品,必须内置可验证的‘价值对齐开关’(Value-Aligned Toggle),支持动态切换合规响应模式,并强制配置人工审核与干预的‘最后三秒兜底通道’——即当系统识别到涉及公共安全、未成年人保护、民族宗教、历史事实等高风险问答时,须在响应生成后、推送前预留不短于3秒的人工复核窗口期。

该《指引》直指当前AI问答领域暴露出的典型风险:某头部政务问答平台近期被曝出在政策解读类查询中,因训练数据时效滞后导致援引已废止条例;另有多款教育类AI助教在历史人物评价中出现价值偏差,引发家长集体投诉。《指引》首次将‘问答可信度衰减率’纳入评估指标,要求服务商每季度公开披露其模型在政治表述、科学常识、法律条款三类关键问答任务中的准确率波动曲线及归因分析。

业内专家指出,《指引》并非简单设限,而是构建‘敏捷治理’新范式。中国社科院科技哲学研究所所长段伟文强调:‘它把抽象的AI向善原则,转化为可测量、可审计、可追溯的技术接口标准——比如‘价值对齐开关’需通过国家AI测评中心认证,其调用日志须完整上链存证。’据悉,首批适配《指引》的政务AI问答系统已在石家庄、杭州、深圳三地政务服务大厅上线试运行,用户可通过语音指令‘开启合规模式’实时激活多重价值观校验流程。

未来展望方面,《指引》提出‘双轨演进’路径:短期(2026年内)推动问答类AI完成基础合规改造;中期(2027—2028)建立跨模型价值观一致性联邦学习机制,实现主流问答模型在核心价值维度上的协同进化;长期则探索‘人类意图增强层’(Human Intent Augmentation Layer),使AI不仅回答‘是什么’,更能主动识别并澄清用户潜在的价值预设,真正迈向‘可信赖对话伙伴’阶段。随着618电商大促临近,多家平台已启动客服问答大模型的合规升级,预计将在6月上旬全面启用新版伦理安全协议。