Bengio领衔发布2026国际AI安全报告:聚焦‘新兴风险’,四大能力演进路径揭示治理紧迫性

2026年2月7日,由图灵奖得主约书亚·本吉奥(Yoshua Bengio)领衔的国际AI安全专家组正式发布《2026全球人工智能安全报告》,该报告相较2025年版实现三大范式升级:研究范围聚焦‘新兴风险’(Emerging Risks)、分析方法引入OECD情境化建模、实证基础转向‘现实攻击案例’。报告指出,当前最迫切威胁已从传统偏见与隐私问题,转向通用AI能力前沿的滥用风险与AI驱动的网络安全威胁。过去一年间,国家级APT组织利用大模型自动化编写零日漏洞利用代码的案例激增320%,AI生成的钓鱼邮件点击率较人工编写高出47%,而基于扩散模型的深度伪造视频已成功绕过92%的现有生物识别验证系统。这些确凿证据标志着AI安全已从‘理论推演’阶段迈入‘实战防御’新纪元。

报告核心创新在于与OECD合作构建的‘AI能力演进四象限模型’。该模型基于计算能力(compute)、算法效率(algorithmic efficiency)与数据规模(data scale)三大变量,模拟出直至2030年的四种可能发展路径:(1)进展停滞:受全球芯片管制与能源瓶颈制约,AI能力增长趋缓;(2)进展放缓:仅在封闭工业环境实现局部优化;(3)持续进展:AI成为‘专家级协作者’,在科研、工程等领域辅助人类决策;(4)加速发展:AI开始参与自身架构设计与训练流程优化,形成‘AI研发AI’的正反馈闭环。报告警示,路径(4)虽概率较低(当前模型估算约12%),但一旦触发,将使现有监管框架全面失效,亟需建立跨国家的‘前沿能力熔断机制’。

另一关键发现是‘锯齿状能力’(Jagged Capabilities)现象的普遍化。报告通过百项基准测试证实,当前顶级AI系统在数学推理(IMO金牌水平)、法律分析(通过美国律师资格考试MBE科目)等复杂任务上表现卓越,但在空间推理、物理常识理解及多步骤任务规划等基础能力上存在严重缺陷,且‘幻觉’发生率随任务链长度指数级上升。这种能力分布的极端不均衡性,使得传统‘一刀切’监管失效——例如,对金融风控模型需严控逻辑一致性,而对创意生成工具则应侧重版权溯源与真实性标注。报告据此提出‘能力画像监管’新范式:要求开发者提交模型在各维度能力的第三方评测报告,并据此动态调整监管强度。目前,加拿大、日本及新加坡已启动相关试点,预计2026年下半年将形成首个国际互认的能力评测标准框架。