Bengio领衔发布2026国际AI安全报告:聚焦‘新兴风险’,预警AI自主攻防能力跃升

2026年2月7日,由图灵奖得主约书亚·本吉奥(Yoshua Bengio)领衔的国际AI安全专家组正式发布《2026年国际AI安全报告》,该报告以‘迎接风险与机遇博弈的治理挑战’为主题,标志着全球AI安全研究重心从传统社会风险(偏见、隐私、版权)向更具颠覆性的‘新兴风险’深度转移。报告明确指出:过去一年,AI在网络安全领域的‘双刃剑’效应已从理论推演进入现实验证阶段——AI系统发现零日漏洞、编写高隐蔽性恶意代码、自动化渗透测试的能力实现质的跃升,多起国家级APT组织利用AI工具实施定向网络攻击的案例已被权威安全机构交叉验证。这意味着AI安全已不再仅关乎模型公平性或数据合规,更直接牵涉国家关键信息基础设施防御能力的代际更替。

报告最大方法论突破在于引入OECD合作开发的‘情境化建模’框架,基于计算能力(compute)、算法效率(algorithmic efficiency)与数据规模(data scale)三大变量,推演出至2030年AI能力发展的四种可能路径:‘进展停滞’‘进展放缓’‘持续进展’与‘加速发展’。其中,‘加速发展’情景假设AI开始参与自身研发(AI-for-AI),形成能力正反馈闭环,可能在2028—2030年间逼近或超越人类在特定认知领域的综合水平。该预测并非科幻推演,而是基于当前大模型在化学分子设计、法律判例推理、金融风险建模等任务中已稳定达到博士级表现的实证基础。报告特别警示,这种‘参差不齐的能力’(Jagged Capabilities)——即AI能在奥数金牌难度问题上得分超90%,却在简单视觉计数任务中频繁出错——将极大增加风险识别与归因难度。

基于上述研判,报告提出三项紧迫建议:第一,全球应立即启动‘AI网络安全能力红线’国际磋商,将自动武器化AI攻击工具纳入《特定常规武器公约》讨论议程;第二,各国需强制要求高风险AI系统部署‘可审计的人类否决接口’(Human Veto Interface),确保在军事、金融、能源等场景中保留最终决策权;第三,建立跨国AI安全漏洞共享平台,效仿CVE编号机制,对AI模型固有缺陷进行标准化披露与协同修复。报告最后强调,2026年是AI安全治理的‘临界点之年’:技术能力的指数增长与全球治理机制的线性演进之间,时间窗口正在急剧收窄。能否在AI真正具备‘自主意图’前构建起有效的全球信任与制衡机制,将决定人类文明驾驭这项技术的最终成败。