《2026年国际人工智能安全报告》发布：Bengio领衔，聚焦‘新兴风险’与2030四种发展情景

2026年3月25日，由英国科学、创新与技术部发布、蒙特利尔大学教授约书亚·本吉奥（Yoshua Bengio）担任主席的《2026年国际人工智能安全报告》正式面世。这份凝聚全球30余国专家及联合国、OECD、欧盟等国际组织共识的权威评估，标志着AI治理正从宽泛伦理讨论转向聚焦‘前沿能力—现实风险—纵深防御’的实证科学框架。与2025年版广泛覆盖偏见、隐私、版权等议题不同，2026年报告显著收窄范围，将全部焦点锚定于‘新兴风险’（Emerging Risks），即通用人工智能（AGI）能力跃升所引发的恶意使用、系统失控与社会冲击三大类威胁，直面‘证据困境’——技术演进速度远超风险证据积累速度。

报告首次引入OECD合作开发的情境化建模方法，基于算力（compute）、算法效率（algorithmic efficiency）和数据规模三大驱动变量，系统推演至2030年的四种可能发展路径：（1）进展停滞——受物理极限或政策干预制约；（2）进展放缓——仅在封闭可控环境内演进；（3）持续进展——AI成为人类‘专家级协作者’；（4）加速发展——AI参与自身研发形成正反馈闭环，逼近或超越人类认知临界点。尤为警醒的是，报告明确指出‘AI正变得聪明且危险’：领先系统已在化学、法律等本科考试中得分超90%，奥数金牌水平达成，但空间推理能力极差，且频繁出现‘幻觉’，呈现出典型的‘参差不齐的能力’（Jagged Capabilities）特征。

在风险实证层面，报告不再停留于理论推测——过去一年，国家级黑客组织利用AI自动发现零日漏洞、批量生成钓鱼邮件与勒索软件的行为已被多国网络安全机构确凿记录；AI辅助设计的生物分子序列已在实验室中成功合成具有未知功能的蛋白质。对此，报告呼吁构建‘纵深防御’体系：前端强化数据过滤与模型水印，中端完善AI行为审计与可信执行环境，后端提升社会复原力与跨部门应急协同机制。其终极主张清晰有力：未来关键不在于是否发展AI，而在于能否在高度不确定性中，以共同科学基准驱动全球协同治理。