《2026年国际人工智能安全报告》发布：通用AI能力超预期，治理滞后成最大风险

在通用人工智能能力加速突破、全球治理争议同步升温的背景下，由蒙特利尔大学教授约书亚·本吉奥（Yoshua Bengio）领衔、30余国专家参与撰写的《2026年国际人工智能安全报告》于3月25日正式发布。该报告由英国科学、创新与技术部主导，联合国、欧盟、经合组织等国际组织提供战略指导，旨在为各国决策者建立一套基于证据的‘共同认知基准’，以应对技术演进速度远超风险证据积累速度的‘证据困境’。报告明确指出：通用AI当前能力已超多数专家预期，但风险证据仍在快速累积，而现有管理手段明显滞后，亟需构建‘纵深防御’体系。

报告首次系统性聚焦‘新兴风险’，将研究范围从2025年版的偏见、隐私等广泛议题，精准收窄至三大类高危领域：一是恶意使用，包括国家级黑客组织利用AI批量生成零日漏洞利用代码、AI辅助设计生物毒素分子结构等已获实证的攻击案例；二是系统故障，如AI在复杂多步推理中出现‘参差不齐的能力’（Jagged Capabilities）——能在奥数竞赛中斩获金牌，却在识别图片中苹果数量时频繁出错，导致关键任务失控；三是社会经济冲击，尤其关注AI代理大规模替代中层管理岗位引发的‘技能断层’与人类自主性侵蚀。报告特别引用OECD情境建模成果，预测至2030年AI发展存在四种可能路径：进展停滞、缓慢推进、持续发展（AI成为专家级协作者）、或加速发展（AI参与自身研发形成正反馈闭环）。

针对治理短板，报告提出‘技术防护+制度约束+社会复原力’三维方案：技术层推广可验证AI（Verifiable AI）与对抗鲁棒性测试；制度层推动跨国AI安全协议谈判，建立类似‘国际原子能机构’的AI风险监测中心；社会层则强调全民AI素养教育与劳动力再培训投入。报告最终结论振聋发聩：‘未来十年的关键抉择，不在于是否发展AI，而在于能否在不确定性中构建起足够敏捷、透明且包容的全球协同防线。’北京大学中外人文交流研究基地已完成该报告中文选译，为国内政策制定与产业实践提供重要参考依据。