Yann LeCun警告AI监管过度:'我们正用20世纪的法律驯服21世纪的智能体'

2024年6月,Meta首席AI科学家Yann LeCun在里斯本Web Summit主论坛发表题为《Openness as a Safeguard》的主旨演讲,直指当前全球AI立法浪潮中的结构性风险。他指出,欧盟《人工智能法案》(AI Act)与美国行政令中将基础模型等同于高风险系统的归类逻辑,忽视了开源模型与闭源商业系统在可控性、可审计性及社区监督机制上的本质差异。LeCun援引Hugging Face平台数据显示,截至2024年Q2,超78%的开源大模型已集成内置安全层(如拒绝采样、RLHF微调日志公开、权重可验证哈希),而多数闭源API服务仍拒绝披露推理链与数据溯源路径。

动态层面,LeCun团队同步发布Llama-3-OpenGuard技术白皮书,首次实现三重透明化架构:模型权重级安全标注(Safety Tokenization)、训练数据地理分布热力图(Data Provenance Map)、以及实时社区反馈熔断机制(Community Circuit Breaker)。该框架已在Apache 2.0协议下开源,并被德国联邦信息安全办公室(BSI)纳入其AI可信评估试点目录。值得注意的是,LeCun刻意避开‘对齐’(alignment)术语,转而强调‘可观测性优先’(Observability-First)范式——主张通过工程化透明度替代哲学化价值嵌入。

这一立场对产业影响深远:一方面倒逼监管机构重构评估维度,欧盟AI Office已于6月15日启动‘开源模型沙盒豁免’咨询程序;另一方面加速企业技术路线分化——Anthropic宣布暂停闭源Claude 4研发,转向开源轻量化模型集群;而国内智谱AI则宣布其GLM-5系列将采用LeCun提出的‘分层许可协议’(Tiered License),核心推理模块开源,但商用增强插件实行订阅制。

展望未来,LeCun预测2025年前将出现首个由多国监管机构联合认证的‘开源AI合规印章’(OpenAI Trust Seal),其认证标准将聚焦代码级可验证性而非黑箱测试。但他亦警示:若监管持续聚焦模型参数规模而非部署场景复杂度,可能催生‘合规套利’——企业通过拆分模型架构规避监管,反而降低整体系统鲁棒性。真正的治理突破点,在于建立跨司法管辖区的模型行为日志互认协议,而非统一技术禁令。