马斯克最新预警:AI 发展如脱缰野马,AGI 拐点已至
特斯拉CEO、xAI创始人埃隆·马斯克在近期的行业论坛上再次发出AI安全预警,用“脱缰野马”形容当前AI的发展速度,明确表示通用人工智能(AGI)的拐点已经到来,呼吁全球加强AI监管,防范技术失控风险。这一表态延续了马斯克一贯的谨慎立场,也再次引发全球对AI安全与伦理的热议。
马斯克指出,过去一年AI技术的迭代速度远超市场预期,尤其是多模态大模型与智能体的融合,让AI具备了自主学习、自主决策的初步能力,这标志着AGI的拐点已正式来临。他警示,当前AI的发展已呈现“不可逆转”的态势,就像脱缰的野马,若缺乏有效的全球协同监管,可能会出现超出人类控制的场景,甚至威胁人类社会的安全与稳定。
针对AGI拐点后的风险防控,马斯克提出三点建议:一是建立全球统一的AI监管框架,明确AI发展的伦理红线与安全标准;二是限制高风险AI技术的无序研发,尤其是具备自主决策能力的智能体技术;三是推动AI安全技术的研发,实现“以AI治AI”,构建全方位的安全防护体系。同时,他透露xAI正加快AGI安全技术的研发,计划推出具备自我约束能力的新一代大模型,兼顾技术创新与安全可控。业内人士表示,马斯克的预警并非危言耸听,AGI拐点的到来,意味着AI监管已刻不容缓。
