中国移动上线超300款大模型集成平台,首创‘词元集约化’降本增效

2026-05-09 23:02 👁 18814

继各大云厂商与初创公司密集发布大模型服务后,国内首个运营商级超大规模AI模型服务平台于2026年5月初正式上线——中国移动‘智算融通’AI模型服务平台。该平台并非简单聚合API接口,而是基于自研的‘词元集约化(Token Rationalization)’技术架构,对跨厂商、跨模态、跨精度的300余款国产主流大模型(涵盖通义千问、文心一言、GLM、Ling-2.6、DeepSeek-V4等)实现统一抽象层调度与动态词元压缩编排。

平台支持三种智能筛选模式:场景适配模式(按教育、政务、金融等垂直领域自动匹配最优模型)、效能优先模式(实时评估响应延迟、Token开销与准确率加权得分)、以及合规兜底模式(自动过滤未通过网信办备案或存在价值观风险的输出链路)。尤为关键的是,其底层词元重用引擎可在多轮对话中识别语义冗余片段,将重复提示词、系统指令及上下文缓存进行无损折叠,实测使单位词元平均调用成本下降约30%,GPU资源占用率降低超50%。

据中国移动披露,该平台已接入全国27个省级政企客户及132家行业ISV,在政务热线知识库问答、银行智能风控摘要生成、制造业设备故障多模态诊断等场景完成规模化落地。某东部省份12345热线接入后,单次市民咨询平均处理耗时从8.2秒降至5.1秒,后台模型调用量翻倍而总支出反降19%。这一‘基础设施级优化’正倒逼模型厂商重构推理成本模型——不再仅比拼参数规模与榜单排名,更需提供可验证的词元效率白皮书与轻量化微调接口。

业内专家指出,词元集约化并非单纯压缩技术,而是首次将‘语言单元经济性’纳入AI服务SLA标准。未来,随着《人工智能终端国家标准》(GB/T 44490-2026)在5月10日正式实施,该标准明确要求商用AI终端须标注‘典型任务词元消耗均值’,中国移动平台或将演进为国家级AI能效基准测试节点。长远看,当千亿级日均调用量(当前已达1120亿次/日)形成稳定数据飞轮,其沉淀的跨模型性能指纹库有望催生新一代‘模型路由器’中间件生态,推动中国AI产业从‘模型军备竞赛’迈入‘服务精算时代’。