当前位置: 首页 » 资讯 » 科技头条 » 正文

小米公开MiMo大模型推理全链路优化技术细节

IP属地 中国·北京 北京商报 时间:2026-05-31 00:10:47

北京商报讯(记者 陶凤 王天逸)5月30日,小米官方披露MiMo-V2.5大模型推理系统全链路优化技术细节。此前5月27日,小米MiMo-V2.5系列API宣布永久降价,最高降幅达99%。据介绍,小米针对Hybrid SWA+MoE+多模态架构重构完整推理栈,将KVCache存储压缩至同类方案约1/7,大幅降低长序列推理成本,在不削弱模型本身能力的前提下,实现同硬件下更高吞吐量、更低延迟,以此支撑终端定价下调。公司称,该方案也是业内首个覆盖该复合架构的大规模工程落地成果。

免责声明:本网信息来自于互联网,目的在于传递更多信息,并不代表本网赞同其观点。其内容真实性、完整性不作任何保证或承诺。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。

全站最新