论坛上,华为公司副总裁、数据存储产品线总裁周跃峰博士发布AI推理创新技术——UCM推理记忆数据管理器,旨在推动AI推理体验升级,提升推理性价比,加速AI商业正循环。 当前,人工智能已步入发展深水区,AI推理正…
在科技界引发轰动的一则消息中,OpenAI的研究员Sheryl Hsu宣布了一项里程碑式的成就:其内部研发的AI推理系统在国际信息学奥林匹克竞赛(IOI)中荣获金牌,这是2025年的赛事中首次有AI达到这一高…
通过分级管理推理过程中产生的KV Cache记忆数据,UCM能够显著扩大推理上下文窗口,从而提升推理效率,降低每Token的推理成本。 周跃峰博士在演讲中强调,在AI时代,模型训练、推理效率与体验的量纲都以T…
8月12日,百度AI DAY在北京举办。现场,百度智能云发布“AI创投加速计划”,将联合投资机构、政府机构为入选创企提供亿级算力补贴、专属融资通道及政策申报支持。期间,心影随形、李未可科技、灵生科技、述信科技…
大模型时代如何做产品更新,OpenAI给所有人打了个样
论坛上,华为公司副总裁、数据存储产品线总裁周跃峰博士发布AI推理创新技术——UCM推理记忆数据管理器,旨在推动AI推理体验升级,提升推理性价比,加速AI商业正循环。同时,华为携手中国银联率先在金融典型场景开…
更低的推理成本:UCM具备智能分级缓存能力,可根据记忆热度在HBM、DRAM、SSD等存储介质中实现按需流动;同时融合多种稀疏注意力算法,实现存算深度协同,使长序列场景下TPS(每秒处理token数)提升2…
11/10 12:13
11/10 12:11
11/10 12:10
11/10 10:19
11/10 10:18
11/10 10:09
11/10 10:08