论坛上,华为公司副总裁、数据存储产品线总裁周跃峰博士发布AI推理创新技术——UCM推理记忆数据管理器,旨在推动AI推理体验升级,提升推理性价比,加速AI商业正循环。同时,华为携手中国银联率先在金融典型场景开…
更低的推理成本:UCM具备智能分级缓存能力,可根据记忆热度在HBM、DRAM、SSD等存储介质中实现按需流动;同时融合多种稀疏注意力算法,实现存算深度协同,使长序列场景下TPS(每秒处理token数)提升2…
丨徐磊
生成式AI技术创新中心在中国组建了一支常驻一线主要城市的团队,成员包括战略师、应用科学家,乃至深度学习架构师等AI技术专家,已为制造、金融、软件、游戏、零售等多个行业的百余家客户提供服务,并基于Agenti…
07/09 12:23
07/09 12:22
07/09 12:21
07/09 12:20