在 InfoQ 举办的 AICon全球人工智能开发与应用大会上华为高级开发工程师张君做了专题演讲“华为昇腾推理技术的优化实践”，演讲围绕大模型推理优化的技术发展方向，围绕模型层、推理框架层、算子层这3 …
同时，他指出，AI 技术的深度渗透正重构网络安全攻防格局，企业仍面临两大痛点：一方面，安全运营专家极度短缺且培养周期长、难度大，传统大模型虽能处理部分基础任务，却难以应对复杂流程化的日常运营工作，导致防护能…
同时，随着大模型技术从训练转向推理场景，算力需求也在逐渐转移。从应用角度出发，面对单点算力/显存的天花板，构建大规模ScaleUp系统，通过并行计算技术将模型权重与KV Cache拆分到多个AI芯片上协同工…
同时，他指出，AI 技术的深度渗透正重构网络安全攻防格局，企业仍面临两大痛点：一方面，安全运营专家极度短缺且培养周期长、难度大，传统大模型虽能处理部分基础任务，却难以应对复杂流程化的日常运营工作，导致防护…
商汤大装置与铁一院打造国铁价值工程多模态大模型应用平台，首次将多模态大模型应用于铁路工程设计知识的智能传承与应用，其融合文本、图纸、公式等异构数据，为设计人员提供了知识检索、智能问答、文本生成、文本审核、多…
05/29 10:26
04/01 16:41
10/31 16:58
京公网安备 11011402013531号