在 InfoQ 举办的 AICon全球人工智能开发与应用大会上华为高级开发工程师张君做了专题演讲“华为昇腾推理技术的优化实践”,演讲围绕大模型推理优化的技术发展方向,围绕模型层、推理框架层、算子层这3 …
同时,随着大模型技术从训练转向推理场景,算力需求也在逐渐转移。从应用角度出发,面对单点算力/显存的天花板,构建大规模ScaleUp系统,通过并行计算技术将模型权重与KV Cache拆分到多个AI芯片上协同工…
商汤大装置与铁一院打造国铁价值工程多模态大模型应用平台,首次将多模态大模型应用于铁路工程设计知识的智能传承与应用,其融合文本、图纸、公式等异构数据,为设计人员提供了知识检索、智能问答、文本生成、文本审核、多…
蓝点软件自成立之初即专注于为政府、企事业单位提供智能客服系统及解决方案,凭借其出色的国产化适配能力和强大的智能化接入水平,使供热客服系统能够快速理解居民意图,提供更精准、个性化的服务。 对于需要报修的情况,…
06/25 00:17
06/25 00:16
06/25 00:15