从大模型应用角度出发,面对单点算力/显存的天花板,构建大规模Scale Up 系统,通过并行计算技术(如专家并行、张量并行)将模型权重与KV Cache拆分到多个AI芯片上协同工作,在赵帅看来,这种路径是解…
11/10 12:13
11/10 12:11
11/10 12:10
11/10 10:19
11/10 10:18
11/10 10:09
11/10 10:08