本工作提出一种全新的优化机制Chimera,定义和分析了混合并行中的通信冗余,并通过融合相邻通信算子的方式消除冗余通信量,有效地缓解了混合并行中的通信瓶颈。测试显示,Chimera通过融合分布式大模型中的通信…
10/31 16:58
10/31 16:56
10/31 16:55