苹果首个四芯片架构也来了。
它支持 DDR5-8800 内存，每个核心获得 6 GB/s 内存带宽，单颗芯片容量达到 6 TB。
不过计算能力只是第一步，大模型推理的真正瓶颈在于内存带宽，模型参数需要频繁在计算单元和内存之间搬运。
然而，系统级效率的提升并非空泛的口号，其最直接的落地场景，正是当前大模型本地推理中日益尖锐的内存带宽瓶颈。
但是同样因为使用了较旧的14nm工艺，DF2000在绝对算力密度上仍与英伟达仍有明显差距，在BF16浮点运算测试中，DF2000组成的TY64超级节点仅能提供64 PFLOPS的性能，而采用台积电4nm定制工艺的英伟达GB200系统则拥有360 PFLOPS。
苹果晒M5芯片AI性能：相比M4文本生成提速27%，图像生成快3.8倍
11/10 12:13
11/10 12:11
11/10 12:10
11/10 10:19
11/10 10:18
11/10 10:09
11/10 10:08
京公网安备 11011402013531号