Meta全新训推一体加速器 MTIA v2:性能提升3倍 完全集成 PyTorch2_加速器mtu

划重点:

⭐ Meta 发布全新训推一体加速器 MTIA v2，性能提高3倍

⭐ 新一代 MTIA 芯片采用台积电5nm 制程工艺

⭐ Meta 专门设计大型机架式系统支持下一代 MTIA 芯片

4月11日 消息:Meta 近日发布了全新的训练推理一体加速器 MTIA v2，旨在加强内容排名和推荐广告模型的性能。

这款新一代 MTIA 芯片采用了台积电5nm 制程工艺，带有256MB 片上内存，频率为1.3GHz。Meta 还专门设计了一个大型机架式系统，最多可容纳72个加速器，以支持这一新一代芯片的运行。为了进一步优化软件堆栈，Meta 创建了 Triton-MTIA 编译器后端，提供高性能代码生成。

这一全新的 MTIA 芯片系统旨在兼容之前为 MTIA v1开发的代码，并且已经在16个数据中心投入使用。性能测试显示，新一代 MTIA 芯片比第一代芯片性能提高了3倍，且实现了6倍的模型服务吞吐量和1.5倍的每瓦性能提升。Meta 在优化内核、编译器、运行时和主机服务堆栈方面取得了重大进展，未来还将继续提高效率。

Meta 发布的这款全新训练推理一体加速器 MTIA v2代表了他们在硬件研发领域的持续投入和创新，旨在提升 AI 模型的性能和效率。