pytorch new_ones「PyTorch团队推出轻量级runtime」

要点:

• PyTorch团队推出轻量级运行时，支持在边缘设备上运行

• PyTorch Lite运行时具有轻量级、高效、低延迟等特点

• PyTorch Lite还支持对TensorFlow、Caffe2等其他平台的模型进行转换

10月19日 消息:ExecuTorch: ExecuTorch 是 PyTorch Edge 团队推出的全新解决方案，旨在支持移动设备和边缘设备上的本地推断能力，得到了 Arm、Apple 和 Qualcomm Innovation Center 等行业领先公司的支持。

ExecuTorch的关键组成部分: ExecuTorch 提供了紧凑的运行时环境，具有轻量级操作员注册表，可以覆盖 PyTorch 模型生态系统，并为在边缘设备上执行 PyTorch 程序提供了简化的路径。

它还附带了软件开发工具包（SDK）和工具链，以便机器学习开发人员能够从模型创作到训练和设备委派的整个 PyTorch 工作流中进行操作。这些工具使机器学习开发人员能够在本地对模型进行分析和更好地调试原始 PyTorch 模型。

PyTorch Edge 旨在将研究和生产环境更紧密地联系在一起，使各种机器学习模型能够轻松部署到边缘设备。它提供了一个跨越各种边缘用例的框架堆栈，涵盖了视觉、语音、自然语言处理、翻译、排名、完整性和内容创建等多个领域。

PyTorch Edge 提供了核心组件的可移植性，这些组件适用于不同硬件配置、性能和效率的设备，通过自定义优化以及定义良好的入口点、表示和工具，提高了开发人员的生产力。