亚马逊云科技数据驱动创新在线大会「亚马逊云科技与英伟达扩展合作 加速超万亿参数级大模型训练」

3月20日 消息:亚马逊云科技与英伟达扩展合作，加速生成式 AI 创新。双方将在亚马逊云科技上提供 NVIDIA Blackwell 架构 GPU，包括 GB200Grace Blackwell 超级芯片和 B100Tensor Core GPU，以帮助客户解锁新的生成式 AI 能力。合作重点如下:

1. 加速超万亿参数级大语言模型训练:亚马逊云科技提供 GB200NVL72配置的 NVIDIA Blackwell 架构，配备72颗 Blackwell GPU 和36颗 Grace CPU，通过第五代 NVIDIA NVLink™ 互连。结合亚马逊云科技的 EFA 网络、Amazon Nitro 系统和 Amazon EC2UltraClusters 超大规模集群，客户能够扩展至数千个 GB200超级芯片，加速大语言模型训练和推理。

2. 提升安全性:整合 Amazon Nitro 系统、Amazon KMS 和 EFA 加密技术，保护模型权重的安全，防止未授权访问模型权重。通过 Amazon Nitro Enclaves 和 Amazon KMS 创建可信执行环境，实现数据加密和保护客户数据安全。

3. 推进未来生成式 AI 创新:Ceiba 项目是 NVIDIA 在亚马逊云科技上搭建的世界上最快的 AI 超级计算机，采用 GB200GPU 和 Grace CPU 构建，性能提升6倍。Ceiba 项目将推动生成式 AI 领域的创新，包括大语言模型、图形、数字生物学等。

4. 推动生成式 AI 应用开发及医疗健康与生命科学领域:整合 Amazon SageMaker 和 NVIDIA NIM 推理微服务，提供高性能、低成本的生成式 AI 推理解决方案。在药物发现领域，推出 NVIDIABioNeMo™ 基础模型，加速化学、蛋白质结构预测等应用。推出生成式 AI 微服务，推进药物发现和医疗领域的发展。