nvidia cloudxr「DigitalOcean 发布 NVIDIA H100 GPU Droplets 云服务器」

海外知名云服务供应商 DigitalOcean 现已推出了搭载 NVIDIA H100 GPU 的 GPU Droplets 云服务器 。借助 GPU Droplets，AI 创业公司、开发者可以以更低的前期开发成本轻松地进行大语言模型训练、开发 AIGC 项目，以及开展人工智能相关的业务，并且无需面对复杂服务端开发与维护问题。目前，该 GPU 服务器按需实例正在限时优惠促销中，2024 年 12 月 31 日之前最低仅需 2.5 美元/GPU/小时。

为什么说性价比高

现在 GPU Droplet 云服务器已对所有 DigitalOcean 用户开放使用，GPU Droplets 内置了 NVIDIA H100 GPU，这是目前市场上已量产的最前沿的 GPU 之一，它拥有 640 个 Tensor 核心和 128 个光线追踪核心，支持高速数据处理。GPU Droplets 提供了按需实例，支持开发者、初创公司和大型企业轻松地训练人工智能模型、处理大型数据集，以及处理复杂的机器学习神经网络。

灵活配置，自由扩展

某些大型云厂商只提供8 卡的 GPU 机型，这导致很多用户在不需要那么资源的时候无法缩减配置，浪费成本，也让一些需要训练小模型的用户不得不选择过高的配置。而 DigitalOcean GPU Droplet 提供了单卡 GPU 和 8 卡 GPU 两种配置的服务器（具体如下图），用户可以根据项目需求来调整算力配置。虚拟化的硬件堆栈支持无缝扩展，因此你可以按需开启一个或多个 8 卡 GPU 实例，并在不再需要时缩减配置——从而优化性能、节省成本。

每个 GPU Droplet 包含两块高性能本地磁盘：一块启动磁盘用于存储操作系统、应用程序和 AI/ML 框架，以及一块暂存磁盘用于在训练期间暂存数据。这些资源预先集成于 GPU Droplet 中。

计费实惠且透明

在计费方面，DigitalOcean 支持按需计费，在最终关闭实例的时候可按秒结算。在后台开启一台 GPU Droplet 实例之前，用户就可以看到实际最后要支付的费用。而且就算用户使用的出站流量超出套餐额度，DIgitalOcean 也提供了比大多数大型云厂商更便宜出站流量计费。与此同时，GPU Droplet 提供了最高 10Gbps 的公共网络带宽，可以满足大多数 AI 开发场景的数据传输要求。

简单易用

简单易用性一直都是 DigitalOcean 的一大特点。DigitalOcean 提供了简洁明了的管理配置界面，用户不仅可以在几分钟内就启动一台 GPU Droplet 服务器，还能快速简便地管理存储和网络，能把更多精力专注于自身业务的开发。

支持利用 Kubernetes 管理和调度资源

DigitalOcean 作为行业领先的云服务提供商，能够深刻理解AI、大语言模型开发的复杂性和资源需求问题，特别是在容器化环境中面对的挑战。DigitalOcean Kubernetes 托管服务（DOKS）现已支持 GPU Droplet 作为工作节点，并提供了一系列业界领先的服务来支持 AI、大语言模型训练和推理：

• Kubernetes 集成：无缝地将支持 GPU 的工作节点添加到您的现有 DOKS 集群中，使您能够充分利用 Kubernetes的全部功能来推进您的 AI、大语言模型项目。

• 灵活配置：您可以从单卡或八卡 GPU 配置中进行选择，以满足特定工作负载的需求，确保给每项任务都配备合适的计算资源和能力。

• 可扩展性：随着 AI、大语言模型工作负载的增长，您可以在您的 Kubernetes 环境中轻松扩展 GPU 资源，使您能够跟上数据和业务需求的步伐。

• 迁移服务：支持从 AWS EKS 或其他 Kubernetes 解决方案迁移到 DigitalOcean Kubernetes。

DigitalOcean 客户的许多客户已经已经在利用 GPU Droplets 来运行密集型工作负载，例如 Story.com 。

“Story.com 的 GenAI 流程需要大量的计算能力，而 DigitalOcean 的 H100 节点对我们来说是一个改变游戏规则的存在。作为一个初创企业，我们需要一个能够处理我们密集型工作负载的可靠解决方案，而 DO 以卓越的稳定性和性能满足了我们的需求。从简单易用的配置，到稳定可靠的的基础架构，整个部署过程都非常顺畅。技术支持团队也反应迅速，能够快速满足我们的要求，这成为了我们成长中不可或缺的一部分。” ——Deep Mehta，Story.com联合创始人&CTO

立即享受限时优惠

目前，该 GPU 服务器按需实例正在限时优惠促销中，2024 年 12 月 31 日之前最低仅需 2.5 美元/GPU/小时。

无论您是希望增强 AI/ML 能力还是为现有项目扩展 GPU 资源，DigitalOcean 的 GPU 服务都将助您一臂之力。同时，为了更好地服务中国区的企业，DigitalOcean 中国区独家战略合作伙伴卓普云 AI Droplet 将为中国区的企业提供商务咨询、技术支持等服务。