AWS 宣布推出适用于 ML 工作负载的 Amazon EC2 容量块
Amplify Partners、Canva、Leonardo.Ai 和 OctoML 等客户期待使用 Amazon EC2 容量块进行机器学习西雅图--(美国商业资讯)-- Amazon.com 旗下公司 Amazon Web Services, Inc. (AWS)（纳斯达克股票代码：AMZN）今天宣布全面推出适用于 ML 行业的 Amazon Elastic Compute Cloud (EC2) 容量块- 首个消费模式，使任何客户都能够访问备受追捧的 GPU 计算能力来运行其短期机器学习 (ML) 工作负载。借助 EC2 容量块，客户可以在专为高性能 ML 工作负载而设计的 Amazon EC2 UltraCluster 中预留数百个 NVIDIA GPU。客户可以通过指定集群大小、未来开始日期和持续时间，将 EC2 容量块与由最新 NVIDIA H100 Tensor Core GPU 提供支持的 P5 实例结合使用。EC2 容量块有助于确保客户能够可靠、可预测且不间断地访问其关键 ML 项目所需的 GPU 计算容量。要开始使用 EC2 容量块，请访问aws.amazon.com/ec2/capacityblocks/。
机器学习的进步为各种规模和各个行业的组织创造了发明新产品和转型业务的机会。传统的机器学习工作负载需要大量的计算能力，而随着生成式人工智能的出现，需要更大的计算能力来处理用于训练基础模型 (FM) 和大型语言模型 (LLM) 的大量数据集。GPU 集群非常适合这项任务，因为它们组合的并行处理能力可以加速训练和推理过程。然而，随着越来越多的组织认识到生成式人工智能的变革力量，GPU 的需求已经超过了供应。因此，想要利用最新 ML 技术的客户，尤其是那些容量需求根据其采用阶段所处阶段而波动的客户，可能会面临访问运行 ML 工作负载所需的 GPU 集群的挑战。或者，客户可能承诺长期购买大量 GPU 容量，但在不积极使用时却将其闲置。客户正在寻找以更高的灵活性和可预测性来配置他们所需的 GPU 容量的方法，而无需做出长期承诺。
借助 EC2 容量块，客户可以保留短期运行 ML 工作负载所需的 GPU 容量，从而无需在不使用时保留 GPU 容量。EC2 容量块部署在 EC2 UltraCluster 中，与第二代 Elastic Fabric Adapter (EFA) 拍级网络互连，提供低延迟、高吞吐量连接，使客户能够扩展到数百个 GPU。客户可以在未来开始日期最多提前八周预订由 NVIDIA H100 GPU 提供支持的 P5 实例的 EC2 UltraCluster，持续时间为 1 到 14 天，集群大小为 1 到 64 个实例（512 个 GPU）可以灵活地运行各种 ML 工作负载，并且只需支付所需的 GPU 时间费用。EC2 容量块非常适合完成训练和微调 ML 模型、短期实验运行以及处理未来暂时的推理需求激增，以支持客户即将推出的产品（随着生成应用程序成为主流）。一旦安排了 EC2 容量块，客户就可以确定地规划其 ML 工作负载部署，并知道他们将在需要时拥有 GPU 容量。
AWS 计算和网络副总裁 David Brown 表示：“AWS 和 NVIDIA 已经合作超过 12 年，提供可扩展的高性能 GPU 解决方案，我们看到我们的客户构建了令人难以置信的生成式 AI 应用程序，这些应用程序正在改变行业。” 。“除了提供我们自己的 Trainium 和 Inferentia 芯片之外，AWS 在云中提供基于 NVIDIA GPU 的计算方面拥有无与伦比的经验。借助 Amazon EC2 容量块，我们为企业和初创公司添加了一种新方式，让他们能够以可预测的方式获取 NVIDIA GPU 容量来构建、训练和部署其生成式 AI 应用程序，而无需做出长期资本承诺。这是 AWS 为扩大生成式 AI 功能的使用而进行创新的最新方式之一。”
自 1993 年成立以来，NVIDIA 一直是加速计算领域的先驱。该公司于 1999 年发明的 GPU 激发了 PC 游戏市场的增长，重新定义了计算机图形，点燃了现代人工智能时代，并推动了跨市场的工业数字化。NVIDIA 超大规模和 HPC 计算副总裁 Ian Buck 表示：“随着世界各地的企业采用生成式 AI 来重塑其业务，对加速计算的需求呈指数级增长。” “借助 AWS 针对 ML 的新 EC2 容量块，世界各地的 AI 公司现在不仅可以一次租用一台服务器，还可以租用 AWS 上独有的专用规模的 H100，使他们能够快速且经济高效地训练大型语言模型并运行推理当他们需要的时候就在云端。”
客户可以使用 AWS 管理控制台、命令行界面或开发工具包来查找和预留可用的容量块。使用 EC2 容量块，客户只需为其预留的时间付费。EC2 容量块已在 AWS 美国东部（俄亥俄）区域推出，并计划在其他 AWS 区域和本地区域推出。
Amplify Partners 与工程师、教授、研究人员和开源项目创建者合作，帮助他们将大胆的想法转化为受欢迎的产品和公司。Amplify Partners 合伙人 Mark LaRosa 表示：“我们与几位创始人合作，他们利用深度学习和大型语言模型将突破性创新推向市场。” “我们相信，可预测且及时地访问 GPU 计算能力对于创始人不仅能够快速将他们的想法变为现实，而且能够继续迭代他们的愿景并为客户提供越来越多的价值至关重要。在当前供应受限的环境中，通过 EC2 容量块提供多达 512 个 NVIDIA H100 GPU 是一个游戏规则改变者，因为我们相信它将在初创公司需要时为其提供所需的 GPU 计算能力，而无需长期依赖资本承诺。我们期待通过利用 GPU 容量块及其行业领先的机器学习和生成 AI 服务组合来支持创始人在 AWS 上进行构建。”
Canva 于 2013 年推出，是一个免费的在线视觉通信和协作平台，其使命是让世界上每个人都能进行设计。Canva 数据平台主管 Greg Roodt 表示：“如今，Canva 帮助超过 1.5 亿月度活跃用户创建可在任何地方发布的引人入胜的视觉资产。” “我们一直在使用 EC2 P4de 实例来训练多模态模型，为新的生成式 AI 工具提供支持，让我们的用户能够自由、快速地试验想法。当我们希望训练更大的模型时，我们需要能够在训练运行期间可预测地扩展数百个 GPU。很高兴看到 AWS 推出支持 P5 实例的 EC2 容量块。我们现在可以在低延迟 EC2 UltraCluster 中以可预测的方式访问多达 512 个 NVIDIA H100 GPU，以训练比以前更大的模型。”
Leonardo.Ai 为创意制作提供了一个强大且动态的平台，将尖端的生成式人工智能技术与无与伦比的创作者控制相结合。“我们的 Leonardo 团队利用生成式人工智能，使创意专业人士和爱好者能够制作出具有无与伦比的质量、速度和风格一致性的视觉资产。我们的基础依赖于一套经过微调的 AI 模型和强大的工具，可在生成之前和之后提供精细控制。”Leonardo.Ai 首席技术官 Peter Runham 说道。“我们利用广泛的 AWS 服务不仅构建和训练我们的模型，还托管它们以支持数百万每月活跃客户的使用。我们对 EC2 容量块的推出感到非常高兴。它使我们能够弹性地访问 GPU 容量进行训练和实验，同时保留切换到不同 EC2 实例的选项，以更好地满足我们的计算要求。”
OctoAI 的使命是帮助开发人员利用在最高效的硬件上运行的快速模型来构建让用户满意的 AI 应用程序。OctoML 首席执行官 Luis Ceze 表示：“在 OctoML，我们使应用程序构建者能够轻松运行、调整和扩展生成式 AI，优化模型执行并使用自动化来扩展其服务并减轻工程负担。” “我们在短时间内扩展 GPU 容量的能力至关重要，尤其是当我们与客户合作时，希望将其 ML 应用程序从零用户快速扩展到数百万用户，作为产品发布的一部分。EC2 容量块使我们能够以可预测的方式启动不同大小的 GPU 集群，以匹配客户计划的扩展，同时与长期容量承诺或本地部署相比，提供潜在的成本节省。”
关于亚马逊网络服务
自 2006 年以来，Amazon Web Services 一直是世界上最全面、应用最广泛的云。AWS 一直在不断扩展其服务，以支持几乎任何工作负载，现在拥有 240 多种功能齐全的服务，涉及计算、存储、数据库、网络、分析、机器学习和人工智能 (AI)、物联网 (IoT)、通过 32 个地理区域内的 102 个可用区进行移动、安全、混合、虚拟和增强现实（VR 和 AR）、媒体和应用程序开发、部署和管理，并宣布计划在加拿大再增加 15 个可用区和另外 5 个 AWS 区域、德国、马来西亚、新西兰和泰国。数以百万计的客户（包括增长最快的初创公司、最大的企业和领先的政府机构）信任 AWS 为其基础设施提供支持、变得更加敏捷并降低成本。
原文链接：https://press.aboutamazon.com/2023/10/aws-announces-amazon-ec2-capacity-blocks-for-ml-workloads
转载请注明： AWS 宣布推出适用于 ML 工作负载的 Amazon EC2 容量块 | 跨境湾
