3 月 20 日消息，亚马逊云科技和英伟达宣布，英伟达在 2024 年 GTC 大会上推出的新一代 NVIDIA Blackwell GPU 平台即将登陆亚马逊云科技。亚马逊云科技将提供 NVIDIA GB200 Grace Blackwell Superchip 和 B100 Tensor Core GPU。
英伟达 Blackwell 在亚马逊云科技上的应用，使得该平台在应对资源密集型和数万亿参数语言模型等推理工作负载加速方面实现了巨大飞跃。
NVIDIA GB200 Grace Blackwell Superchip 和 B100 Tensor Core GPU 是英伟达刚刚在 2024 年 GTC 大会推出的最新 GPU 产品。
新的 NVIDIA B200 GPU 由 2080 亿个晶体管组成，而 NVIDIA GB200 包含了两个 B200 GPU 和一个 Grace CPU。
Blackwell 在单芯片训练方面的 FP8 性能是其上一代架构的 2.5 倍，在推理方面的 FP4 性能是其上一代架构的 5 倍。在具有 1750 亿个参数的 GPT-3 大语言模型基准测试中，GB200 性能是 H100 的 7 倍，训练速度是 H100 的 4 倍，成本和能耗上 GB200 比 H100 降低了 25 倍。
据介绍，亚马逊云科技将提供配置 GB200 NVL72 的英伟达 Blackwell 平台，它配备 72 颗 Blackwell GPU 和 36 颗 Grace CPU，通过第五代 NVIDIA NVLink 互连。当与亚马逊云科技的 EFA 网络、Amazon Nitro 高级虚拟化系统和 Amazon EC2 UltraClusters 超大规模集群等技术结合时，客户能够轻松扩展至数千个 GB200 Superchips。
NVIDIA GB200 NVL72 是一种多节点、液冷、机架级系统，利用 Blackwell 为万亿参数模型提供强力计算，在单个机架中可实现 720 petaflops 的 AI 训练性能和 1.4 exaflops 的 AI 推理性能。
在安全性方面，亚马逊云科技的 Nitro 系统、Amazon KMS、EFA 加密和 Blackwell 加密的集成将为客户提供对其训练数据和模型权重的端到端控制，从而为客户在亚马逊云科技上的生成式 AI 应用程序提供更强的安全性。
Blackwell 也加入了双方合作的 Project Ceiba 项目，该项目专为 NVIDIA 自身的 AI 研发工作设计，是一台亚马逊云科技上托管的采用 DGX Cloud 的 AI 超级计算机，它搭载了 20,736 颗 GB200 Superchips 芯片，并通过第四代 EFA 网络扩展，为每个 Superchip 提供高达 800 Gbps 的低延迟、高带宽网络吞吐量，能够提供 414 exaflops 的计算能力，与之前计划在 Hopper 架构上构建 Ceiba 相比，性能提升了 6 倍。
同时，亚马逊云科技与英伟达联手，通过 Amazon SageMaker 与 NVIDIA NIM 推理微服务的整合，提供了高性能、低成本的生成式 AI 推理解决方案，该服务作为 NVIDIA AI 企业版的一部分提供。客户可以利用这一组合在 Amazon SageMaker 中快速部署和运行已预编译且对 NVIDIA GPU 进行优化的基础模型，缩短生成式 AI 应用的推出时间。
亚马逊云科技与英伟达还在利用计算机辅助的药物发现领域进行合作拓展，推出了新的 NVIDIA BioNeMo 基础模型，用于生成化学、蛋白质结构预测，以及理解药物分子与目标的相互作用。这些新模型将很快在 Amazon HealthOmics 上提供，这是一个专为帮助医疗保健和生命科学组织存储、查询和分析基因组、转录组及其他组学数据而设计的专用服务。
Amazon HealthOmics 和英伟达医疗保健团队还合作推出生成式 AI 微服务，以推进药物发现、医疗技术和数字健康领域的发展，该服务提供一个新的 GPU 加速的云端服务目录，涵盖生物学、化学、成像和医疗保健数据，以便医疗企业能够在亚马逊云科技上利用生成式 AI 的最新成果。
亚马逊云科技首席执行官 Adam Selipsky 表示：“我们双方的深入合作可以追溯到 13 年前，当时我们共同推出了世界上第一个亚马逊云科技上的 GPU 云实例，而今天我们为客户提供了最广泛的英伟达 GPU 解决方案。英伟达的下一代 Grace Blackwell 处理器是生成式 AI 和 GPU 计算领域的标志性事件。当结合亚马逊云科技强大的 EFA 网络、Amazon EC2 UltraClusters 的超大规模集群功能，以及我们独有的 Amazon Nitro 高级虚拟化系统及其安全功能时，我们就能够使客户更快、更大规模且更安全地构建和运行具有数万亿参数的大型语言模型。”
