NVIDIA H100 GPU现在可以在AWS云上使用，为生成式人工智能等应用提供业界领先的性能

这篇文章宣布了NVIDIA H100 GPU现在可以在AWS云上使用。亚马逊EC2 P5实例使用NVIDIA的最新加速器，为生成式人工智能等应用提供业界领先的性能。

技术术语：
– NVIDIA H100 GPU：英伟达公司推出的一款高性能图形处理器。
– AWS云：亚马逊提供的云计算服务平台。
– Amazon EC2：亚马逊弹性计算云服务，允许用户租用虚拟计算机来运行应用程序。
– P5实例：Amazon EC2的实例类型之一，具有高内存和GPU加速器。
– 加速器：一种硬件设备，可提高计算机处理数据的速度和效率。
– 生成式人工智能：一种人工智能技术，通过学习并模仿现实世界的数据来生成新的数据或内容。

内容：AWS用户现在可以通过新的由NVIDIA H100 Tensor Core GPU提供支持的Amazon EC2 P5实例访问行业基准测试中展示的领先性能。该服务允许用户通过浏览器轻松扩展生成式人工智能、高性能计算（HPC）和其他应用程序。这一消息是在AI迎来“iPhone时刻”的背景下发布的。

开发人员和研究人员几乎每天都在使用大型语言模型（LLMs）发现AI的新应用。将这些新的用例推向市场需要加速计算的效率。NVIDIA H100 GPU通过包括第四代张量核心、用于加速LLMs的新Transformer引擎和最新的NVLink技术在内的架构创新提供超级计算级性能。

Amazon EC2 P5实例适用于训练和运行越来越复杂的LLMs和计算机视觉模型。这些神经网络驱动着最具挑战性和计算密集型的生成式人工智能应用，包括问题回答、代码生成、视频和图像生成、语音识别等。

P5实例可以部署在超大规模集群中，称为EC2 UltraClusters，由云中的高性能计算、网络和存储组成。每个EC2 UltraCluster都是一台强大的超级计算机，使客户能够在多个系统上运行最复杂的AI训练和分布式HPC工作负载。

为了能够以规模运行需要计算节点之间高水平通信的应用程序，P5实例配备了由AWS EFA提供支持的拥有百万亿级非阻塞网络，为Amazon EC2实例提供了3,200 Gbps的网络接口。借助P5实例，机器学习应用程序可以使用NVIDIA集体通信库来使用多达20,000个H100 GPU。

NVIDIA AI Enterprise帮助用户充分利用P5实例，提供了一个全套软件解决方案，包括100多个框架、预训练模型、AI工作流程和工具，以调整AI基础设施。NVIDIA AI Enterprise旨在简化AI应用程序的开发和部署，解决构建和维护高性能、安全、云原生AI软件平台的复杂性。

它在AWS Marketplace上提供，提供持续的安全监控、定期和及时的常见漏洞和曝光的修补、API稳定性和企业支持，以及访问NVIDIA AI专家的权限。这些功能使用户能够更有效地管理和优化他们的AI工作负载，并提供了可靠的支持和保障。