Nvidia今天在線舉行的GTC 2022大會上宣布，首批基于下一代圖形處理單元Nvidia H100 Tensor Core GPU的產品和服務將于下個月推出。

Nvidia H100 Tensor Core是Nvidia目前為止最強大的GPU，現在已經全面投產，基于新的Hopper架構，包含有800多億個晶體管，此外還具有Transformer Engine和擴展性更高的NVLink互連等新功能，使其能夠支持更大型的人工智能模型、推薦系統和其他類型的工作負載。

Nvidia在今年4月首次發布該芯片的時候曾表示，這款芯片非常強大，理論上只需要20個這種芯片就可以承載全球所有互聯網流量，這使得它成為最先進AI應用的理想選擇，包括執行對數據的實時推理。

這款H100 GPU是第一個支持PCIe Gen5的GPU，此外還采用了HBM3，也就是說芯片可支持超過3 TB的內存帶寬。不過，很多企業可能對Transformer Engine也很感興趣。據說該技術能夠將基于Transformer的自然語言處理模型加速到上一代A100 GPU的6倍之多。

此外，這款H100 GPU采用第二代安全多實例GPU技術，可以將芯片劃分為7個更小的、完全隔離的實例，以同時處理多個工作負載。其他功能還包括支持機密計算，這意味著可以在處理數據時對數據進行加密，以及支持加速動態編程的新DPX指令。

這項技術常用于很多優化、數據處理和組學算法中。Nvidia承諾，這款H100 GPU的速度要比目前最先進的CPU快40倍。

Nvidia創始人、首席執行官黃仁勛在GTC大會上表示，他把Hopper視為“AI工廠的新引擎”，它將推動基于語言的人工智能、機器人技術、醫療和生命科學領域的重大進步。他表示：“Hopper的Transformer Engine將性能提升了一個數量級，讓企業和研究人員能夠接觸到大規模的人工智能和高性能計算。”

一個有趣的細節是，所有由Nvidia H100驅動的新主流服務器都將以5年許可的方式售賣Nvidia AI Enterprise，這個軟件套件主要用于優化AI模型的開發和部署，并提供AI框架和工具用于構建AI聊天機器人、推薦工程師、視覺AI等。

Nvidia 表示，這款H100 GPU將通過10月Nvidia LaunchPad服務在戴爾最新PowerEdge服務器上廣泛提供給客戶，這項服務為企業提供了免費的動手實驗室以開始使用該硬件。或者，客戶也可以訂購新的Nvidia DGX H100系統，該系統配備8個H100 GPU，并在FP8精度上提供32 petaflops的性能。

每個DGX系統都由Nvidia Base Command和AI Enterprise軟件堆棧提供支持，從單個節點到整個Nvidia DGX SuperPOD的部署，用于更高級的AI工作負載，例如大型語言模型等。

此外，這款H100 GPU將被部署在戴爾、Atos、思科、富士通、技嘉、HPE等廠商售賣的各種第三方服務器系統中，未來幾周還有聯想和超微的系統陸續推出。

一些全球領先的高等教育和研究機構也將使用這款Nvidia H100芯片為他們先進的超級計算機提供動力，其中包括巴塞羅那超級計算中心、洛斯阿拉莫斯國家實驗室、瑞士國家超級計算中心、德克薩斯高級計算中心和筑波大學。

緊隨其后的是公有云巨頭，Nvidia表示，AWS、Google Cloud、微軟Azure和Oracle Cloud Infrastructure服務將在明年初率先部署基于H100的實例。

微軟Azure AI Infrastructure總經理Nidhi Chappell表示：“我們期待在微軟Azure上的H100 GPU上啟用下一代AI模型，隨著Hopper架構取得進展以及我們對Azure AI超級計算的投入，我們將能夠幫助加入全球人工智能的發展。”

Constellation Research分析師Holger Mueller表示，今天這則公告向我們展示了Nvidia希望通過Hopper架構成為所有企業的AI運營平臺這一愿望。Mueller說：“Hopper不僅可以在所有領先的云平臺上使用，還可以在本地平臺上使用，這讓企業可以選擇在幾乎任何地方部署AI驅動的下一代應用。考慮到Nvidia芯片具有的強大功能，這將成為一個非常引人注目的產品，因為在未來十年，企業工作負載的運行位置將存在著很大的不確定性。”

最后，Nvidia表示，很多世界領先的大型AI模型和深度學習框架目前正在針對H100 GPU進行優化，包括Nvidia自己的NeMo Megatron框架，以及微軟DeepSpeed、谷歌JAX、PyTorch、TensorFlow和XLA。