(相关资料图)

Nvidia在其GTC 2023年春季主题演讲中宣布了一个新的双GPU产品，H100NVL。这不会带来SLI或多GPU游戏的回归，也不会是最好的游戏显卡之一，而是针对不断增长的AI市场。从Nvidia发布的信息和图片来看，H100NVL(H100 NVLink)将在顶部采用三个NVLink连接器，相邻的两块卡可插入独立的PCIe插槽。

这是一个有趣的变化，显然是为了适应不支持Nvidia的SXM选项的服务器，重点是推理性能而不是训练。NVLink连接应该有助于提供NVSwitch在SXM解决方案上提供的缺失带宽，而且还有一些其他明显的区别。

以规格为例。以前的H100解决方案--包括SXM和PCIe--都配备了80GB的HBM3内存，但实际包装包含六个堆栈，每个堆栈有16GB的内存。目前还不清楚是否有一个堆栈被完全禁用，或者是用于ECC或其他目的。我们所知道的是，H100NVL每个GPU将有94GB，总共有188GB HBM3。我们认为每个GPU "缺少 "的2GB是为了ECC。

关键词：