SXM 与 PCIe：最适合训练 LLM 的 GPU，如 GPT-4 - 知乎
SXM GPU 更适合规模化部署，八 个 H100 GPU 通过 NVLink 和 NVSwitch 互连技术完全互连。 在 DGX 和 HGX 中，8 个 SXM GPU 的连接方式与 PCIe 不同；每个 GPU 与 4 个 NVLink Switch 芯片相连，基本上使所有的 GPU 作为一个大 GPU 运行。
h100 是完整的 nvidia 数据中心解决方案的一部分，该解决方案包含 以下方面的基础模组：硬件、网络、软件、库以及 NVIDIA NGC ™ 目录中 经优化的 AI 模型和应用。
一文看懂英伟达A100、A800、H100、H800各个版本有什么区 …
2024年4月4日 · 本文将对英伟达的四种gpu型号——a100、a800、h100和h800进行深入对比分析，探讨它们在性能、架构、应用场景等方面的差异，以帮助读者更好地理解和选择。
H100 Tensor 核心 GPU - NVIDIA
使用 NVIDIA ® NVLink ® Switch 系統，最高可連接 256 個 H100 來加速百萬兆級工作負載，此外還有專用的 Transformer Engine，可解決一兆參數語言模型。H100 所結合的技術創新，可加速大型語言模型速度，比前一代快上 30 倍，提供領先業界的對話式人工智慧。
H100 H800 80GB显存 PCIE 版、 SXM 版 NVL版 - 知乎
2023年8月20日 · 今年3月，英伟达发布了新一代基于4nm工艺，拥有800亿个晶体管、18432个核心的H100 GPU。 同样，NVIDIA也推出了针对中国市场的特供版H800。 NVIDIA 在给路透社的一份声明中表示：“我们的 800 系列产品符合出口管制法规。
一文搞懂H100/H200，B100/B200，B200/GB200，HGX/DGX的区别和参数_h100 …
2024年10月15日 · 很多做英伟达GPU生意的朋友肯定都知道HGX，就是我们所说的“模组”，一套HGX 100模组价格高达200w+，如下图所示，HGX产品的核心是8块GPU，通过底板进行整合，同时也集成了NVLink技术和NVLink SW的芯片。
NVIDIA H100 GPU架构白皮书：2倍功耗SMX只比PCIe 5计算卡 …
2022年3月24日 · SXM模块的H100 GPU设计功耗高达700W，散热设计有点难度吧？ 这个Grace Hopper“超级芯片”，是把Arm CPU + H100 GPU放在一起，芯片间互连的带宽高达900GB/s。 H100 1个SM流处理器单元的结构。 H100这一代特别加强了FP8浮点计算。
HGX AI 超级计算平台 - NVIDIA
HGX H200 和 HGX H100 均提供高级网络选项，速度最高可达 400 Gb/s，凭借 NVIDIA Quantum-2 InfiniBand 和 Spectrum™-X 以太网实现出色的 AI 性能
浅谈用于高端 AI 推理的 NVIDIA H100 NVL - 知乎 - 知乎专栏
2023年3月23日 · 根据规格，假设 nvidia h100 nvl 规格为 400w，pcie 版本似乎远远优于 h100 sxm5 版本，但没有更高端的 900gb/s nvlink 接口。 计算规格是 H100 SXM 的 2 倍，但 NVL 版本具有更多内存、更高的内存带宽，并且使用类似的功率来实现性能。
揭秘：英伟达AI服务器NVLink版与PCIe版的差异与选择 - 知乎
2024年2月29日 · 由 NVSwitch 芯片赋能的高性能互联，无缝连接 DGX 和 HGX 系统板上的 SXM 版 GPU，打造高效的 GPU 数据交换网络。 * A100 GPU 提供高达 600GB/s 的 NVLink 带宽 * H100 GPU 提升至惊人的 900GB/s * 针对特定市场优化的 A800 和 H800 仍保持 400GB/s 的高速 …