# H100 SXM 租金相差 4.57 倍：对齐型号后，便宜那档也未必省下四分之三

**Summary:** Data Receipts 对比 2026 年 11 月 9 日的 H100 SXM 80GB 按需报价：Runpod Community 每 GPU 小时 $2.69，Azure 的 ND 实例 $12.29，最高价是最低价的 4.57 倍。可每 GPU 小时的标价低，不等于省钱：整台八卡机器的账单、网络互联，以及能不能真租到，都得一起比。

- Canonical: https://markhuang.ai/zh/news/h100-rental-price-gap
- Language: zh-CN
- Author: [Mark Huang](https://markhuang.ai/about)
- Published: 2026-11-09
- Section: News
- Tags: NVIDIA H100, GPU 价格, 云计算, AI 基础设施, Runpod, AWS, Azure
- Source: [Data Receipts on GitHub](https://github.com/datareceipts/data-receipts/tree/main/109-gpu-pricing)
- License: https://creativecommons.org/licenses/by-nc/4.0/

---

![两组规格相同的 GPU 服务器模块：一组作为独立机器，一组用蓝色网络线缆连成集群](https://cdn.markhuang.ai/news/h100-rental-price-gap/hero.webp)

*示意图：选对加速卡只是第一步。卡片周围的配套不同，两笔 GPU 租用能胜任的任务也就不一样。由 OpenAI imagegen 生成。*

NVIDIA H100 SXM 是 80GB 显存的 AI 加速卡。同一块卡，各家厂商的每小时租金差得很远。在 [Data Receipts 2026 年 11 月 9 日的这份对比](https://github.com/datareceipts/data-receipts/tree/main/109-gpu-pricing)里，Runpod Community 每 GPU 小时 $2.69，Azure 的 ND 实例 $12.29。型号和显存容量都对上了，价格仍相差 4.57 倍。

如果你正在规划一次 AI 实验，这份对比最有用的一点，是先让人看清一个问题：除了这张卡，任务周围还得配上多少基础设施？价差值得追，但这张表证明不了便宜的那份能用四分之一的钱干完同一件事。

我喜欢这个项目把分组规则和原始记录都摊开。这样你可以先核对价格到底在比什么，再拿它做预算。

## 先确认两边的“H100”是同一块硬件

仓库把 H100 SXM 80GB、H100 PCIe 80GB 和 H100 NVL 94GB 分成三组。这几个后缀对应不同的硬件型号。要是把它们当成一回事，看着是厂商比价，其实还掺进了一次硬件选择。

每组内部，分析只保留各家记录到的最便宜配置。Runpod 的 Secure 和 Community 算同一家公司的两个产品。下面是它重点展示的那一组：

| H100 SXM 80GB 产品        | 记录价格（美元/GPU 小时） |
| ----------------------- | --------------- |
| Runpod Community        | $2.69           |
| Runpod Secure           | $3.99           |
| AWS p5.48xlarge         | $6.88           |
| Azure ND96isr\_H100\_v5 | $12.29          |

这些数字来自项目在 11 月 9 日的[快照记录](https://github.com/datareceipts/data-receipts/blob/main/109-gpu-pricing/compare.json)，不是现查的报价。口径只含按需公开标价，AWS 取 us-east-1，Azure 取 eastus；预留实例、承诺用量和抢占式折扣都没算。Lambda 那些要等未来才生效的价格，也排除在这个 4.57 倍之外。

## 比价的单位，不等于你实际租的东西

GPU 小时适合横向比较，但下单前得看清必须租多大一台机器。[AWS 的 p5.48xlarge 列了 8 张 H100](https://aws.amazon.com/ec2/instance-types/p5/)，[微软的 ND96isr\_H100\_v5 也是 8 张](https://learn.microsoft.com/en-us/azure/virtual-machines/sizes/gpu-accelerated/ndh100v5-series)。源数据这两档的单价，就是整机价格除以 8 得来的。

按它公开的[价格记录](https://github.com/datareceipts/data-receipts/blob/main/109-gpu-pricing/hyperscalers.json)，那台 AWS 配置整机每小时 $55.04，Azure 那台 $98.32。只想要一张卡的人，不可能按每小时 $6.88 或 $12.29 给这两台机器做预算：8 张卡全在账单里，哪怕有 7 张闲着。

真要做预算，我会先找自己实际租得到的最小合适配置，再估算跑完整个任务的总花费。按 GPU 数除一除，只够用来圈定候选。真正掏钱买的是整台机器。

## 网络溢价多少，取决于活跑在哪里

按照微软的 ND 文档，每张 GPU 都带一条专用 400 Gbps InfiniBand 连接，用于虚拟机之间的通信；同一台机器内部的 GPU 之间走的则是 NVLink。这个区分很关键：跨服务器的任务靠机器之间的网络，只在一台服务器里跑的任务用不上。

源分析举的例子是单节点微调，也就是一台服务器就能装下的任务，用它说明这类工作不需要服务器之间的互联。大规模分布式训练是另一笔买卖。单卡租得再便宜，也拼不出一张连好的训练集群。

Azure 溢价这一段有个地方要留意。源分析拿 ND 的价格去比 $6.98 的单卡 H100 NC 产品。可微软把这个 NC 系列标成 H100 NVL，每卡 94GB，而 ND 那组用的是 80GB SXM。这一比，变的不只是网络这一个因素，也就没法单独算出 InfiniBand 占了多少价差。

Runpod 内部也有服务档次的差别。据它的[Pod 选择文档](https://docs.runpod.io/pods/choose-a-pod)，Secure Cloud 是冗余度较高的数据中心，Community Cloud 则是点对点接入的供应方，稳定性会波动。这些都是实实在在的选购条件，只是衡量不了某个具体任务跑得好不好。

## 按你能跑完的任务算账

源分析自己也讲明了：可用性这一项没有算进价格。在[Hacker News 的讨论](https://news.ycombinator.com/item?id=50427592)里，网友 jdc0589 夸了 Runpod，但也说急需某张卡时未必拿得到。这只是一个人的说法，不是可用性调查。但它正好说明：标价看过之后，还得先确认有没有容量，才谈得上把它排进计划。

[SemiAnalysis 在 2025 年 3 月发布的 ClusterMAX 评测指南](https://semianalysis.com/2025/03/26/the-gpu-cloud-clustermax-rating-system-how-to-rent-gpus/)给了一份更全的清单。除了价格，还要看网络、存储、安全、可靠性和技术支持。这几条放在这里很合适，不过它当年给各家打的分数，说明不了今天的服务质量。

换作我，下一步是在合适的配置上跑一个小而典型的任务：记下整笔租用成本，也记下它有没有按时给出想要的结果。推理场景要看应用对响应时间的要求，这和我此前[查 DeepInfer 基础设施成本](https://markhuang.ai/zh/news/deepinfer-missing-serving-system)时关心的是同一件事；训练场景则要看到达目标效果，而不是只看 GPU 有没有被占满。

4.57 倍的价差，本身就是比价的好理由。用它筛出候选，再逐个去问：我需要的配置和容量，你们报多少。
