NVIDIA · 1 每批 GPU 数量
H200 SXM:用单块 GPU 突破 80 GB。
NVIDIA H200 SXM 在一块显卡上集成了 141 GB 的 HBM3e 显存。每个批次包含一块 GPU。当项目再也装不进 80 GB,而你又希望(如果你的应用允许)避免把它拆分到多块显卡上时,这一容量就值得认真考虑。
141 Go每块 GPU 的显存
HBM3e显存类型
1每批 GPU 数量
19可租 GPU
记录突破 80 GB 的过程
在选择 H200 之前,先回顾那个超出你当前容量的案例。记下所用模型、数据长度和重要设置。如果是助手类任务,保留若干条有代表性的请求,其中包含一条长请求。目的是确认新增的余量能解决某个具体限制,然后再决定保留哪些设置。
预估初始加载之外还会增加的部分
这 141 GB 用于容纳模型及其运行所需的数据。一条长请求或多项并行处理都可能增加需求。先测试单个任务,再逐步加大预期的负载。请根据你的真实案例保留可观测的余量,而不是在第一次运行时就占满全部容量。
在 Hopper 上验证你的应用
H200 属于 NVIDIA Hopper 家族。请核实你的工具所支持的版本,以及项目所依赖的扩展。先加载组件,运行一条短输入并保存结果。对中小企业来说,这份检查清单能让另一个人接手时无需猜测环境是如何搭建的。
比较容量与软件生态
如果经过调整项目能与 80 GB 兼容,A100 能明显降低预算。MI300X 在单块 AMD 显卡上提供 192 GB,但需要合适的软件环境,尤其是相关工具所需的 ROCm。B200 批次包含两块 GPU:当软件不会拆分任务时,它并不能自动替代单块大显存。
安排一段产出可复用的使用期
按批次的价格为:3 天 274.29 美元,7 天 640 美元,或 30 天 2290 美元。请在选定的使用期之前准备好数据,并为质量检查留出时间。在确定 GPU、时长、批次和准备工作之后,填写你的下单联系方式,然后选择加密支付。保存好参数、选定的结果和恢复步骤,以便充分利用下一次会话。
下一步
全部资料库