H100 SXM：あなたの処理が何を得られるかを測る。
NVIDIA H100 SXMは1ロットにつきGPU 1基に80GBのHBM3メモリを搭載しています。準備された比較に適しています。つまり、処理内容、期待される結果、必要な要件をすでに把握している場合です。こうした手がかりがないまま初めてレンタルする場合は、この予算レベルを選ぶ前にまずプロジェクトを明確にしましょう。
適した候補：すでに再現可能な作業
同じパラメータで何度も実行できるバッチを選びましょう。準備時間と計算時間を分けて考えると、観察している内容を理解しやすくなります。所要時間を比較する前に品質を確認してください。より速く終わっても使えない結果しか出ない処理は、業務上のニーズに応えるものではありません。
計算量の制限とメモリ不足を区別する
80GBはカード1枚あたりの容量です。別の80GBカードで容量不足により処理がすでに失敗している場合でも、この数値は変わりません。バッチサイズ、入力、その他の負荷の高いタスクを見直してください。実際により大きなプロジェクトを1枚のカードに収めたい場合は、141GBのH200との比較が価値あります。
Hopper の機能はソフトウェア次第
H100 は Hopper アーキテクチャを採用しており、一部の計算機能は低精度をサポートします。それらをプロジェクトに活かすには、アプリケーション側が対応している必要があります。所要時間の数値を得るためだけに精度を変えないでください。生成される応答、画像、測定値も確認しましょう。差異を判断するために、既知の結果を用意しておきましょう。
SXM は万能な性能向上の約束ではない
カタログの H100 PCIe も同様に 80 GB を搭載し、料金はより安価です。A100 SXM も同様にこの容量をより低コストで維持しています。これらの選択肢を実際の負荷と比較し、必要な作り直しも考慮に入れましょう。ここでの SXM という接尾辞はモデルを識別するものであり、それだけでワークフロー全体の性能を判断できるものではありません。
確認時間を含めた予算
ロットは3日で203.57 USD、7日で475 USD、30日で1,690 USDです。短い期間はすぐに実行できる比較を絞り込むのに役立ち、1週間あれば複数の設定を検討でき、30日ならタスクの計画が必要です。準備を選択し、連絡先を入力して、注文の中で暗号資産の支払いを追跡してください。テストの結果は使用したパラメータと一緒に保管しておきましょう。