H100 SXM: Messen Sie, was Ihre Verarbeitung dabei gewinnt.
Der NVIDIA H100 SXM bietet 80 GB HBM3-Speicher auf einer GPU pro Batch. Er eignet sich für einen vorbereiteten Vergleich: Sie kennen Ihre Verarbeitung, das erwartete Ergebnis und den Bedarf bereits. Beginnen Sie bei einer ersten Miete ohne diese Anhaltspunkte damit, das Projekt zu definieren, bevor Sie dieses Budgetniveau wählen.
Der richtige Kandidat: eine bereits reproduzierbare Arbeit
Wählen Sie einen Batch, den Sie mehrmals mit denselben Parametern ausführen können. Trennen Sie die Vorbereitungszeit von der Berechnungszeit, um zu verstehen, was Sie beobachten. Prüfen Sie die Qualität, bevor Sie die Dauern vergleichen. Eine Verarbeitung, die schneller fertig wird, aber unbrauchbare Ergebnisse liefert, erfüllt Ihren professionellen Bedarf nicht.
Begrenzte Berechnung und unzureichenden Speicher unterscheiden
Die 80 GB sind eine Kapazität pro Karte. Wenn die Verarbeitung bereits auf einer anderen 80-GB-Karte aus Platzmangel fehlschlägt, bleibt diese Zahl unverändert. Überprüfen Sie die Batch-Größen, die Eingaben und die anderen geladenen Aufgaben. Um ein wirklich umfangreicheres Projekt auf einer einzigen Karte zu halten, verdient der H200 mit 141 GB einen Vergleich.
Die Hopper-Funktionen hängen von der Software ab
Der H100 nutzt die Hopper-Architektur, deren bestimmte Rechenfunktionen reduzierte Genauigkeiten unterstützen. Ihre Anwendung muss sie nutzen, damit sie dem Projekt dienen. Ändern Sie die Genauigkeit nicht nur, um eine Dauerzahl zu erhalten: Prüfen Sie auch die erzeugten Antworten, Bilder oder Messwerte. Behalten Sie ein bekanntes Ergebnis, um die Abweichungen zu beurteilen.
SXM ist kein Versprechen universeller Gewinne
Der H100 PCIe aus dem Katalog besitzt ebenfalls 80 GB, zu einem niedrigeren Tarif. Auch der A100 SXM behält diese Kapazität zu geringeren Kosten. Vergleichen Sie diese Optionen mit Ihrer tatsächlichen Last unter Berücksichtigung der nötigen Wiederholungen. Das Suffix SXM kennzeichnet hier das Modell; es erlaubt allein keine Ableitung der Leistung Ihrer gesamten Arbeitskette.
Ein Budget, das die Prüfzeit einschließt
Der Batch kostet 203,57 USD für 3 Tage, 475 USD für 7 Tage oder 1.690 USD für 30 Tage. Ein kurzer Zeitraum kann einen startbereiten Vergleich eingrenzen; eine Woche erlaubt die Untersuchung mehrerer Einstellungen; dreißig Tage erfordern einen Aufgabenplan. Wählen Sie die Vorbereitung, geben Sie Ihre Kontaktdaten an und verfolgen Sie die Krypto-Zahlung in der Bestellung. Bewahren Sie die Ergebnisse Ihrer Tests mit den verwendeten Parametern auf.