H100 SXM: ukur apa yang diperoleh pemrosesan Anda.
NVIDIA H100 SXM menawarkan 80 GB memori HBM3 pada satu GPU per batch. GPU ini cocok untuk perbandingan yang sudah disiapkan: Anda sudah tahu pemrosesan Anda, hasil yang diharapkan, dan kebutuhannya. Untuk penyewaan pertama tanpa acuan tersebut, mulailah dengan menentukan proyek sebelum memilih tingkat anggaran ini.
Kandidat yang tepat: pekerjaan yang sudah dapat direproduksi
Pilih batch yang dapat Anda jalankan beberapa kali dengan parameter yang sama. Pisahkan waktu persiapan dari waktu komputasi untuk memahami apa yang Anda amati. Periksa kualitas sebelum membandingkan durasi. Pemrosesan yang selesai lebih cepat tetapi menghasilkan keluaran tidak berguna tidak menjawab kebutuhan profesional Anda.
Bedakan komputasi terbatas dan memori tidak cukup
80 GB adalah kapasitas per kartu. Jika pemrosesan sudah gagal karena kekurangan ruang pada kartu 80 GB lain, angka ini tetap tidak berubah. Tinjau kembali ukuran batch, input, dan tugas lain yang dimuat. Untuk mempertahankan proyek yang benar-benar lebih besar pada satu kartu, H200 141 GB layak dibandingkan.
Fungsi Hopper bergantung pada perangkat lunak
H100 menggunakan arsitektur Hopper, yang beberapa fungsi komputasinya mendukung presisi rendah. Aplikasi Anda harus memanfaatkannya agar berguna bagi proyek. Jangan ubah presisi hanya untuk mendapatkan angka durasi: periksa juga jawaban, gambar, atau pengukuran yang dihasilkan. Simpan hasil yang sudah diketahui untuk menilai selisihnya.
SXM bukan janji peningkatan yang universal
H100 PCIe di katalog juga memiliki 80 GB, dengan tarif lebih rendah. A100 SXM juga mempertahankan kapasitas ini dengan biaya lebih murah. Bandingkan opsi-opsi ini dengan beban kerja nyata Anda, dengan mempertimbangkan pengulangan yang diperlukan. Akhiran SXM di sini menandai modelnya; akhiran itu tidak cukup untuk menyimpulkan performa seluruh alur kerja Anda.
Anggaran yang mencakup waktu verifikasi
Batch ini berharga 203,57 USD untuk 3 hari, 475 USD untuk 7 hari, atau 1.690 USD untuk 30 hari. Periode singkat dapat membingkai perbandingan yang siap dijalankan; satu minggu memungkinkan pemeriksaan beberapa pengaturan; tiga puluh hari memerlukan rencana tugas. Pilih persiapan, isi data kontak Anda, dan pantau pembayaran crypto di pesanan. Simpan hasil uji coba Anda beserta parameter yang digunakan.