Dua B200: siapkan pembagian kerja sebelum menyewa.
Penawaran B200 mencakup dua NVIDIA B200 SXM per lot, masing-masing dengan 180 GB memori HBM3e. Penawaran ini ditujukan untuk proyek yang sudah terbiasa menggunakan beberapa GPU, atau untuk tim yang mampu mengatur pembagian tersebut. Untuk percobaan pertama, pertanyaan utamanya adalah apa yang akan dilakukan setiap kartu.
Dua memori terpisah, satu proyek yang harus dibagi
Kedua GPU tidak otomatis menjadi satu kartu berkapasitas 360 GB. Aplikasi Anda harus membagi model, data, atau tugas di antara keduanya. Mulailah dengan memeriksa metode kerja multikartunya. Jika aplikasi hanya menggunakan satu GPU, kartu kedua tidak akan mengatasi kekurangan memori pada kartu pertama, meskipun kartu tersebut tetap kosong.
Pilih metode yang dapat Anda jelaskan
Dua pekerjaan independen dapat ditugaskan secara terpisah jika alat Anda memungkinkan. Model yang dibagi antar-GPU memerlukan pengaturan berbeda, dengan pertukaran antar kartu. Sebelum memesan, identifikasi mana dari kasus tersebut yang sesuai dengan proyek Anda. Uji beban kecil dan periksa aktivitas setiap GPU, lalu akurasi hasil dan lokasinya.
Periksa dukungan B200
B200 termasuk dalam keluarga NVIDIA Blackwell. Pastikan aplikasi, dependensinya, dan komponen yang dikompilasi mendukung GPU spesifik ini. Nama Blackwell juga muncul pada RTX 5090, tanpa membuat semua komponen perangkat lunaknya dapat saling dipertukarkan. Simpan konfigurasi yang terdokumentasi dan perintah uji singkat untuk mereproduksi proses boot.
Satu kartu besar bisa jadi lebih sederhana
Jika kebutuhan utama Anda adalah memori besar pada satu GPU, bandingkan H200 141 GB atau MI300X 192 GB, dengan mempertimbangkan kompatibilitas perangkat lunaknya. Jika proyek Anda cukup dalam 80 GB, A100 dapat menghemat anggaran. Lot B200 baru masuk akal ketika GPU kedua benar-benar berperan dalam pekerjaan yang direncanakan.
Hitung lot hanya sekali
Satu lot berisi dua GPU berharga 887,57 USD untuk 3 hari, 2.071 USD untuk 7 hari, atau 7.391 USD untuk 30 hari. Total ini sudah mencakup kedua kartu. Dua lot berarti empat GPU dan menggandakan harga untuk periode yang dipilih. Siapkan pembagian kerja Anda, pilih durasi dan lot, lalu isi data kontak Anda. Setelah transfer crypto, "Saya sudah bayar" menandai pengiriman; pemantauan pembayaran dan pemantauan penyediaan tetap terpisah.