H200 SXM: tek GPU'da kalarak 80 GB'ı aşın.
NVIDIA H200 SXM, tek kartta 141 GB HBM3e bellek barındırır. Her lot bir GPU içerir. Bu kapasite, bir proje artık 80 GB'a sığmadığında ve uygulamanız izin veriyorsa işi birden fazla karta bölmekten kaçınmak istediğinizde incelenmeye değerdir.
80 GB'ın ötesine geçişi belgelemek
H200'ü seçmeden önce mevcut kapasitenizi aşan durumu yeniden ele alın. Kullanılan modeli, veri uzunluğunu ve önemli ayarları not edin. Bir asistan için, biri uzun olmak üzere birkaç temsili isteği saklayın. Amaç, yeni payın belirli bir sınırı çözüp çözmediğini doğrulamak ve ardından hangi ayarların korunacağına karar vermektir.
İlk yüklemenin üzerine eklenenleri öngörmek
141 GB, modeli ve kullanımı için gereken verileri barındırır. Uzun bir istek veya aynı anda birden çok işlem ihtiyacı artırabilir. Önce tek bir işi test edin, ardından öngörülen yükü kademeli olarak artırın. İlk çalıştırmada tüm kapasiteyi doldurmak yerine gerçek durumlarınızda gözlemlediğiniz bir pay bırakın.
Uygulamanızı Hopper üzerinde doğrulamak
H200, NVIDIA Hopper ailesine aittir. Aracınızın desteklediği sürümleri ve projenin bağımlı olduğu eklentileri kontrol edin. Bileşenleri yükleyip kısa bir girdi çalıştırarak ve sonucu kaydederek başlayın. Bir KOBİ için bu kontrol listesi, başka birinin ortamın nasıl hazırlandığını tahmin etmeden dosyayı devralmasını sağlar.
Kapasite ile yazılım ekosistemini karşılaştırmak
Ayarlamalar projeyi 80 GB ile uyumlu hale getiriyorsa A100 bütçeyi belirgin şekilde düşürür. MI300X, tek bir AMD kartta 192 GB sunar ancak uygun bir yazılım ortamı, ilgili araçlar için özellikle ROCm gerektirir. B200 lotu iki GPU içerir: yazılım işi bölmediğinde tek bir büyük belleğin yerini otomatik olarak almaz.
Yeniden kullanılabilir çıktılarla bir dönem planlamak
Lot başına fiyatlar 3 gün için 274,29 USD, 7 gün için 640 USD veya 30 gün için 2 290 USD'dir. Verileri seçtiğiniz dönemden önce hazırlayın ve kalite kontrolleri için zaman ayırın. GPU, süre, lotlar ve hazırlıktan sonra sipariş iletişiminizi girin, ardından kripto ödemeyi seçin. Bir sonraki oturumdan yararlanmak için parametreleri, seçilen sonuçları ve devam adımlarını kaydedin.