H200 SXM: przekrocz 80 GB, pozostając na jednym GPU.
NVIDIA H200 SXM gromadzi 141 GB pamięci HBM3e na jednej karcie. Każda partia obejmuje jeden GPU. Ta pojemność zasługuje na uwagę, gdy projekt nie mieści się już w 80 GB, a chcesz uniknąć — jeśli pozwala na to Twoja aplikacja — rozdzielania go między kilka kart.
Udokumentuj przejście powyżej 80 GB
Zanim wybierzesz H200, wróć do przypadku, który przekracza Twoją obecną pojemność. Zapisz używany model, długość danych i istotne ustawienia. W przypadku asystenta zachowaj kilka reprezentatywnych zapytań, w tym jedno długie. Celem jest sprawdzenie, że nowy zapas rozwiązuje konkretne ograniczenie, a następnie decyzja, które ustawienia zachować.
Zaplanuj, co dochodzi do początkowego wczytania
141 GB mieści model i dane niezbędne do jego użytkowania. Długie zapytanie lub kilka jednoczesnych przetwarzań mogą zwiększyć zapotrzebowanie. Najpierw przetestuj jedno zadanie, potem stopniowo zwiększaj planowane obciążenie. Zachowaj zaobserwowany zapas na swoich rzeczywistych przypadkach, zamiast wypełniać całą pojemność już przy pierwszym uruchomieniu.
Sprawdź swoją aplikację na Hopper
H200 należy do rodziny NVIDIA Hopper. Sprawdź wersje obsługiwane przez Twoje narzędzie oraz rozszerzenia, od których zależy projekt. Zacznij od wczytania komponentów, uruchomienia krótkiego wejścia i zapisania wyniku. Dla MŚP ta lista kontrolna pozwala innej osobie przejąć projekt bez zgadywania, jak przygotowano środowisko.
Porównaj pojemność i ekosystem oprogramowania
Jeśli dostosowania uczynią projekt zgodnym z 80 GB, A100 wyraźnie obniża budżet. MI300X oferuje 192 GB na jednej karcie AMD, ale wymaga odpowiedniego środowiska programowego, w szczególności ROCm dla danych narzędzi. Partia B200 obejmuje dwa GPU: nie zastępuje automatycznie jednej dużej pamięci, gdy oprogramowanie nie rozdziela pracy.
Zaplanuj okres z wynikami do ponownego użycia
Ceny za partię wynoszą 274,29 USD za 3 dni, 640 USD za 7 dni lub 2290 USD za 30 dni. Przygotuj dane przed wybranym okresem i zarezerwuj czas na kontrolę jakości. Po GPU, czasie trwania, partiach i przygotowaniu podaj swój kontakt do zamówienia, a następnie wybierz płatność krypto. Zapisz parametry, wybrane wyniki i kroki wznowienia, aby wykorzystać następną sesję.