H100 SXM: đo lường xem xử lý của bạn được lợi gì.
NVIDIA H100 SXM cung cấp 80 GB bộ nhớ HBM3 trên một GPU mỗi lô. Nó phù hợp cho một so sánh đã chuẩn bị: bạn đã biết xử lý của mình, kết quả mong đợi và nhu cầu của nó. Với lần thuê đầu tiên mà chưa có những mốc này, hãy bắt đầu bằng việc xác định dự án trước khi chọn mức ngân sách này.
Ứng viên phù hợp: một công việc đã có thể tái lập
Chọn một lô mà bạn có thể chạy nhiều lần với cùng các tham số. Tách thời gian chuẩn bị khỏi thời gian tính toán để hiểu điều bạn quan sát. Kiểm tra chất lượng trước khi so sánh thời lượng. Một xử lý hoàn thành nhanh hơn nhưng tạo ra kết quả không dùng được thì không đáp ứng nhu cầu nghề nghiệp của bạn.
Phân biệt tính toán bị giới hạn và bộ nhớ không đủ
80 GB là dung lượng mỗi card. Nếu xử lý đã thất bại vì thiếu chỗ trên một card 80 GB khác, con số này vẫn không đổi. Hãy xem lại kích thước lô, đầu vào và các tác vụ khác đang tải. Để giữ một dự án thực sự lớn hơn trên một card duy nhất, H200 141 GB đáng để so sánh.
Các chức năng Hopper phụ thuộc vào phần mềm
H100 dùng kiến trúc Hopper, trong đó một số chức năng tính toán hỗ trợ độ chính xác giảm. Ứng dụng của bạn phải khai thác chúng thì chúng mới có ích cho dự án. Đừng đổi độ chính xác chỉ để có một con số thời lượng: hãy kiểm tra cả câu trả lời, hình ảnh hoặc số đo tạo ra. Giữ một kết quả đã biết để đánh giá các sai lệch.
SXM không phải lời hứa về lợi ích phổ quát
H100 PCIe trong danh mục cũng có 80 GB, với mức giá thấp hơn. A100 SXM cũng giữ dung lượng này với chi phí thấp hơn. Hãy so sánh các lựa chọn này với tải thực tế của bạn, tính đến các lần chạy lại cần thiết. Hậu tố SXM ở đây nhận diện model; nó không cho phép suy ra một mình hiệu năng của toàn bộ quy trình làm việc của bạn.
Ngân sách bao gồm cả thời gian kiểm tra
Lô có giá 203,57 USD cho 3 ngày, 475 USD cho 7 ngày hoặc 1.690 USD cho 30 ngày. Một khoảng thời gian ngắn có thể định hình một so sánh sẵn sàng chạy; một tuần cho phép xem xét nhiều thiết lập; ba mươi ngày đòi hỏi một kế hoạch tác vụ. Chọn phần chuẩn bị, điền thông tin liên hệ và theo dõi thanh toán crypto trong đơn hàng. Giữ lại kết quả các lần thử của bạn cùng các tham số đã dùng.