Hai B200: hãy chuẩn bị cách chia công việc trước khi thuê.
Ưu đãi B200 bao gồm hai NVIDIA B200 SXM mỗi lô, mỗi card có 180 GB bộ nhớ HBM3e. Ưu đãi này dành cho một dự án đã biết cách sử dụng nhiều GPU, hoặc cho một nhóm có khả năng tổ chức việc phân chia đó. Với lần thử đầu tiên, câu hỏi chính là mỗi card sẽ làm gì.
Hai bộ nhớ riêng biệt, một dự án cần phân chia
Hai GPU không tự động trở thành một card 360 GB. Ứng dụng của bạn phải phân chia mô hình, dữ liệu hoặc tác vụ giữa chúng. Trước tiên hãy kiểm tra cách thức hoạt động đa card của nó. Nếu nó chỉ dùng một GPU, card thứ hai sẽ không giải quyết được tình trạng thiếu bộ nhớ trên card đầu, dù nó vẫn rảnh.
Chọn một phương pháp bạn có thể giải thích
Hai công việc độc lập có thể được giao riêng nếu công cụ của bạn cho phép. Một mô hình được chia sẻ giữa các GPU đòi hỏi cách tổ chức khác, với các trao đổi giữa các card. Trước khi đặt trước, hãy xác định trường hợp nào ứng với dự án của bạn. Hãy thử với tải nhỏ và kiểm tra hoạt động của từng GPU, sau đó kiểm tra độ chính xác của kết quả và vị trí của chúng.
Kiểm tra khả năng hỗ trợ B200
B200 thuộc dòng NVIDIA Blackwell. Hãy kiểm tra rằng ứng dụng, các gói phụ thuộc và các thành phần đã biên dịch của nó hỗ trợ đúng GPU này. Tên Blackwell cũng xuất hiện trên RTX 5090, nhưng điều đó không khiến mọi thành phần phần mềm của chúng có thể thay thế cho nhau. Hãy giữ một cấu hình có tài liệu và một lệnh kiểm tra ngắn để tái tạo quá trình khởi động.
Một card lớn duy nhất có thể đơn giản hơn
Nếu nhu cầu chính của bạn là bộ nhớ lớn trên một GPU duy nhất, hãy so sánh H200 141 GB hoặc MI300X 192 GB, có tính đến khả năng tương thích phần mềm của chúng. Nếu dự án vừa với 80 GB, một A100 có thể giảm ngân sách. Lô B200 chỉ có ý nghĩa khi GPU thứ hai thực sự tham gia vào công việc dự kiến.
Chỉ tính số lô một lần
Một lô gồm hai GPU có giá 887,57 USD cho 3 ngày, 2.071 USD cho 7 ngày hoặc 7.391 USD cho 30 ngày. Các tổng này đã bao gồm cả hai card. Hai lô tương ứng với bốn GPU và gấp đôi giá của khoảng thời gian đã chọn. Hãy chuẩn bị cách phân chia, chọn thời lượng và số lô, rồi điền thông tin liên hệ. Sau khi chuyển crypto, nút “Tôi đã thanh toán” báo hiệu đã gửi tiền; việc theo dõi thanh toán và theo dõi cung cấp dịch vụ vẫn tách biệt.