Catatan editorial: artikel ini membahas pengumuman awal platform Blackwell di GTC pada Maret 2024. Angka performa adalah klaim NVIDIA pada beban kerja dan konfigurasi tertentu, bukan hasil pengujian RuangTekno.

Blackwell adalah arsitektur GPU pusat data NVIDIA yang diperkenalkan sebagai penerus Hopper untuk pelatihan dan inferensi AI. Produk dalam platform ini mempunyai nama yang mirip tetapi bukan benda yang sama. B200 adalah GPU Tensor Core berbasis Blackwell. GB200 Grace Blackwell Superchip menghubungkan satu CPU NVIDIA Grace dengan dua GPU B200 melalui interkoneksi NVLink chip-to-chip.

Dari cip ke sistem rak

Satu GB200 bukan “dua GPU B100”. Dokumen peluncuran NVIDIA secara jelas menyebut dua GPU B200 dan satu CPU Grace. Pada skala lebih besar, GB200 NVL72 menggabungkan 36 Grace CPU dan 72 Blackwell GPU dalam sistem rak berpendingin cair, terhubung menggunakan NVLink generasi kelima. Nama NVL72 merujuk jumlah GPU Blackwell di konfigurasi tersebut.

NVIDIA juga menawarkan sistem DGX B200 yang memakai delapan GPU Blackwell serta platform DGX GB200. Spesifikasi memori, jaringan, daya, dan pendinginan berbeda. Pembaca harus memeriksa produk yang tepat sebelum membandingkan.

Apa arti klaim “hingga 30x”?

NVIDIA menyatakan GB200 dapat memberikan peningkatan hingga 30 kali dibanding jumlah H100 yang sama untuk beban inferensi model bahasa besar tertentu. Kata “hingga” dan skenario pengujian sangat penting. Performa aktual bergantung pada ukuran model, presisi numerik, jumlah pengguna, latensi, perangkat lunak, jaringan, batching, dan optimasi. Hasil inferensi tidak dapat langsung diterapkan pada pelatihan atau aplikasi lain.

Mengapa efisiensi sistem penting?

AI skala besar tidak hanya dibatasi kemampuan satu GPU. Data harus berpindah di antara GPU, CPU, memori, penyimpanan, dan jaringan. Interkoneksi cepat mengurangi hambatan komunikasi, sedangkan pendinginan serta pasokan listrik menentukan apakah sistem dapat mempertahankan performa. Biaya total juga mencakup pusat data, energi, jaringan, perangkat lunak, dan operasi.

Blackwell merupakan platform infrastruktur, bukan aplikasi AI yang langsung digunakan konsumen. Penilaian yang adil perlu menggunakan benchmark beban kerja nyata, konsumsi energi, latensi, biaya per permintaan, dan ketersediaan sistem—bukan hanya angka puncak vendor.

Sumber rujukan