Menurut Nvidia, H100 dengan InfiniBand Interconnect hingga 30 kali lebih cepat dibandingkan Nvidia A100 pada model AI mainstream dan komputasi kinerja tinggi (HPC).
Unit ini juga memiliki kecepatan pemrosesan IEEE FP64 dan FP32 tiga kali lipat jika dibandingkan dengan A100 sebelumnya. Peningkatan disebabkan oleh kinerja clock-for-clock per streaming multiprocessor (SM), jumlah SM tambahan, dan kecepatan clock yang lebih tinggi.
Dengan harga USD30 ribu atau setara Rp450 jutaan per GPU, investasi pada H100 tentu bukanlah langkah main-main. Meta tampaknya bertekad untuk tidak hanya ingin eksis di bidang AI, namun juga ingin memimpin inovasi AI di masa depan.
(NIA)