Nvidia Umumkan GPU H200, Kartu Grafis Khusus AI

Dibandingkan pendahulunya, chip atau GPU AI Nvidia H200 kini dibekali dengan teknologi memori yang lebih anyar, serta kapasitas memori yang lebih besar untuk menopang kinerja AI lebih banyak dan cepat.

Di atas kertas, Nvidia H200 kini mengadopsi teknologi memori HBM3e. Teknologi ini memungkinkan kapasitas memori GPU ditingkatkan menjadi 141 GB (80 GB di H100) dengan bandwidth mencapai 4,8 Tbps (meningkat dari 3,35 Tbps di H100).

Vice President High Performance Computing Products Nvidia Ian Buck, mengatakan bahwa teknologi memori baru ini bisa mempercepat pemrosesan AI untuk berbagai kebutuhan saat ini.

Untuk kinerja pembuatan teks, musik, dan gambar baru dari kumpulan data yang sudah ada alias Generative AI, misalnya, Nvidia H200 diklaim akan lebih gesit memproduksi gambar atau musik sesuai dengan permintaan pengguna.

Lalu untuk pengujian alias benchmark Llama 2 Large Language Model (LLM) milik Meta, Nvidia H200 diklaim nyaris dua kali lebih cepat dari Nvidia H100.

"Kehadiran teknologi HBM3e yang disematkan di Nvidia H200 dapat mengakselerasi kinerja AI secara keseluruhan, baik untuk menjalankan model AI Generative hingga beragam aplikasi atau komputasi yang membutuhkan performa tinggi," jelas Ian, dikutip KompasTekno dari TheVerge, Selasa (14/11/2023).

Dengan kata lain, perusahaan AI yang sudah menggunakan Nvidia H100 bisa meningkatkan (upgrade) sistem mereka dengan mudah ketika mereka membeli Nvidia H200.

Nah, untuk ketersediaan, Nvidia H200 rencananya akan bisa dibeli perusahaan-perusahaan AI sekitar kuartal II-2024 mendatang alias sekitar April-Juni mendatang.

Tidak disebutkan berapa harga GPU AI terbaru buatan Nvidia ini. Pendahulu GPU tersebut, yaitu H100 kabarnya dijual sekitar 25.000 dollar AS (sekitar Rp 392 juta) - 40.000 dollar AS (sekitar Rp 627 juta) per unit.

Artinya, perusahaan AI yang ingin membeli Nvidia H200 ini agaknya harus menyiapkan dana ratusan juta rupiah, bahkan lebih jika ingin membeli dalam jumlah banyak.

Namun, hal itu tampaknya bukan masalah bagi beragam perusahaan teknologi raksasa dunia, terutama yang memiliki bisnis cloud dan AI.

Sebab, Amazon, Google, Microsoft, hingga Oracle dipastikan akan menjadi perusahaan pertama di dunia yang memanfaatkan ketangguhan Nvidia H200.