Nvidia Umumkan GPU H200, Kartu Grafis Khusus AI

KOMPAS.com - Nvidia resmi meluncurkan chip pengolah grafis (GPU) AI terbarunya, bernama H200. Sesuai namanya, chip ini merupakan suksesor dari Nvidia H100 yang diperkenalkan sekitar tahun lalu.

Dibandingkan pendahulunya, chip atau GPU AI Nvidia H200 kini dibekali dengan teknologi memori yang lebih anyar, serta kapasitas memori yang lebih besar untuk menopang kinerja AI lebih banyak dan cepat.

Di atas kertas, Nvidia H200 kini mengadopsi teknologi memori HBM3e. Teknologi ini memungkinkan kapasitas memori GPU ditingkatkan menjadi 141 GB (80 GB di H100) dengan bandwidth mencapai 4,8 Tbps (meningkat dari 3,35 Tbps di H100).

Vice President High Performance Computing Products Nvidia Ian Buck, mengatakan bahwa teknologi memori baru ini bisa mempercepat pemrosesan AI untuk berbagai kebutuhan saat ini.

Untuk kinerja pembuatan teks, musik, dan gambar baru dari kumpulan data yang sudah ada alias Generative AI, misalnya, Nvidia H200 diklaim akan lebih gesit memproduksi gambar atau musik sesuai dengan permintaan pengguna.

Baca juga: Terungkap, Keuntungan Fantastis Nvidia dari GPU H100 yang Dijual Rp 300 Jutaan

Lalu untuk pengujian alias benchmark Llama 2 Large Language Model (LLM) milik Meta, Nvidia H200 diklaim nyaris dua kali lebih cepat dari Nvidia H100.

"Kehadiran teknologi HBM3e yang disematkan di Nvidia H200 dapat mengakselerasi kinerja AI secara keseluruhan, baik untuk menjalankan model AI Generative hingga beragam aplikasi atau komputasi yang membutuhkan performa tinggi," jelas Ian, dikutip KompasTekno dari TheVerge, Selasa (14/11/2023).

Nvidia H100, salah satu produk GPU tensor core dari Nvidia yang banyak dipakai di pusat pengolahan AI

Dengan kata lain, perusahaan AI yang sudah menggunakan Nvidia H100 bisa meningkatkan (upgrade) sistem mereka dengan mudah ketika mereka membeli Nvidia H200.

Nah, untuk ketersediaan, Nvidia H200 rencananya akan bisa dibeli perusahaan-perusahaan AI sekitar kuartal II-2024 mendatang alias sekitar April-Juni mendatang.

Tidak disebutkan berapa harga GPU AI terbaru buatan Nvidia ini. Pendahulu GPU tersebut, yaitu H100 kabarnya dijual sekitar 25.000 dollar AS (sekitar Rp 392 juta) - 40.000 dollar AS (sekitar Rp 627 juta) per unit.

Baca juga: Tesla Borong 10.000 Kartu Grafis H100 Nvidia demi Bangun Dojo

Artinya, perusahaan AI yang ingin membeli Nvidia H200 ini agaknya harus menyiapkan dana ratusan juta rupiah, bahkan lebih jika ingin membeli dalam jumlah banyak.

Namun, hal itu tampaknya bukan masalah bagi beragam perusahaan teknologi raksasa dunia, terutama yang memiliki bisnis cloud dan AI.

Sebab, Amazon, Google, Microsoft, hingga Oracle dipastikan akan menjadi perusahaan pertama di dunia yang memanfaatkan ketangguhan Nvidia H200.