Qualcomm Rilis "Perpustakaan" AI Hub untuk Pengembang Aplikasi

AI Hub dikenalkan Qualcomm di Mobile World Congress (MWC) 2024 yang digelar di Barcelona, Senin (26/2/2024).

AI Hub merupakan sebuah "perpustakaan" model AI yang dioptimalkan agar bisa berjalan pada chip Snapdragon, modem 5G, dan sistem Wi-Fi yang dibuat Qualcomm.

Dengan memanfaatkan Qualcomm AI Hub, para pengembang dapat mengintegrasikan model AI yang telah dioptimalkan ke dalam aplikasi mereka, dengan mudah dan cepat, dilaporkan jurnalis KOMPAS.com, Mikhaangelo Fabialdi dari Barcelona, Senin (26/2/2024).

Misalnya seperti Whisper, AI pengenalan suara dan transkrip bikinan OpenAI. Kemudian, ada ControlNet dan Stable Diffusion untuk membuat gambar dengan AI. Lalu, Baichuan 7B, model bahasa besar open source dan tersedia secara komersial yang dikembangkan oleh Baichuan Intelligence.

Saat ini, seluruh 75+ model AI yang telah dioptimalkan telah tersedia di situs Qualcomm AI Hub, GitHub, dan Hugging Face.

Setelah menyalin beberapa baris kode dari AI Hub, pengembang akan dapat menjalankan model AI-nya sendiri pada perangkat yang dihosting di cloud dan didukung oleh platform Qualcomm.

“Qualcomm AI Hub memberi pengembang perpustakaan model AI yang komprehensif untuk dengan cepat dan mudah mengintegrasikan model AI yang telah dioptimalkan ke dalam aplikasi mereka, sehingga menghasilkan pengalaman pengguna yang lebih cepat, lebih andal, dan privat," kata Durga Malladi, wakil presiden senior dan manajer umum, perencanaan teknologi dan solusi edge, Qualcomm Technologies.

Qualcomm mengungkapkan, lebih dari 75 model AI yang dikumpulkan di AI Hub sudah dioptimalkan agar performa AI-nya unggul, penggunaan memori lebih rendah, dan efisiensi daya yang lebih baik di berbagai bentuk dan runtime.

Setiap model AI dioptimalkan untuk memanfaatkan akselerasi perangkat keras di seluruh inti dalam Qualcomm AI Engine (NPU, CPU, dan GPU), sehingga menghasilkan waktu inferensi (penarikan kesimpulan) 4X lebih cepat.

Model AI Hub Qualcomm juga bakal secara langsung dengan SDK Qualcomm AI Engine, kemudian menerapkan pengoptimalan berbasis perangkat keras. Hal inilah yang memungkinkan developer menerapkan model AI dengan lebih cepat dan mudah ke perangkat yang didukung platform Qualcomm.

Menurut Qualcomm, pihaknya akan terus menambahkan model-model AI baru Qualcomm AI Hub, bersama dengan dukungan yang akan datang untuk platform dan sistem operasi tambahan.

Para pengembang dapat mendaftar diri lewat link ini untuk menjalankan model-model tersebut di perangkat yang di-host di cloud berdasarkan platform Qualcomm Technologies, dan mendapatkan akses lebih awal ke fitur-fitur baru dan model-model AI yang akan hadir di Qualcomm AI Hub.