OpenAI Bentuk Tim Keamanan AI, Dipimpin CEO Sam Altman

KOMPAS.com - Pengembangan AI yang berlangsung cepat bisa membuahkan hak-hal yang tidak dikehendaki, seperti kecerdasan buatan yang jalannya melenceng alias "misaligned" dari tujuan semula.

Sebab itulah, OpenAI baru-baru ini mengumumkan pembentukan sebuah Komite Keamanan dan Keselamatan. Komite antara lain beranggotakan Ketua Dewan Bret Taylor, Direktur Adam D’Angelo dan Nicole Seligman, serta CEO OpenAI Sam Altman yang menjadi pemimpinnya.

Tugas komite tersebut, berdasarkan penjelasan OpenAI di situsnya, adalah mengevaluasi dan mengembangkan lebih lanjut proses dan perlindungan OpenAI, untuk kemudian memberikan rekomendasi kepada dewan direksi.

Beberapa pemimpin teknis dan kebijakan OpenAI juga disebut akan menjadi anggota komite. OpenAI mengatakan bahwa pihaknya pun akan tetap melibatkan dan berkonsultasi dengan para pakar keselamatan, keamanan, dan teknis lainnya untuk mendukung hal ini.

Baca juga: OpenAI Rilis Model AI GPT-4o Gratis, Lebih Cepat dan Humanis

Komite keamanan OpenAI dibentuk menyusul hengkangnya co-founder Ilya Sutskever dan eksekutif Jan Leike tahun lalu. Keduanya dikenal menaruh perhatian terhadap pengembangan AI yang bertanggung jawab.

Sutskever dan Leike pernah memimpin tim "Superalignment" di OpenAI yang bertujuan memitigasi risiko jangka panjang dari pengembangan AI, dengan cara "menyetir dan mengendalikan sistem AI yang lebih pintar dari manusia".

Leike sempat menuding di media sosial bahwa OpenAI tak lagi memperhatikan aspek keamanan produknya, melainkan lebih sibuk menelurkan "barang-barang baru yang menarik." Tim Superalignment OpenAI kini sudah dibubarkan.

Selain aneka pencapaian, perjalanan OpenAI dan pengembangan AI secara umum selama ini turut diwarnai kontroversi. Misalnya ketika aktris Hollywood Scarlett Johansson menuding bahwa salah satu preset suara ChatGPT versi terbaru telah menjiplak suaranya tanpa izin.

Baca juga: OpenAI Dituding Jiplak Suara Aktris Scarlett Johansson untuk GPT-4o

Kemudian ada produk lain yang berpotensi menimbulkan implikasi di terkait properti intelektual dan lapangan pekerjaan di bidang kreatif, seperti tool Sora yang mampu menghasilkan video dari instruksi teks.

OpenAI memperoleh pendanaan dari raksasa software Microsoft yang diketahui sudah berinvestasi senilai belasan miliar dollar AS. Namun, OpenAI bukan satu-satunya perusahaan teknonolgi yang mengembangkan AI karena banyak pihak lain yang melakukan upaya serupa.

Antrophic misalnya, perusahaan pembuat chatbot AI Claude tersebut telah menerima pendanaan senilai miliaran dolar AS dari raksasa teknologi Amazon dan Google, sebagaimana dihimpun KompasTekno dari LA Times, Kamis (30/5/2024). 

Pekan ini, perusahaan xAI yang dipimpin Elon Musk pun mengumumkan bahwa mereka telah menutup putaran pendanaan senilai 6 miliar dollar AS ( sekitar Rp 97 triliun) yang akan digunakan untuk membawa produk pertama xAI ke pasar.