Pemecatan tak terduga CEO OpenAI Sam Altman, dilaporkan karena adanya peringatan kehadiran robot canggih AI yang mengancam umat manusia.

AI canggih itu bernama Q* yang dibaca Q-star. Kabarnya bisa menjadi terobosan pencarian perusahaan pada Artificial General Intelligence (AGI).

Ancaman Q-star ini dituliskan sejumlah staf peneliti pada sebuah surat kepada direksi OpenAI. Isinya adalah peringatan soal keberadaan kecerdasan buatan yang kuat tersebut.

Menurut sumber, yang dikutip https://judol-terpercaya.store/ Reuters, surat peneliti itu jadi salah satu faktor dari daftar panjang keluhan dewan pada Altman yang berujung pemecatan.

Altman juga diketahui punya ambisi besar untuk mengembangkan ChatGPT dan untuk mendekati AGI. Dia ingin chatbot itu jadi salah satu aplikasi dengan pertumbuhan lebih cepat dalam sejarah dan dapat menarik investasi.

Namun, Presiden Microsoft Brad Smith, menolak klaim terobosan berbahaya tersebut menjadi alasan pemecatan Altman.

“Sama sekali tidak ada kemungkinan bahwa Anda akan melihat apa yang disebut AGI, komputer yang lebih kuat daripada manusia, dalam 12 bulan ke depan,” kata Smith dikutip dari Reuters, Jumat (1/12/2023).

“Ini akan memakan waktu bertahun-tahun, bahkan puluhan tahun, tapi saya masih memikirkan waktu untuk melakukannya. fokus pada keselamatan sekarang,” imbuhnya.

Sumber mengatakan kepada Reuters bahwa peringatan kepada dewan OpenAI adalah salah satu faktor di antara daftar banyaknya keluhan yang menyebabkan pemecatan Altman, serta kekhawatiran atas komersialisasi sebelum sempat menilai risikonya.

Ketika ditanya apakah penemuan yang diduga berkontribusi pada pemecatan Altman, Smith mengatakan bukan itu masalah sebenarnya. Ia percaya bahwa jelas ada perbedaan pendapat antara dewan direksi dan yang pihak lainnya soal rem pengaman untuk AGI.

“Yang benar-benar kami butuhkan adalah rem pengaman. Sama seperti Anda memiliki pengaman di dalam lift, pemutus arus listrik, rem darurat untuk bus,” ujar dia.

Menurut Smith, yang terpenting adalah harus ada pengaman di sistem AI yang mengontrol infrastruktur penting, sehingga infrastruktur tersebut selalu berada di bawah kendali manusia.

Kemampuan AGI jauh melampaui dari yang dibayangkan. Teknologi tersebut dikatakan dapat melakukan generalisasi, belajar, dan bahkan memahami sesuatu dibandingkan kalkulator.

Para peneliti telah melakukan pengujian pada Q-star. Meski hanya mengerjakan soal matematika pada tingkat sekolah dasar, keberhasilannya membuat mereka optimistis pada kesuksesan model baru itu.

Q-star disebut memiliki kemampuan yang kemungkinan bisa lebih pintar dibandingkan AI Generatif yang berada di belakang ChatGPT. Bahkan bisa melampaui manusia.

Ia didefinisikan oleh OpenAI sebagai sistem otonom yang bisa melampaui manusia untuk sebagian besar tugas bernilai ekonomi.