Tangguh Yudha/MPI
IDXChannel - Kekhawatiran akan perkembangan Artificial Intelligence (AI) rupanya tak hanya datang dari masyarakat awam. Pembuat ChatGPT, OpenAI, sendiri menyadari potensi bahayanya yang dia sebut bisa memicu kepunahan manusia.
OpenAI bahkan sudah membentuk tim untuk memitigasi risiko itu. Mereka menulis bahwa mengendalikan sistem AI agar tidak jauh lebih pintar daripada manusia membutuhkan terobosan ilmiah dan teknis untuk mengarahkan dan mengendalikannya.
Sebagaimana dihimpun dari Techspot, Sabtu (8/7/2023), untuk mengatasi masalah ini dalam waktu empat tahun, OpenAI memulai tim baru dan mendedikasikan 20% dari komputasi yang telah diamankan oleh pihaknya untuk upaya ini.
OpenAI yakin superintelligence akan menjadi teknologi paling berdampak yang pernah ditemukan dan dapat membantu menyelesaikan banyak masalah dunia. Tapi kekuatannya yang melampaui kepintaran manusia juga disebut bisa berbahaya.
Jika ini terjadi, akan menyebabkan ketidakberdayaan umat manusia atau bahkan kepunahan manusia. Meskipun AI seperti itu mungkin tampak sangat jauh, tetapi perusahaan yakin itu bisa saja terjadi di dekade ini.
"Saat ini, kami tidak memiliki solusi untuk mengarahkan atau mengendalikan AI yang berpotensi superintelligent, dan mencegahnya menjadi jahat,” tulis salah satu pendiri OpenAI Ilya Sutskever dan Jan Leike, co-head tim baru.
OpenAI mengakui menyelesaikan tantangan teknis superintelijen dalam empat tahun adalah tujuan yang ambisius dan tidak ada jaminan akan berhasil. Perusahaan sekarang telah mempekerjakan peneliti dan insinyur untuk bergabung dengan tim.
"Penyelarasan superintelligence pada dasarnya adalah masalah pembelajaran mesin, dan menurut kami pakar pembelajaran mesin yang hebat bahkan jika mereka belum mengerjakan penyelarasan akan sangat penting untuk menyelesaikannya," jelas Sutskever dan Leike.
"Kami berencana untuk membagikan hasil dari upaya ini secara luas dan memandang kontribusi terhadap penyelarasan dan keamanan model non-OpenAI sebagai bagian penting dari pekerjaan kami," lanjut mereka.
