Ilmuwan Dunia hingga Pangeran Harry Desak Pengembangan Super AI Dihentikan
Pernyataan ini digagas oleh sekelompok peneliti AI yang khawatir dengan pesatnya kemajuan teknologi.
IDXChannel - Ratusan tokoh dunia, mulai dari ilmuan, mantan petinggi militer, seniman, hingga anggota keluarga kerajaan Inggris, menandatangani sebuah pernyataan yang menyerukan pelarangan pengembangan kecerdasan buatan super atau superintelligence (Super AI).
Melansir Futurism, Kamis (23/10/2025), surat pernyataan tersebut diinisiasi oleh Future of Life Institute (FLI). Dalam surat tersebut dijelaskan tuntutan ini tidak boleh dicabut sebelum ada konsensus ilmiah yang luas bahwa hal itu akan dilakukan dengan aman dan terkendali.
Pernyataan ini digagas oleh sekelompok peneliti AI yang khawatir dengan pesatnya kemajuan teknologi. Lebih dari 800 tokoh ternama telah menandatangani dokumen tersebut, termasuk pakar AI Geoffrey Hinton hingga Pangeran Harry dan Meghan Markle.
Seruan ini menambah daftar panjang desakan untuk memperlambat laju pengembangan AI, di tengah kekhawatiran bahwa teknologi ini dapat mengubah struktur ekonomi dan budaya global.
Sementara itu, raksasa teknologi seperti OpenAI, Google, dan Meta terus menginvestasikan miliaran dolar untuk memperkuat model AI mereka, membangun pusat data, dan menyematkan fitur AI ke berbagai produk.
"Sistem AI yang lebih mutakhir dapat melampaui sebagian besar individu dalam sebagian besar tugas kognitif hanya dalam beberapa tahun. Kemajuan ini dapat membuka solusi untuk tantangan global utama, tetapi juga membawa risiko yang signifikan," ujar Bengio, Profesor di Universitas Montreal, melalui siaran pers.
Direktur Eksekutif FLI Anthony Aguirre, yang juga merupakan seorang fisikawan di University of California, menilai perkembangan AI berjalan jauh lebih cepat. Hal ini bahkan melampaui pemahaman masyarakat umum.
"Pada dasarnya, arah perkembangan ini ditentukan oleh perusahaan dan sistem ekonomi yang mendorong mereka, bukan oleh pilihan publik. Padahal, kita perlu bertanya, apakah ini benar-benar masa depan yang kita inginkan? Apakah kita siap jika AI menggantikan peran manusia?," ujarnya.
Aguirre mengatakan dunia membutuhkan lebih banyak diskusi publik dan kebijakan nyata untuk mengatur arah pengembangan AI. Bahkan, ada kemungkinan perjanjian internasional mengenai AI canggih, seperti kesepakatan global untuk senjata nuklir dan teknologi berbahaya lainnya.
"Publik sebenarnya tidak menginginkan perlombaan ini. Sudah saatnya kita berhenti sejenak dan memutuskan bersama ke mana arah teknologi ini akan dibawa," ucapnya.
(NIA DEVIYANA)