Menteri Teknologi Inggris Wanti-Wanti Adanya Terminator AI
Seorang menteri teknologi Inggris, Paul Scully, telah mewanti-wanti adanya risiko "ala Terminator" bagi umat manusia terhadap kecerdasan buatan.
IDXChannel - Seorang menteri teknologi Inggris, Paul Scully, telah mewanti-wanti adanya risiko "ala Terminator" bagi umat manusia terhadap kecerdasan buatan (artificial intelligence/AI) yang seharusnya jangan sampai mengorbankan kebaikan yang dimilikinya.
Dilansir dari BBC, dalam franchise film fiksi ilmiah Terminator, digambarkan sebuah sistem AI "Skynet" yang jahat dan bertekad ingin menghancurkan umat manusia. Sebelumnya, pada pekan lalu, beberapa perusahaan sudah memperingatkan jika AI dapat menjadi ancaman bagi eksistensi manusia.
Sementara itu, Perdana Menteri Rishi Sunak hendak melakukan perjalanan ke Amerika Serikat untuk mendiskusikan tentang AI sebagai sebuah topik yang perlu dibahas. Secara umum, AI digambarkan sebagai kemampuan komputer yang menjalankan tugas-tugas khusus membutuhkan kecerdasan manusia.
Ketika berbicara tentang AI, ada "sudut pandang distopia yang dapat kita ikuti di sini. Ada juga sudut pandang utopis. Keduanya bisa saja terjadi," tutur Scully saat menghadiri Konferensi Kepemimpinan Kebijakan Teknologi TechUK di Westminster.
Istilah distopia merujuk pada sebuah tempat imajiner dimana segala sesuatunya menjadi seburuk mungkin.
"Jika Anda hanya berbicara tentang akhir dari umat manusia karena beberapa skenario jahat ala Terminator, Anda akan kehilangan semua hal baik yang telah dilakukan oleh AI - bagaimana AI memetakan protein untuk membantu kita dalam penelitian medis, bagaimana AI membantu kita dalam perubahan iklim. "Semua hal itu sudah dilakukan dan akan semakin baik lagi."
Belum lama ini, pemerintah telah mengeluarkan dokumen kebijakan terkait pengaturan AI yang dikritik lantaran belum dibentuknya badan pengawas khusus, serta beberapa pihak berpendapat kalau tindakan tambahan mungkin diperlukan agar mampu menghadapi sistem masa depan yang paling canggih.
Pada minggu lalu, menurut Marc Warner, selaku anggota Dewan AI, sebuah badan ahli yang dibentuk guna memberi masukan kepada pemerintah, larangan terhadap AI terkuat mungkin diperlukan.
Walaupun begitu, ia berpendapat kalau "AI sempit" dirancang hanya untuk tugas-tugas tertentu, semisal sistem yang mencari kanker pada gambar medis, juga perlu diatur dengan dasar serupa seperti teknologi saat ini.
Menanggapi laporan adanya kemungkinan bahaya yang ditimbulkan oleh AI, seorang juru bicara perdana menteri mengungkapkan: "Kami tidak berpuas diri dengan potensi risiko AI, tetapi AI juga memberikan peluang yang signifikan.
"Kami tidak dapat melanjutkan dengan AI tanpa adanya pagar pengaman."
Sementara itu, menurut Lucy Powell, sekretaris budaya bayangan Partai Buruh kepada BBC, meskipun terjadi "tingkat histeria yang tinggi sehingga tentu saja ini mendominasi perdebatan publik saat ini, tetapi memang tersedia peluang nyata dalam pengembangan teknologi seperti AI".
Kendati demikian, ia menambahkan: "Namun, kita harus memikirkan risikonya dengan sangat hati-hati, memastikan bahwa kita memiliki regulasi yang baik."
Selain itu, penting juga agar semua orang mendapatkan manfaat dari dampak AI yang "tidak hanya dinikmati oleh perusahaan-perusahaan teknologi besar di Amerika Serikat seperti yang terjadi pada revolusi teknologi sebelumnya".
Sebelumnya, Powell sempat mengatakan kepada Guardian jika ia merasa AI perlu dilisensikan layaknya obat-obatan atau tenaga nuklir, dimana keduanya mempunyai regulator khusus.
Baru-baru ini, perusahaan AI OpenAI menulis di blognya terkait regulator global seperti Otoritas Energi Atom Internasional yang kemungkinan dibutuhkan untuk AI super cerdas. Dan saat acara yang sama, presiden Microsoft, Brad Smith, menyebut kalau AI yang paling canggih pun kemungkinan juga membutuhkan lisensi keselamatan agar bisa beroperasi.
"Sebelum sebuah model dapat digunakan, model tersebut harus melewati semacam tinjauan keamanan."
Lebih lanjut, Smith berpendapat jika adanya kerja sama internasional serta satu model regulasi menjadi solusi terbaik. Dan menurutnya, dalam hal keamanan dunia maya maupun keamanan nasional, Inggris ataupun Amerika Serikat mempunyai posisi yang tepat untuk bekerja sama.
Selain itu, ia juga mengingatkan para wartawan saat acara tersebut kalau Microsoft tidak akan mengikuti "parade ketakutan", sembari menegaskan agar lebih baik mengurangi retorika dan berfokus pada masalah-masalah yang ada.
Sementara itu, menurut sejumlah pakar lain, fokus terhadap skenario bencana serupa dengan fiksi ilmiah justru menjadi pengalihan perhatian dari isu-isu terkini terkait AI, semisal risiko bias rasial dan gender dalam algoritme.
(DKH)