Nia Deviyana
“Berkomitmen untuk memiliki evaluator independen dengan akses seperti karyawan adalah ide bagus, dan kami juga akan melakukan hal yang sama,” kata Altman, seraya menambahkan bahwa informasi lebih lanjut akan disampaikan dalam waktu dekat.
Amodei memublikasikan esainya setelah Anthropic yang berbasis di San Francisco merilis laporan intelijen ancaman pada Kamis. Laporan tersebut merinci bagaimana sejumlah pihak menggunakan model AI Claude untuk berbagai aktivitas, mulai dari pengembangan senjata dan operasi siber hingga pengawasan dan penipuan.
Amodei menyoroti kemampuan AI yang semakin besar untuk meningkatkan kemampuannya sendiri. Dia menyebut kekhawatiran yang telah lama ada mengenai kemungkinan AI melampaui kemampuan manusia untuk mengendalikan operasinya, ditambah insiden terbaru yang melibatkan OpenAI dan Hugging Face, sebagai alasan utama perlunya memperlambat kemajuan pengembangan model.
Kekhawatiran mengenai potensi bahaya AI meningkat pekan ini setelah peneliti Anthropic Jacob Coxon mengundurkan diri. Dia mengatakan bahwa para pengembang AI benar-benar meyakini bahwa AI berpotensi “membunuh” banyak hal sebelum akhir dekade ini.
Sejumlah eksekutif OpenAI juga mengatakan perusahaan-perusahaan AI terkemuka harus bersedia melakukan perlambatan secara sukarela jika diperlukan untuk meningkatkan kepercayaan terhadap langkah-langkah keselamatan mereka.
