Febrina Ratna Iskana
Suleyman mengatakan bahwa mengajarkan Claude bahwa ia mungkin berhak atas kesejahteraan akan "membuatnya jauh lebih sulit untuk dimatikan atau dikendalikan."
Perbedaan pendapat ini muncul di tengah meningkatnya kekhawatiran mengenai keamanan AI. CEO Anthropic, Dario Amodei, menyerukan perlambatan laju pengembangan model AI mutakhir (frontier-model) agar langkah-langkah pengamanan dapat mengimbanginya.
Sementara CEO OpenAI, Sam Altman, dan Elon Musk juga mendesak adanya kehati-hatian lebih besar terkait sistem-sistem yang paling canggih dan kuat.
Dalam sebuah esai yang diterbitkan Rabu, Suleyman mengakui "keseriusan dan niat baik" Anthropic, serta menyebut Amodei dan timnya sebagai peneliti yang bijaksana dan memegang teguh prinsip, yang benar-benar peduli terhadap masa depan umat manusia.
Meski begitu, Suleyman menilai Anthropic telah melakukan kesalahan dengan menyertakan spekulasi mengenai kesadaran dalam materi pelatihan Claude. Ia berpendapat bahwa pernyataan model tersebut mengenai kemungkinan adanya perasaan atau status moral tidak dapat dianggap sebagai bukti independen, karena proses pelatihannya memang mendorong munculnya refleksi semacam itu.
