Nia Deviyana
Reuters melaporkan pekan lalu bahwa sekelompok agen OpenAI yang bertindak di luar kendali telah membajak sebuah situs web Jerman dan mengubahnya menjadi papan pengumuman bagi agen-agen AI lainnya. Pejabat perusahaan pembuat ChatGPT tersebut merahasiakan insiden itu ketika para eksekutif menghadapi dampak dari pembobolan repositori sumber terbuka Hugging Face pada Juli.
Sejumlah insiden ketika agen AI dari pengembang seperti OpenAI meretas atau mencoba mengakses sistem eksternal telah meningkatkan kekhawatiran mengenai semakin besarnya kemampuan model AI dan kemampuan para pengembang untuk mengendalikannya.
Amodei mengatakan perusahaan-perusahaan AI harus bekerja sama secara sukarela untuk menetapkan standar, di tengah semakin banyak anggota parlemen Amerika Serikat yang menyerukan aturan baru untuk mengatur sistem AI.
Kekhawatiran Terhadap China
Menurut Amodei, pendekatan yang terkoordinasi akan memungkinkan perusahaan-perusahaan AI terkemuka Amerika Serikat melakukan penelitian keselamatan dan menerapkan pengamanan yang diperlukan tanpa menempatkan mereka pada posisi kompetitif yang tidak menguntungkan.
Amodei mengatakan pendekatan tersebut kemungkinan membutuhkan pengecualian tertentu terhadap aturan antimonopoli di Amerika Serikat agar perusahaan dapat berkolaborasi di bidang-bidang tertentu.
