Dian Kusumo
Dengan asumsi produk mereka secara teknis dapat bekerja pada tingkat yang sama dengan ChatGPT, perusahaan teknologi Cina mungkin menemukan diri mereka memilih antara membatasi apa yang dapat dilakukan chatbot, seperti Bing Microsoft, atau apa yang dapat mereka katakan.
"Ini akan membuatnya jauh lebih tidak berguna, tetapi itu akan membuatnya sedikit lebih aman secara politis," ungkap Matt Sheehan, seorang peneliti di Carnegie Endowment for International Peace yang mempelajari AI dan Tiongkok, kepada Al Jazeera.
"Secara historis, hampir setiap kali mereka dihadapkan pada trade-off antara kontrol informasi dan ... peluang bisnis, mereka selalu turun di sisi kontrol informasi dan kemudian mereka berasumsi bahwa bisnis akan mengetahuinya."
Pada 2017, Tencent menarik dua chatbot dari aplikasi perpesanan QQ-nya setelah mereka dilaporkan membuat komentar yang dianggap tidak sopan. Satu chatbot, yang dikembangkan oleh Microsoft, mengatakan kepada pengguna bahwa mereka bermimpi untuk pindah ke AS, sementara chatbot lainnya, yang dikembangkan oleh perusahaan teknologi Tiongkok Turing Robot, mengatakan kepada pengguna bahwa mereka tidak menyukai PKT.
Awal bulan ini, YuanYu Intelligence, sebuah startup yang berbasis di Hangzhou, menangguhkan chatbot-nya setelah memberikan jawaban negatif tentang ekonomi China, meskipun pengembang utama perusahaan bersikeras dalam sebuah wawancara dengan Washington Post bahwa penangguhan itu hanya karena kesalahan teknis.
Baidu sendiri sebelumnya telah mengantisipasi garis merah Beijing, seperti yang terlihat dengan ERNIE VilG Image dan art generator-nya yang dirilis dalam bentuk demo tahun lalu.
Meskipun dipuji secara luas karena berkinerja baik atau lebih baik daripada saingan Barat, aplikasi ini memblokir pengguna dari konten yang terkait dengan topik sensitif secara politik seperti Lapangan Tiananmen, demokrasi, Xi Jinping, dan Mao Zedong.
"Dengan AI generatif, kekuatan alat ini adalah kemampuannya untuk menjadi kreatif dan menghubungkan hal-hal yang tidak Anda harapkan untuk terhubung, dan untuk melakukan hal-hal dalam gaya berbeda yang diharapkan," kata Sheehan.
"Tapi bagaimana Anda bisa mencegah kritik yang mungkin lebih halus atau kurang langsung terhadap keyakinan inti Partai Komunis tanpa sepenuhnya mensterilkan alat itu sendiri? Itu sepertinya masalah teknis dan sosial politik yang sangat sulit."
Sebelum rilis ChatGPT, China sudah mengambil langkah-langkah untuk mengatur AI. Pada hari Rabu, Administrasi Keamanan Siber mulai menegakkan aturan baru yang mengatur rekomendasi mesin pencari, memberi pengguna kontrol lebih besar atas bagaimana data pribadi mereka digunakan oleh mesin pencari.
