Cara kerjanya dengan menyaring jutaan pesan, foto dan video yang telah dilaporkan oleh pengguna, kemudian diteruskan ke sistem yang dibekali kecerdasan buatan. Karyawan kontrak ini kemudian memutuskan apakah konten itu melanggar aturan atau tidak.
Sebenarnya karena WhatsApp menonjolkan bahwa aplikasinya dilindungi enkripsi, sistem AI mereka tidak bisa secara otomatis memindai semua pesan, foto, dan video seperti di Facebook dan Instagram yang tidak dienkripsi.
Artinya, karyawan kontrak WhatsApp hanya bisa melihat konten yang telah dilaporkan oleh pengguna. Ketentuan ini telah dijabarkan WhatsApp di kolom FAQ, tentang memblokir dan melaporkan kontak.
Tapi menurut ProPublica, sistem pelaporan ini telah melanggar privasi pengguna WhatsApp. Aplikasi diyakini bisa mengumpulkan informasi tambahan seperti nama grup yang diikuti pengguna, nomor telepon, foto profil, pesan status, level baterai ponsel, bahasa, dan zona waktu. Bahkan, ID unik ponsel dan alamat IP, serta akun Facebook dan Instagram, dan lainnya juga bisa diketahui.
Merespon laporan tersebut, WhatsApp dan Facebook menilai ProPublica salah paham dalam laporannya. WhatsApp menjelaskan saat pengguna menggunakan fitur Report, pesan memang langsung diteruskan ke pihak Facebook, tapi tidak ada privasi yang dilanggar karena proses ini mirip seperti meneruskan pesan ke orang lain, dan pesan sudah tidak lagi dienkripsi.