Dokumen Bocor Tunjukkan Keraguan Facebook Membatasi Konten Perpecahan di India

Sejumlah dokumen yang bocor dan diperoleh oleh Associated Press menunjukkan Facebook di India ragu-ragu dalam membatasi ujaran kebencian dan konten anti-Muslim di platformnya. Facebook juga tidak memiliki cukup moderator bahasa lokal untuk mencegah munculnya informasi yang salah.

Publikasi berita palsu itu kadang-kadang memicu kekerasan di dunia nyata. Dokumen-dokumen itu menunjukkan masalah ini telah mengganggu perusahaan itu selama bertahun-tahun, terutama dalam kasus di mana anggota-anggota Partai Bharatiya Janata BJP yang dipimpin Perdana Menteri Narendra Modi membuat beragam akun Facebook untuk memperkuat konten anti-Muslim.

Dokumen-dokumen itu menunjukkan perjuangan keras Facebook secara terus menerus untuk menghentikan pemasangan konten kasar di platformnya, di negara demokrasi terbesar yang memiliki pertumbuhan pasar tercepat di dunia itu.

Telah sejak lama ketegangan antar etnis dan agama di India memanas di media sosial dan berujung menjadi aksi kekerasan.

Modi telah dipuji karena memanfaatkan platform itu untuk keuntungan partainya selama pemilihan umum lalu, dan laporan di Wall Street Journal tahun lalu meragukan apakah Facebook telah secara selektif menegakkan kebijakannya tentang ujaran kebencian guna mencegah kecaman balik dari BJP.

Modi dan CEO Facebook Mark Zuckerberg telah menunjukkan kedekatan mereka, yang ditunjukkan dari foto berpelukan di markas besar Facebook.

Dokumen-dokumen yang bocor itu mencakup kumpulan laporan internal perusahaan tentang ujaran kebencian dan informasi yang salah di India, yang dalam beberapa kasus tampaknya telah diintensifkan oleh fitur dan algoritma “yang direkomendasikan” sendiri. Laporan ini juga mencakup kekhawatiran staf perusahaan atas kesalahan penanganan masalah ini dan ketidakpuasan mereka atas “konten buruk” yang viral di platform.

Menurut dokumen itu Facebook melihat India sebagai salah satu “negara paling berisiko” di dunia dan mengidentifikasi bahasa Hindi dan Bengali sebagai prioritas untuk “otomatisasi pelanggaran pernyataan-pernyataan keji.” Namun Facebook tidak memiliki cukup moderator bahasa lokal atau penandaan konten untuk menghentikan informasi yang salah, yang terkadang mengarah pada kekerasan di dunia nyata.

Dalam pernyataan pada Associated Press, Facebook mengatakan “telah menanamkan investasi secara signifikan dalam teknologi untuk menemukan ujaran kebencian dalam berbagai bahasa, termasuk Hindi dan Bengali,” yang “mengurangi jumlah ujaran kebencian yang dilihat orang hingga separuhnya” pada tahun 2021 ini.

“Ujaran kebencian terhadap kelompok terpinggirkan, termasuk Muslim, sedang meningkat secara global. Jadi kami meningkatkan penegakan hukum dan berkomitmen memperbarui kebijakan kami seiring berkembangnya ujaran kebencian secara online,” tambah pernyataan juru bicara Facebook itu.

Laporan Associated Press ini, bersama laporan-laporan lain yang dipublikasikan, didasarkan pada pengungkapan oleh Komisi Sekuritas dan Bursa SEC dan diberikan pada Kongres Amerika dalam laporan yang telah disuntik oleh tim kuasa hukum mantan pegawai Facebook yang menjadi pelapor atau whistleblower, Frances Haugen. Versi yang disunting itu diperoleh oleh konsorsium organisasi berita, termasuk Associated Press. [em/jm]