Gunakan AI AJI-Monash University Kolaborasi Pantau Penyebaran Ujaran Kebencian Online yang Sasar Minoritas pada Pemilu 2024

JAKARTA, WongKito.co - Aliansi Jurnalis Independen (AJI) Indonesia dan Monash University Indonesia berkolaborasi memantau penyebaran ujaran kebencian online yang menyasar kelompok minoritas di Pemilu 2024. Pemantauan akan dilakukan selama delapan bulan mulai Oktober 2023 hingga Mei 2024.

Penandatangan kerja sama dilakukan Sekretaris Jenderal AJI Indonesia Ika Ningtyas dan Pembantu Rektor Bidang Riset Monash University Indonesia, Alex Lechner di gedung Monash University Indonesia, kawasan Green Office Park BSD, Kabupaten Tangerang Rabu (11/10/2023).

Pemantauan ujaran kebencian itu dengan mengembangkan kecerdasan buatan atau artifical intelligence (AI) untuk mengumpulkan, analisis, permodelan, dan penyajian data berbagai pesan yang bertujuan memecah belah masyarakat.

Sekretaris Jenderal AJI Indonesia Ika Ningtyas mengatakan ujaran kebencian terhadap kelompok minoritas selalu meningkat setiap pemilu, salah satunya menggunakan misinformasi dan disinformasi. Hal ini  dapat berdampak pada menguatnya polarisasi, diskriminasi, dan memicu persekusi pada kelompok minoritas, seperti minoritas agama dan minoritas gender.

AJI, menurut Ika, perlu berkolaborasi dengan perguruan tinggi untuk merumuskan desain monitoring, menganalisis dan menyajikan data dalam sebuah platform. Hasil monitoring tersebut, dapat menjadi panduan bagi media untuk memproduksi karya jurnalistik yang lebih mempromosikan keberagaman dan memperjuangkan hak-hak kelompok minoritas.

“Data tersebut nantinya dapat digunakan oleh media massa untuk melihat tren penggunaan ujaran kebencian dan menghindari untuk mengamplifikasi narasi yang disebarkan kelompok politik tertentu yang justru memperkuat stigma dan diskriminasi kepada kelompok minoritas,” kata Ika.

Selain itu, data hasil monitoring akan memudahkan berbagai elemen masyarakat seperti Bawaslu, Dewan Pers, platform media sosial, maupun organisasi yang membela hak-hak minoritas agar dapat mengantisipasi dan memitigasi ujaran kebencian yang berujung pada polarisasi sosial.

Pembantu Rektor Bidang Riset Monash University Indonesia, Alex Lechner menjelaskan, selama pemilu, politisi akan menggunakan strategi apapun demi mendapatkan suara, termasuk menyebarkan kebencian terhadap kelompok tertentu,  termasuk komunitas minoritas yang rentan.

"Masalah serupa terjadi di seluruh dunia, bukan hanya Indonesia," kata Alex saat acara penandatanganan kerja sama AJI Indonesia dan Monash University di Monash University Indonesia.

Menurut dia, tantangan jurnalis dan peneliti adalah bagaimana memantau ujaran kebencian secara intensif. Bahasa dan konteks persoalan menjadi tantangan bagi pemantauan tersebut. Selama ini sudah ada kalangan yang memantau ujaran kebencian. Sebagian besar melibatkan pakar politik atau ilmu sosial. Tapi, Monash University Indonesia menggabungkan disiplin ilmu sosial dan data sains sehingga memungkinkan pemantauan dalam skala besar.

Monash melibatkan dua peneliti yakni Derry Wijaya dan Ika Idris yang punya keahlian dan mengerjakan topik secara intensif. Mereka menggabungkan percakapan dan pembelajaran mesin untuk mendeteksi percakapan yang toksik.

Alex mengatakan, Monash University senang menggandeng AJI Indonesia dalam kolaborasi ini karena isu tersebut penting dan jurnalis mengamati fenomena ujaran kebencian secara dekat dan intensif. Alex berharap akan ada kerjasama yang berkelanjutan di masa depan. "Melalui kolaborasi ini, kami berharap dapat memberikan dampak bagi masyarakat Indonesia, terutama kelompok rentan," ujar dia.

Rekam Jejak Penelitian Sebelumnya

Co-director Data & Democracy Research Hub, Monash University Indonesia, Derry Wijaya, mengatakan Pilpres Indonesia 2024 akan terjadi di mana penggunaan AI-generatif telah digunakan cukup luas, beberapa di antaranya disalahgunakan untuk memproduksi ujaran kebencian, misinformasi dan disinformasi.

Namun, AI juga bisa dikembangkan untuk mengindetifikasi dan mendeteksi lebih dini penyebaran misinformasi, disinformasi, dan ujaran kebencian. Sehingga publik dapat menentukan tindakan intervensi lebih tepat. “Dengan tujuan ini kami mengembangkan AI agar dapat mendukung keberagaman dan demokrasi,” kata Derry.

Monash University Indonesia telah beberapa kali memantau penyebaran misinformasi, ujaran kebencian, dan peran penting kecerdasan buatan (AI generatif), utamanya saat pandemi COVID-19.

Studi pertama dari hasil analisis 24 ribu percakapan Twitter selama pandemi Covid-19 di Indonesia dan Malaysia menunjukkan stigma negatif terhadap etnis Cina, India, dan kelompok agama tertentu. “Stigma negatif ini berakibat fatal pada tidak tertanganinya kasus Covid-19, terutama pada kelompok rentan,” kata Co-director Data & Democracy Research Hub, Monash University Indonesia, Ika Idris.

Studi kedua menggali moderasi konten di Instagram tentang #coronavirus. Menggunakan dataset besar yang mencakup 9.648 gambar dan 22.676 komentar dari tahun 2020. Penelitian tersebut menemukan bahwa moderasi berhasil mengurangi penyebaran misinformasi yang berkaitan dengan COVID-19. Namun, secara tak terduga, moderasi juga menyebabkan penurunan tingkat kemarahan, ketakutan, ujaran kebencian, dan serangan identitas.

Studi ketiga menghadirkan dataset multibahasa tentang misinformasi vaksin COVID-19 yang fokus pada tiga negara yakni Brasil, Indonesia, dan Nigeria. Dengan melibatkan 5.952 tweet yang telah di-annotasi, penelitian ini membuktikan pentingnya pengembangan model deteksi misinformasi.

Hasilnya menunjukkan peningkatan kinerja yang signifikan, dengan skor F1 makro meningkat sebesar 2,7% hingga 15,9% dibandingkan dengan model-model awal. Selain itu, studi ini menerapkan model-model tersebut pada 19 juta tweet tanpa label dari tahun 2020 hingga 2022 di ketiga negara, menunjukkan bahwa tingkat misinformasi vaksin COVID-19 dipengaruhi positif oleh perubahan jumlah kasus baru COVID-19, terutama di Brasil dan Indonesia.

Sedangkan AJI Indonesia sejak 2018 telah berfokus untuk melawan misinformasi dan disinformasi dengan memperkuat jurnalis dengan keterampilan pemeriksaan fakta, menggelar berbagai peningkatan literasi digital, dan peningkatan kapasitas media untuk mendorong jurnalisme berkualitas.(*)