Gemoy 'Everywhere': Disrupsi AI Jadi Ujian dalam Pemilu 2024

Masyarakat berjalan melewati baliho Menteri Pertahanan dan calon Presiden Prabowo Subianto dan pasangannya Gibran Rakabuming Raka di Jakarta, 12 Januari 2024. (Foto: REUTERS/Willy Kurniawan)

Fika Juliana Putri, seorang penjaga toko berusia 19 tahun di Jakarta Timur, berencana untuk memilih mantan komandan jenderal Komando Pasukan Khusus (Kopassus) Prabowo Subianto pada pemilihan presiden pekan depan. Fika menyukai sosok Prabowo, katanya, karena dia tampak menggemaskan.

Versi kartun dari sosok Prabowo, yang dibuat dengan bantuan kecerdasan buatan atau AI, muncul dalam sejumlah papan reklame di seluruh Nusantara. Tak hanya dalam bentuk reklame, kartun Prabowo juga diproduksi dalam bentuk kaus dan stiker dengan tagar #Prabowo yang ditonton sekitar 19 miliar kali di aplikasi TikTok.

Prabowo saat ini masih menjabat sebagai menteri pertahanan. Namun di dunia maya, avatar AI-nya justru memunculkan wajah berpipi chubby dengan jari memberi isyarat membentuk hati ala Korea. Ia terlihat memeluk erat kucing kesayangannya, Bobby. Avatar tersebut dibuat untuk menarik perhatian pemilih Generasi Z, mengingat sekitar separuh dari total 205 juta pemilih di Indonesia berusia di bawah 40 tahun.

Pemilu pada 14 Februari mendatang memberikan gambaran sekilas tentang bagaimana AI generatif dapat mengubah kampanye politik berskala besar di negara demokrasi terbesar ketiga di dunia, kata para ahli.

Masyarakat berjalan melewati baliho Menteri Pertahanan dan calon Presiden Prabowo Subianto dan pasangannya Gibran Rakabuming Raka di Jakarta, 12 Januari 2024. (Foto: REUTERS/Willy Kurniawan)

Kartun yang dihasilkan oleh kecerdasan buatan ini menjadi titik fokus perubahan citra kampanye pilpres bagi Prabowo, yang saat ini berhasil memimpin sejumlah hasil jajak pendapat. Berbeda dengan citra nasionalis yang berapi-api sebagaimana dalam dua kali pencalonan presiden sebelumnya yang tidak berhasil, pada kali ini, pria berusia 72 tahun itu memperkenalkan slogan baru, yaitu "gemoy”, sebuah ungkapan dalam bahasa gaul yang berarti lucu dan menggemaskan.

“Saya pilih dia karena dia gemoy,” kata Putri, yang baru pertama kali menjadi pemilih. “Itulah alasan utamanya.”

Prabowo dan avatarnya yang diciptakan menggunakan teknologi dari perusahaan Amerika Serikat, Midjourney Inc, menjadi pionir dalam memimpin sejumlah besar kandidat dalam memanfaatkan alat kecerdasan buatan generatif untuk kampanye, memantau media sosial, mengembangkan chatbot interaktif, dan menargetkan pemilih.

Tim kampanye Prabowo dan Midjourney, yang berdasarkan pedomannya melarang digunakan untuk kampanye politik, tidak menanggapi permintaan komentar.

BACA JUGA: Amerika Siapkan Aturan Penggunaan AI dalam Iklan Politik

“Ini adalah pemilu pertama yang kami lihat memanfaatkan alat-alat ini dalam skala besar,” kata Katie Harbath, yang hingga 2021 menjabat sebagai pejabat tinggi kebijakan pemilu di Meta, dan sekarang menulis buletin tentang teknologi dan demokrasi.

Harbath menyatakan terkejut bahwa alat AI telah diadopsi dalam kampanye di Indonesia dengan begitu cepat. Namun ia menegaskan masih terlalu dini untuk menilai dampak pemilu secara keseluruhan dari penggunaan teknologi yang “belum pernah terjadi sebelumnya dan inovatif” tersebut.

Reuters mewawancarai 26 orang untuk menilai penggunaan teknologi AI dalam kampanye di Indonesia, termasuk penasihat politik, pelobi, eksekutif teknologi, pakar, dan seniman yang menciptakan gambar AI generatif untuk para politisi. Beberapa orang berbicara dengan syarat anonim karena mereka tidak berwenang untuk berbicara kepada media.

Mereka menggambarkan vendor dan tim kampanye mendorong batasan pedoman yang dikeluarkan oleh penyedia seperti Midjourney dan pemimpin pasar AI generatif, OpenAI. Pemerintah Indonesia sendiri belum merumuskan aturan yang mengikat mengenai penggunaan alat AI.

Pada tahun ini sejumlah negara yang menjadi rumah bagi sepertiga populasi dunia menggelar pemilu, termasuk Amerika Serikat dan India. Pilpres di Indonesia merupakan ujian bagi OpenAI tentang bagaimana menegakkan kebijakannya, menurut tujuh pelobi politik dan pakar.

Menteri Pertahanan sekaligus calon presiden Prabowo Subianto menyapa pendukungnya saat kampanye di Stadion Baharoeddin Siregar, Deli Serdang, Sumatera Utara, 7 Februari 2024. (Foto: Antara/Galih Pradipta via REUTERS)

Banyak alat AI yang digunakan dalam pemilu di Indonesia didukung oleh OpenAI, kata sembilan staf kampanye senior kepada Reuters. Alat itu termasuk platform Prabowo, menurut koordinator tim digitalnya.

Pemilik ChatGPT, yang berbasis di San Francisco, bulan lalu mengumumkan aturan yang melarang penggunaannya untuk kampanye politik di tengah ketakutan global akan campur tangan AI dalam pemilu. Hal itu termasuk larangan membuat gambar orang sungguhan, termasuk politisi.

OpenAI mengatakan bahwa pihaknya sedang menyelidiki chatbot dan alat politik yang diidentifikasi oleh Reuters di Indonesia menggunakan teknologinya. Tinjauan awal menemukan “tidak ada bukti” bahwa alat-alat tersebut digunakan dalam pemilu dan mereka berkomitmen terhadap transparansi dan meningkatkan informasi yang akurat.

Konsultan politik Yose Rizal mengatakan aplikasi Pemilu.AI yang ia kembangkan menggunakan perangkat lunak OpenAI GPT-4 dan 3.5 untuk menyusun strategi kampanye untuk wilayah lokal dan juga pidato kampanye.

Konsultan asal Indonesia itu mengaku telah menjual layanan aplikasi tersebut kepada 700 calon legislatif. Reuters tidak dapat mengonfirmasi penjualan tersebut secara independen.

Masyarakat berjalan melewati baliho Menteri Pertahanan dan calon Presiden Prabowo Subianto dan pasangannya Gibran Rakabuming Raka di Jakarta, 12 Januari 2024. (Foto: REUTERS/Willy Kurniawan)

Pemilu.AI mengumpulkan data demografi dan menelusuri media sosial dan situs berita, sehingga memungkinkannya menghasilkan pidato, slogan, dan konten media sosial yang disesuaikan dengan daerah pemilihan.

Para kandidat membuat daftar prioritas politik mereka dan memilih bagaimana mereka ingin digambarkan. Karakteristik yang paling diinginkan dari para politisi yang menggunakan Pemilu.AI di Indonesia, negara dengan mayoritas penduduk Muslim terbesar di dunia, adalah “rendah hati” dan “religius,” kata Rizal.

Ditanya tentang aturan OpenAI, Rizal mengatakan Pemilu.AI tidak terlibat “dalam pembuatan kampanye politik.” Ia menggambarkannya sebagai alat komunikasi untuk "mendukung proses pengambilan keputusan para kandidat."

Berikutnya: India

Selanjutnya, Rizal berencana untuk membawa platform tersebut ke India sebelum pemilihan umum pada Mei. “Karena Indonesia lebih dulu dari AS dan India… pemilu kali ini adalah pemanasan,” ujarnya.

Dia mengatakan Pemilu.AI bekerja sama erat dengan Microsoft, yang menampung perusahaan tersebut pada layanan cloud Azure, untuk memastikan operasinya mematuhi peraturan. Microsoft, yang merupakan investor besar di OpenAI, mengatakan pihaknya tidak mengomentari keterlibatan pelanggan.

Masyarakat berjalan melewati baliho Menteri Pertahanan dan calon Presiden Prabowo Subianto dan pasangannya Gibran Rakabuming Raka di Jakarta, 12 Januari 2024. (Foto: REUTERS/Willy Kurniawan)

Rizal mengaku sedang menguji coba versi Pemilu.AI pada AI Google, setelah didekati oleh tim penjualannya. Google mengonfirmasi bahwa Pemilu.AI telah melakukan pekerjaan awal dengan menggunakan AI-nya dan menjadi pelanggan layanan cloud. Google mengatakan tidak ada batasan dalam menggunakan chatbot Bard untuk kampanye politik, selain larangan terhadap misinformasi.

Pemilu di Indonesia sedang menguji batasan dari apa yang dianggap oleh beberapa perusahaan AI sebagai kampanye politik.

Peraturan OpenAI, yang diperbarui pada 10 Januari, melarang penggunaan teknologinya untuk kampanye atau lobi politik apa pun, termasuk menghasilkan materi kampanye yang dipersonalisasi atau ditargetkan untuk demografi tertentu.

Para pendukung penggunaan AI generatif dalam pemilu di Indonesia mengatakan bahwa AI telah memberikan akses kepada kandidat legislatif terhadap alat kampanye khusus yang seharusnya hanya diperuntukkan bagi kandidat utama yang memiliki anggaran lebih besar.

Penerapan AI yang berkelanjutan adalah hal yang wajar, kata Razi Thalib, yang memimpin tim digital calon presiden Anies Baswedan. “Mungkin hasil pemilu akan memberikan pembelajaran yang akan meningkatkan tingkat adopsi” di tempat lain, katanya.

Your browser doesn’t support HTML5

Aturan Penggunaan AI pada Kampanye Pemilu

Seorang penasihat Ganjar Pranowo membenarkan bahwa AI juga digunakan untuk “kampanye kreatifnya.

Jendral ‘Gemoy’

Prabowo, yang unggul 20 poin dalam jajak pendapat dan mendapat dukungan tersirat dari Presiden Joko Widodo, merupakan yang paling diuntungkan dari penggunaan AI generatif pada pemilihan kali ini. Ia memanfaatkannya untuk meningkatkan popularitasnya di kalangan Generasi Z.

Puluhan juta pemilih yang masih muda saat itu belum lahir ketika Prabowo diberhentikan dari Kopassus pada akhir 1990-an di tengah kontroversi tuduhan pelanggaran hak asasi manusia, yang selalu ia bantah.

Pendukung dapat memanfaatkan aplikasi kampanye Prabowo untuk menyertakan diri mereka dalam adegan yang dibuat oleh AI, misalnya, berkeliling di hutan bersama politisi yang mengenakan pakaian safari, dan kemudian membagikannya di media sosial.

“Ada yang bilang AI tidak bagus untuk politik, tapi AI membuat orang tertarik,” kata Adriansyah, seniman berusia 25 tahun. Ia bersama istrinya, Lusi Yulistia, ditugaskan untuk membuat karya seni Midjourney karya Prabowo dan pasangannya, Gibran Rakabuming Raka.

BACA JUGA: Profil Parpol: Ambisi Gerindra Menjadi Penguasa Senayan

Survei pada Januari yang dilakukan oleh lembaga survei Indikator Politik menemukan bahwa Prabowo memperoleh lebih dari 60% suara dari Gen Z. Ia juga merupakan kandidat paling populer di kalangan milenial, dengan 42% dukungan mereka.

Kelompok relawan kampanye ini meluncurkan platform AI generatif PrabowoGibran.ai pada Desember untuk membantu 15.000 relawan “pasukan siber” melacak sentimen online dan membagikan karya seni yang dihasilkan AI di media sosial.

Koordinator nasional tim kampanye digital Prabowo-Gibran, Anthony Leong, mengatakan kepada Reuters bahwa platform tersebut menggunakan teknologi OpenAI dan perangkat lunak internal.

“Benar, aplikasi itu punya keterbatasan terkait konten politik," kata Lusi merujuk pada Midjourney. “Intinya, saya hanya menggunakan aplikasi tersebut untuk mengubah karakter foto asli menjadi tema tertentu,” tukasnya.

AI di Mana-mana

Kampanye Anies pada Januari meluncurkan chatbot WhatsApp bertenaga OpenAI yang menjawab pertanyaan tentang kebijakannya.

BACA JUGA: ‘Kencan Singkat’ Bareng Caleg di Festival Pemilu: “Ternyata Tak Seperti yang Dilihat di Medsos”

Chatbot tersebut muncul setelah kubu Prabowo mengeluarkan chatbot serupa. Namun chatbot Prabowo dihentikan tak lama setelah peluncurannya pada Desember lalu karena secara keliru menyebut Pancasila memiliki tujuh sila, bukan lima. Dan kini chatbot tersebut belum diaktifkan kembali.

Tim kampanye Ganjar menerapkan dasbor yang menggunakan teknologi OpenAI dan menelusuri data online untuk memprediksi pokok pembicaraan dan memberikan peringatan media sosial secara real-time mengenai kandidat tersebut, kata penasihat Andi Widjajanto.

Salah satu contoh kontroversial penggunaan AI muncul pada Januari, ketika Partai Golkar, yang mendukung Prabowo, merilis video “deepfake” yang menampilkan mendiang mantan presiden Suharto yang mendesak para pemilih untuk mendukung kandidatnya. Klip yang berisi pesan kampanye ditandai sebagai buatan AI.

BACA JUGA: Penggunaan Teknologi “AI” Jadi Kontroversi, Seniman Digital Indonesia: Sesuatu yang Tak Bisa Dihindari

Tim Advokasi Peduli Pemilu (TAPP), sebuah organisasi nirlaba yang berbasis di Jakarta, mengatakan dalam sebuah pernyataan bahwa video tersebut, yang masih beredar online, menunjukkan potensi manipulasi pemilih oleh AI.

Dara Nasution, pejabat tinggi digital Golkar, menyebut video tersebut sebagai "pesan positif".

Gambar Suharto dibuat dengan Midjourney dan aplikasi pencitraan Leonardo AI, sementara suaranya dibuat menggunakan perangkat lunak kloning suara asal AS, ElevenLabs, yang dikombinasikan dengan teknologi internal, katanya.

Leonardo AI dan ElevenLabs tidak menjawab permintaan komentar.

Tiga pengamat pemilu mengatakan kepada Reuters bahwa mereka belum melihat AI digunakan untuk menyebarkan misinformasi dan disinformasi dalam skala besar selama pemilu.

“Disinformasi masih terbatas dibandingkan Pemilu 2019,” kata Aribowo Sasmito, salah satu pendiri organisasi pengecekan fakta Mafindo. [ah/rs]