Dalam sebuah video iklan politik dari “DeSantis WarRoom” atau kampanye kandidat presiden DeSantis, para pengamat menuduh iklan tersebut memasukkan sebuah foto deepfake (yang dimanipulasi atau diubah secara digital) yang memperlihatkan mantan Presiden Trump merangkul mantan penasihat medisnya Dr. Anthony Fauci.
DeSantis adalah gubernur Florida yang bersaing melawan Trump dalam memperebutkan nominasi calon presiden Partai Republik.
Foto ini kemudian diselidiki oleh Verify, sebuah prakarsa untuk debunking disinformasi, yang memanfaatkan alat reverse images atau penelusuran foto untuk membuktikan bahwa foto itu palsu.
Casey Decker, reporter yang bekerja untuk Verify mengatakan, “Kalau Anda teliti foto itu secara lebih cermat, Anda bisa melihat bukti bahwa foto ini dihasilkan oleh AI. Nama Gedung Putih salah penyebutannya, dan menjadi Mephap. AI sering kesulitan menuliskan teks secara akurat. Dan dalam foto ini, tangan Trump tidak kelihatan jempolnya.”
Dengan semakin besarnya kekuatan generatif AI, maka jenis foto palsu seperti ini juga bertambah dan ditujukan untuk mengelabui pemilih, kata Lisa Gilbert dari Public Citizen, sebuah LSM advokasi konsumen.
“Salah satu hal yang mampu dilakukan kecerdasan buatan ini, khususnya generatif AI, adalah dengan menciptakan video atau audio palsu yang sekilas tampak seakan-akan asli, sulit untuk membedakannya dari video aslinya,” ujar Gilbert.
Akibatnya, Public Citizen meminta kepada Komisi Pemilihan Federal AS atau FEC agar menyusun peraturan untuk iklan-iklan politik yang menggunakan foto-foto palsu dan dihasilkan komputer karena akan menyajikan secara salah pandangan politik seorang kandidat, yang merupakan sebuah pelanggaran hukum.
Pada 22 Juni komisi yang menegakkan peraturan pemilihan AS itu melakukan pemungutan suara dan memutuskan bahwa FEC tidak bisa melakukan penindakan.
Komisioner FEC, Allen Dickerson, yang diangkat oleh mantan presiden Trump, mengatakan dalam pertemuan itu bahwa FEC tidak punya yurisdiksi atas permasalahan itu.
“Kongres memberi kami wewenang yang sangat terbatas. Yurisdiksi kami saat ini terbatas pada kasus-kasus di mana sebuah kampanye secara curang menggambarkan dirinya bertindak, mengutip, atas nama kandidat lain. Public Citizen harus melaporkan masalah ini kepada Kongres," kata Dickerson.
Public Citizen menyebut keengganan FEC ini sebagai “kegagalan yang mengejutkan sekalipun FEC dari dulu sudah terkenal sebagai sebuah lembaga yang tidak bernyali."
“Seperti ketika internet baru terbentuk, kita menyaksikan sebuah perubahan besar. Bayangkan ketika internet masih baru, dan kita tahu dampaknya sebagaimana yang kita lihat sekarang, dan kita mampu menciptakan pembatas yang tepat guna melindungi pengguna. Momen mirip seperti itu juga kita hadapi sekarang,” tambah Gilbert.
Saat ini ada sebuah RUU di Kongres yang mewajibkan iklan politik untuk memberitahukan jika generatif AI digunakan untuk menciptakan foto atau video. [jm/lt]
Forum