Korban AI Lawan Peredaran Gambar Tak Senonoh dan Lemahnya Aturan Hukum

Insiden di Westfield, sebuah kota tak jauh dari New York City, kembali menyoroti materi-materi eksplisit yang dihasilkan artificial intelligence atau kecerdasan buatan yang sangat merugikan perempuan dan anak perempuan. Hasil buatan AI ini booming, melesat di dunia maya hingga ke tingkat yang belum pernah terjadi sebelumnya.

Sejumlah peneliti telah berulangkali memperingatkan mengenai potensi meningkatnya materi pelecehan seksual terhadap anak-anak yang dihasilkan AI di dark web atau dunia maya yang kelam, dan beratnya beban para penegak hukum jika tidak ada langkah-langkah serius yang diambil untuk membendung gelombang itu.

Selebritas, pejabat publik, dan bahkan orang dewasa pada umumnya, telah semakin menjadi sasaran pihak-pihak yang memanipulasi gambar mereka menggunakan teknologi AI baru, atau aplikasi dan situs web yang secara terbuka mengiklankan layanan mereka.

Logo alfabet dan kata-kata Artificial Intelligence terlihat dalam ilustrasi yang diambil, 4 Mei 2023. (Foto: REUTERS/Dado Ruvic)

Meskipun gambar-gambat buat AI sudah ada beberapa tahun ini, kemajuan AI yang sangat cepat semakin menyulitkan untuk membedakan mana yang nyata dan tidak. Berbagai undang-undang negara bagian telah diterapkan untuk menjadikan tindakan menyebarluaskan konten semacam ini sebagai sebuah bentuk kejahatan yang dapat dikenai sanksi.

Namun mereka yang mendukung “kreativitas” AI dan pakar yang mengkaji masalah ini menyerukan perbaikan aturan yang dapat memberi perlindungan kepada semua pihak dengan tetap mengirim pesan yang kuat kepada pelaku dan calon pelaku.

Wall Street Journal Laporkan Insiden Gambar AI Tak Senonoh

Fransesca, putri Dorota Mani, adalah salah satu korban di Westfield. Dalam wawancara dengan Associated Press, Mani mengatakan masih banyak tindakan yang seharusnya dapat dilakukan untuk meningkatkan kesadaran tentang apa yang terjadi dan memastikan adanya aturan hukum yang melindungi anak-anak

“Saya kira ini saat untuk benar-benar menyatukan kita karena kita berjuang untuk anak-anak kita. Mereka bukan anggota Partai Republik atau Partai Demokrat. Mereka tidak peduli dengan semua itu. Mereka hanya ingin dicintai dan rasa aman. Merupakan tanggung jawab kita semua untuk memenuhi keinginan itu.”

Surat kabar Wall Street Journal adalah yang pertama kali melaporkan insiden di Westfield, yang terjadi pada musim panas lalu. Juru bicara SMA Westfield Mary Ann McGann mengatakan baru mengetahui insiden itu pada 20 Oktober. Ia tidak merinci apa gambar yang dihasilkan AI dan bagaimana dapat menyebar dengan cepat.

Namun Mani mengatakan ia menerima telepon dari pihak sekolah yang memberitahu bahwa gambar telanjang yang menggunakan wajah beberapa siswi, termasuk putrinya, telah beredar di antara sekelompok orang di internet lewat aplikasi media sosial Snapchat.

Mani juga mengatakan sejumlah siswa telah dimintai keterangan oleh sekolah dan polisi Westfield, dan sedikitnya satu siswa diskors selama satu hari.

Namun pihak sekolah belum mengonfirmasi tindakan disipliner apapun dengan alasan kerahasiaan masalah yang melibatkan siswa di bawah umur. Polisi Westfield dan Kejaksaan Union County, yang juga diberitahu tentang insiden ini, tidak menjawab permohonan wawancara melalui telepon atau email.

Logo OpenAI ditampilkan di ponsel dengan gambar di monitor komputer yang dihasilkan oleh model text-to-image Dall-E ChatGPT, Jumat, 8 Desember 2023, di Boston. (Foto: AP)

Pada tanggal 20 Oktober itu, hari yang sama ketika sekolah mengetahui kejadian tersebut, Kepala SMA Westfield Mary Asfendis menulis melalui email kepada seluruh orang tua bahwa pihak berwenang yakin gambar-gambar AI yang tidak senonoh itu sudah dihapus dan tidak lagi beredar.

Namun Senator Negara Bagian New Jersey Jon Bramnick, yang berasal dari Partai Republik dan mewakili Westfield, mengatakan email itu tidak serta merta menenangkan orang tua yang khawatir dengan insiden itu. Mani mengatakan pernyataan sekolah itu “sangat bodoh.”

Badan Amal dan Situs Bagi Korban AI

Beberapa minggu kemudian, Fransesca, yang dikenal sebagai siswa dan pemain anggar terbaik, membuat situs web dan membentuk badan amal untuk membantu korban AI.

“Fransesca mendapat dukungan dari komunitasnya. Tetapi jangan lupa, pelaku masih berkeliaran di luar sana dan hingga hari ini tidak ada satu orang pun yang ditangkap atau dilarang beraktivitas bersama gadis-gadis ini. Jadi tentu saja hal ini masih membuat putri saya tidak nyaman," ujar Mani.

"Ia menyampaikan hal ini juga di beberapa kesempatan. Ia juga mengatakan betapa ia merasa telah dikhianati oleh pihak sekolah karena meskipun ada kebijakan tentang pelecehan siber yang dipasang di situs sekolah, tetapi tidak ada tindakan apapun yang diambil dalam kasusnya dan semua berpura-pura seakan-seakan semua OK. Orang hanya meminta dia mengikuti konseling. Tapi saya katakan padanya, kamu harus kembali sekolah, tidak hanya ke konseling, karena apa tujuan konseling jika kamu tidak melanjutkan sekolah?” tambahnya.

Insiden di Westfield ini sedianya menjadi tamparan keras untuk mengingatkan bahaya AI pada anak-anak dan minimnya aturan hukum untuk melindungi mereka. [em/jm]