Tahun ini, Departemen Kehakiman Amerika Serikat telah mengajukan dua kasus pidana terhadap sejumlah terdakwa yang dituduh menggunakan sistem AI generatif, yaitu sistem yang membuat teks atau gambar sesuai perintah penggunanya, untuk menciptakan gambar-gambar tidak senonoh bermuatan anak.
“Ada lebih banyak lagi,” kata James Silver, kepala bagian Kejahatan Komputer dan Kekayaan Intelektual Departemen Kehakiman Amerika Serikat, yang memperkirakan akan ada lebih banyak kasus serupa ke depan.
“Yang kami khawatirkan adalah normalisasi tindakan ini,” kata Silver dalam sebuah wawancara. “AI memudahkan pembuatan gambar-gambar semacam ini. Semakin banyak yang beredar, semakin dinormalisasi hal ini. Itu yang sangat ingin kami cegah dan tangani.”
Kebangkitan teknologi AI generatif telah memicu kekhawatian Departemen Kehakiman akan kemungkinan penggunaan teknologi yang berkembang pesat itu untuk melakukan serangan siber, meningkatkan kecanggihan para penipu mata uang kripto, serta merusak keamanan pemilu.
Your browser doesn’t support HTML5
Kekhawatiran soal Maraknya Pornografi "Deepfake" di Media Sosial
Kedua kasus pelecehan seksual anak yang diajukan Departemen Kehakiman itu menandai pertama kalinya para jaksa mencoba menggunakan undang-undang yang sudah berlaku di Amerika Serikat untuk menjerat tindak pidana yang melibatkan AI.
Seandainya kasus-kasus itu berakhir dengan hukuman bagi para pelaku, putusan itu masih dapat menghadapi banding, karena pengadilan mempertimbangkan bagaimana teknologi baru itu dapat mengubah lansekap hukum seputar eksploitasi anak.
Baik jaksa maupun aktivis kesejahteraan anak mengatakan, sistem AI generatif dapat memungkinkan pelaku pidana mengubah dan menjadikan foto anak-anak biasa sebagai objek seksual. Mereka juga memperingatkan bahwa penyebaran konten yang diproduksi AI akan mempersulit penegak hukum untuk mengidentifikasi dan menemukan korban pelecehan yang sebenarnya.
Pusat Nasional untuk Anak Hilang dan Tereksploitasi, sebuah kelompok nirlaba yang mengumpulkan informasi tentang eksploitasi anak di dunia maya, menerima rata-rata 450 laporan setiap bulan terkait dengan AI generatif, menurut Yiota Souras, kepala bagian hukum kelompok tersebut.
Angka itu hanya sebagian kecil dari rata-rata 3 juta laporan eksploitasi anak daring secara keseluruhan yang diterima kelompok tersebut setiap bulannya pada tahun lalu. [rd/ab]