Gubernur California Gavin Newsom memveto rancangan undang-undang bersejarah yang disusun untuk mengatur langkah-langkah pengamanan bagi model kecerdasan buatan (AI) berskala besar, pada Minggu (29/9). Undang-undang itu seharusnya menjadi dasar regulasi AI pertama di AS.
Keputusan itu merupakan pukulan telak bagi upaya untuk mengendalikan industri AI di negara bagian California, yang berkembang pesat dengan pengawasan yang minim. RUU tersebut seharusnya menjadi dasar regulasi model AI berskala besar pertama di Amerika Serikat dan membukakan jalan bagi disusunnya peraturan keamanan AI di seantero AS, kata para pendukung RUU tersebut.
Pada awal September, gubernur dari Partai Demokrat itu mengatakan di hadapan hadirin Dreamforce, konferensi tahunan yang digelar oleh raksasa perangkat lunak Salesforce, bahwa California harus memimpin pengaturan teknologi AI mengingat lambannya pemerintah federal menangani hal tersebut. Namun, Newsom menyebut RUU yang telah diajukan “dapat memiliki dampak yang mengerikan pada industri” tersebut.
RUU yang ditentang keras oleh berbagai perusahaan rintisan, raksasa teknologi dan beberapa anggota DPR dari Partai Demokrat itu dapat merugikan industri dalam negeri bila ditetapkan dengan berbagai persyaratan yang kaku, kata Newsom.
“Meskipun niatnya baik, SB 1047 tidak memperhitungkan apakah sebuah sistem AI diterapkan di lingkungan berisiko tinggi, melibatkan pengambilan keputusan penting, atau penggunaan data sensitif,” kata Newsom dalam pernyataannya, merujuk pada nama RUU tersebut. “Alih-alih, RUU itu malah menerapkan standar yang ketat bahkan untuk fungsi yang paling mendasar sekalipun – asalkan sistem besarnya menerapkannya. Saya tidak yakin ini adalah pendekatan terbaik untuk melindungi masyarakat dari ancaman nyata yang ditimbulkan oleh teknologi tersebut.”
Pada Minggu, Newsom justru mengumumkan bahwa pemerintahannya akan bermitra dengan beberapa pakar industri AI, termasuk pelopor kecerdasan buatan, Fei-Fei Li, untuk mengembangkan protokol seputar model AI yang canggih. Sebagai informasi, Li menentang RUU keamanan AI.
RUU yang bertujuan untuk mengurangi potensi risiko akibat AI itu semula akan mewajibkan perusahaan untuk menguji model AI mereka dan secara terbuka mengungkap protokol keamanan mereka untuk mencegah model-modelnya dimanipulasi, misalnya untuk memusnahkan jaringan listrik negara bagian atau membantu pembuatan senjata kimia. Pakar mengatakan, skenario-skenario itu mungkin terjadi di masa depan, seiring industri yang terus berkembang dengan cepat.
RUU itu juga semula akan memberikan perlindungan saksi pelapor (whistleblower protections) kepada pekerja.
Legislasi yang diveto Newsom merupakan satu dari banyak rancangan undang-undang yang diloloskan badan legislatif tahun ini untuk mengatur AI, memerangi deepfake dan melindungi pekerja. Para anggota legislatif mengatakan, California harus mengambil tindakan tahun ini, mengingat pelajaran berat yang harus mereka hadapi ketika gagal mengendalikan perusahaan media sosial ketika mereka memiliki kesempatan.
Pendukung RUU tersebut, termasuk Elon Musk dan Anthropic, mengatakan bahwa regulasi itu dapat memberikan transparansi dan akuntabilitas mengenai model-model AI berskala besar, ketika para pengembang dan pakar mengaku masih tidak memiliki pemahaman penuh tentang bagaimana dan apa motif model AI dalam berperilaku. RUU itu semula menyasar sistem-sistem yang dibangun dengan dana di atas $100 juta (sekitar Rp1,5 triliun). Belum ada model AI yang melewati plafon itu, tapi beberapa pakar mengatakan hal itu bisa berubah dalam setahun ke depan.
“Ini karena peningkatan investasi besar-besaran dalam industri ini,” kata Daniel Kokotajlo, mantan peneliti OpenAI yang mengundurkan diri April lalu karena apa yang dianggapnya sebagai ketidakpedulian perusahaan terhadap risiko AI. “Merupakan kekuatan yang luar biasa besar bagi sebuah perusahaan swasta untuk memegang kendali tanpa pertanggungjawaban, dan juga merupakan hal yang luar biasa berisiko.”
Amerika Serikat sudah tertinggal dari Eropa dalam meregulasi AI untuk membatasi risiko. RUU California sendiri tidak sekomprehensif regulasi di Eropa, tapi dapat menjadi langkah baik pertama untuk menetapkan panduan seputar teknologi yang berkembang pesat dan meningkatkan kekhawatiran tentang pemutusan hubungan kerja, disinformasi, pelanggaran privasi dan bias otomatisasi, kata para pendukungnya.
Sejumlah perusahaan AI tahun lalu secara sukarela mengikuti panduan yang ditetapkan oleh Gedung Putih, seperti menguji dan membagikan informasi mengenai model-model mereka. RUU California semula akan mewajibkan para pengembang AI untuk mengikuti persyaratan yang sama seperti yang ditetapkan Gedung Putih, kata pendukung RUU tersebut.
Akan tetapi, para penentangnya, termasuk mantan Ketua DPR AS Nancy Pelosi, mengatakan bahwa RUU itu akan “membunuh industri teknologi California” dan menghambat inovasi. RUU tersebut akan membuat pengembang AI enggan berinvestasi dalam model besar atau berbagi perangkat lunak sumber terbuka (open-source software), ungkap mereka.
Keputusan Newsom untuk memveto RUU itu menjadi kemenangan berikutnya di California bagi berbagai raksasa teknologi dan pengembang AI, yang banyak di antaranya menghabiskan setahun terakhir bersama Kamar Dagang California untuk melobi gubernur dan para anggota legislatif agar tidak menggolkan regulasi AI.
Dua proposal AI lain, yang juga mendapat tentangan keras dari industri teknologi dan lainnya, gagal sebelum mencapai tenggat legislatif pada bulan Agustus. Rancangan-rancangan UU itu mulanya akan mewajibkan para pengembang AI untuk melabeli konten-konten hasil AI dan melarang diskriminasi dalam perangkat AI yang digunakan dalam pengambilan keputusan ketenagakerjaan.
Pada awal musim panas lalu, Newsom mengaku ingin melindungi status California sebagai pemimpin dunia dalam industri AI, mengingat 32 dari 50 perusahaan AI terbaik dunia berlokasi di negara bagiannya.
Meskipun Newsom memveto RUU Keamanan AI, rancangan undang-undang itu menginspirasi para pengambil kebijakan di negara-negara bagian lain di AS untuk membuat kebijakan serupa, kata Tatiana Rice, wakil direktur Forum Masa Depan
Privasi, lembaga nirlaba yang bekerja sama dengan pembuat kebijakan dalam penyusunan RUU soal teknologi dan data pribadi.
“Mereka mungkin akan menyalinnya atau melakukan hal serupa pada sesi legislatif berikutnya,” kata Rice. “Jadi RUU ini akan tetap diperjuangkan.” [rd/ka]
Forum