Setelah mendapat kecaman terus-menerus dari para pendukung keselamatan anak, keluarga, dan politisi, Gubernur California Gavin Newsom menandatangani undang-undang yang dirancang untuk mengekang perilaku chatbot AI yang menurut para ahli tidak aman atau berbahaya, terutama bagi remaja.
Undang-undang tersebut, yang dikenal sebagai SB 243, mewajibkan operator chatbot untuk mencegah produk mereka memaparkan konten seksual kepada anak di bawah umur, sekaligus secara konsisten mengingatkan pengguna bahwa chatbot bukanlah manusia. Selain itu, perusahaan yang tunduk pada hukum harus menerapkan protokol untuk menangani situasi di mana pengguna mendiskusikan ide bunuh diri, bunuh diri, dan tindakan menyakiti diri sendiri.
Senator negara bagian Steve Padilla, seorang Demokrat yang mewakili San Diego, menulis dan memperkenalkan RUU tersebut awal tahun ini. Pada bulan Februari, dia mengatakan kepada Mashable bahwa SB 243 dimaksudkan untuk mengatasi masalah keamanan mendesak yang muncul pada chatbot AI. Mengingat evolusi dan penerapan teknologi yang cepat, Padilla mengatakan “pagar pembatas peraturan masih jauh tertinggal.”
Perguruan tinggi memberikan ChatGPT kepada siswa. Apakah aman?
Common Sense Media, sebuah kelompok nirlaba yang mendukung anak-anak dan orang tua saat mereka menavigasi media dan teknologi, menyatakan bahwa pendamping chatbot AI tidak aman bagi remaja di bawah 18 tahun pada awal tahun ini.
Komisi Perdagangan Federal baru-baru ini meluncurkan penyelidikan terhadap chatbot yang bertindak sebagai pendamping. Bulan lalu, agensi tersebut memberi tahu perusahaan-perusahaan besar yang memiliki produk chatbot, termasuk OpenAI, Alphabet, Meta, dan Character Technologies, bahwa mereka mencari informasi tentang cara mereka memonetisasi keterlibatan pengguna, menghasilkan keluaran, dan mengembangkan apa yang disebut karakter.
Sebelum berlakunya SB 243, Padilla menyesalkan bagaimana mitra chatbot AI dapat secara unik merugikan pengguna muda: “Teknologi ini dapat menjadi alat pendidikan dan penelitian yang kuat, namun jika dibiarkan sendiri, Industri Teknologi akan diberi insentif untuk menarik perhatian generasi muda dan mempertahankannya dengan mengorbankan hubungan mereka di dunia nyata.”
Laporan Tren yang Dapat Dihancurkan
California memberi lampu hijau pada keamanan AI, perlindungan data, dan ketenangan Netflix
Tahun lalu, ibu yang berduka, Megan Garcia, mengajukan tuntutan kematian yang tidak wajar terhadap Character.AI, salah satu platform chatbot pendamping AI paling populer. Putranya, Sewell Setzer III, meninggal karena bunuh diri setelah pertunangan berat dengan rekan Character.AI. Gugatan tersebut menuduh bahwa Character.AI dirancang untuk “memanipulasi Sewell – dan jutaan pelanggan muda lainnya – untuk menggabungkan kenyataan dan fiksi,” di antara cacat berbahaya lainnya.
Garcia, yang melobi atas nama SB 243, memuji penandatanganan Newsom.
“Saat ini, California telah memastikan bahwa chatbot pendamping tidak akan dapat berbicara dengan anak-anak atau individu yang rentan tentang bunuh diri, dan chatbot juga tidak akan dapat membantu seseorang merencanakan bunuh diri,” kata Garcia dalam sebuah pernyataan.
SB 243 juga mewajibkan platform chatbot pendamping untuk membuat laporan tahunan tentang hubungan antara penggunaan produk mereka dan ide bunuh diri. Hal ini memungkinkan keluarga untuk melakukan tindakan hukum pribadi terhadap “pengembang yang tidak patuh dan lalai”.
California dengan cepat menjadi pemimpin dalam regulasi teknologi AI. Pekan lalu, Gubernur Newsom menandatangani undang-undang yang mewajibkan laboratorium AI untuk mengungkapkan potensi bahaya pada teknologi mereka serta informasi tentang protokol keselamatan mereka.
Seperti yang dilaporkan Chase DiBenedetto dari Mashable, RUU ini dimaksudkan untuk “menjaga akuntabilitas pengembang AI terhadap standar keselamatan bahkan ketika menghadapi tekanan persaingan dan mencakup perlindungan bagi calon pelapor.”
Pada hari Senin, Newsom juga menandatangani dua undang-undang terpisah yang bertujuan untuk meningkatkan keamanan anak online. AB 56 mewajibkan label peringatan untuk platform media sosial, yang menyoroti dampak kecanduan media sosial terhadap kesehatan mental dan kesejahteraan anak-anak. RUU lainnya, AB 1043, menerapkan persyaratan verifikasi usia yang akan mulai berlaku pada tahun 2027.