Setelah baru -baru ini menjanjikan langkah -langkah keselamatan baru untuk remaja, Openai memperkenalkan kontrol orang tua baru untuk chatgpt. Pengaturan memungkinkan orang tua untuk memantau akun remaja mereka, serta membatasi jenis penggunaan tertentu, seperti obrolan suara, memori, dan pembuatan gambar.
Perubahan debut sebulan setelah dua orang tua yang berduka menuntut Openai atas kematian putra mereka yang salah, Adam Raine, awal tahun ini. Gugatan itu menuduh bahwa chatgpt bercakap -cakap dengan putra mereka tentang perasaan dan perilakunya yang bunuh diri, memberikan instruksi eksplisit tentang cara mengambil nyawanya sendiri, dan mengecilkan hati dia dari mengungkapkan rencananya kepada orang lain.
Keluhan tersebut juga berpendapat bahwa fitur desain ChatGPT, termasuk nada sycophantic dan tingkah laku antropomorfik, secara efektif bekerja untuk “menggantikan hubungan manusia dengan kepercayaan buatan” yang tidak pernah menolak permintaan.
Perguruan tinggi memberi siswa chatgpt. Apakah aman?
Dalam sebuah posting blog tentang kontrol orang tua yang baru, Openai mengatakan bahwa mereka bekerja dengan para ahli, kelompok advokasi, dan pembuat kebijakan untuk mengembangkan perlindungan.
Untuk menggunakan pengaturan, orang tua harus mengundang anak remaja mereka untuk menghubungkan akun. Pengguna remaja harus menerima undangan, dan mereka juga dapat membuat permintaan yang sama dari orang tua mereka. Orang dewasa akan diberitahu jika seorang remaja melepaskan akun mereka di masa depan.
Setelah akun terhubung, perlindungan otomatis diterapkan pada akun remaja. Pembatasan konten ini termasuk berkurangnya paparan materi grafis, cita -cita kecantikan yang ekstrem, dan roleplay seksual, romantis, atau kekerasan. Sementara orang tua dapat mematikan pembatasan ini, remaja tidak dapat melakukan perubahan itu.
Orang tua juga akan dapat membuat pilihan khusus untuk penggunaan anak remaja mereka, seperti menunjuk jam tenang di mana chatgpt tidak dapat diakses; Mematikan memori dan mode suara; dan menghapus kemampuan pembuatan gambar. Orang tua tidak dapat melihat atau mengakses log obrolan remaja mereka.
Laporan Tren Mashable
Yang penting, Openai masih menetapkan akun remaja untuk digunakan dalam pelatihan model. Orang tua harus memilih keluar dari pengaturan itu jika mereka tidak ingin Openai menggunakan interaksi anak remaja mereka dengan chatgpt untuk melatih lebih lanjut dan meningkatkan produk mereka.
Ketika datang untuk menangani situasi sensitif di mana remaja berbicara dengan chatgpt tentang kesehatan mental mereka, Openai telah menciptakan sistem pemberitahuan sehingga orang tua dapat belajar jika ada sesuatu yang “benar -benar salah.”
Meskipun Openai tidak menggambarkan fitur teknis dari sistem ini dalam posting blognya, perusahaan mengatakan bahwa mereka akan mengenali tanda -tanda potensial bahwa seorang remaja berpikir untuk melukai diri mereka sendiri. Jika sistem mendeteksi niat itu, tim “orang terlatih khusus” meninjau keadaan. Openai akan menghubungi orang tua dengan metode pilihan mereka – email, pesan teks, dan dorong peringatan – jika ada tanda -tanda kesulitan akut.
“Kami bekerja dengan ahli kesehatan mental dan remaja untuk merancang ini karena kami ingin memperbaikinya,” kata Openai dalam posnya. “Tidak ada sistem yang sempurna, dan kami tahu kami kadang -kadang mungkin meningkatkan alarm ketika tidak ada bahaya nyata, tetapi kami pikir lebih baik bertindak dan mengingatkan orang tua sehingga mereka dapat melangkah daripada tetap diam.”
Openai mencatat bahwa itu sedang mengembangkan protokol untuk menghubungi penegakan hukum dan layanan darurat dalam kasus -kasus di mana orang tua tidak dapat dihubungi, atau jika ada ancaman segera terhadap kehidupan remaja.
Robbie Torney, direktur senior program AI di Common Sense Media, mengatakan dalam posting blog bahwa kontrol adalah “titik awal yang baik.”
Torney baru -baru ini bersaksi dalam sidang Senat tentang bahaya AI Chatbots. Pada saat itu, ia merujuk gugatan Raine dan mencatat bahwa Chatgpt terus melibatkan Adam Raine dalam diskusi tentang bunuh diri, daripada mencoba mengarahkan kembali pembicaraan.
Setelah kehilangan putra mereka, orang tua mendesak Senat untuk mengambil tindakan di AI Chatbots
“Meskipun Adam menggunakan versi berbayar dari ChatGPT – yang berarti Openai memiliki informasi pembayarannya dan dapat menerapkan sistem untuk mengidentifikasi pola tentang dan menghubungi keluarganya selama krisis kesehatan mental – perusahaan tidak memiliki mekanisme intervensi seperti itu,” kata Torney dalam kesaksiannya.
Pada sidang yang sama, Dr. Mitch Prinstein, Kepala Psikologi di American Psychological Association, bersaksi bahwa Kongres harus mengharuskan sistem AI yang dapat diakses oleh anak-anak dan remaja untuk menjalani “pengujian pra-penempatan yang ketat, mandiri, pra-penempatan untuk potensi kerusakan pada pengembangan psikologis dan sosial pengguna.”
Prinstein juga menyerukan pembatasan fitur desain manipulatif atau persuasif yang memaksimalkan keterlibatan chatbot.