Karakter.ai, platform chatbot terkemuka yang menghadapi tuntutan hukum yang terkait dengan masalah keselamatan pemuda, memperkenalkan alat pengawasan baru yang dirancang untuk memberi orang tua mengintip bagaimana anak -anak mereka menggunakan produk tersebut.
Fitur “wawasan orang tua” dimaksudkan untuk pengasuh yang anak -anaknya lebih muda dari 18 tahun. Alat ini dapat diakses melalui preferensi akun anak. Dari sana, pengguna harus menambahkan alamat email orang dewasa dan kemudian mengundang mereka untuk menerima laporan aktivitas mingguan yang disusun oleh Character.ai.
American Psychological Association terdengar khawatir atas chatbots AI tertentu
Laporan ini mencakup waktu rata -rata harian yang dihabiskan untuk platform, di ponsel dan web; daftar karakter teratas yang sering dilakukan remaja; dan waktu yang dihabiskan dengan setiap karakter. Laporan tidak termasuk transkrip obrolan pengguna dengan teman mereka.
Jika remaja memutuskan untuk mencabut akses orang tua mereka ke data ini, mereka dapat melakukannya melalui akun mereka tetapi permintaan itu harus dikonfirmasi oleh orang dewasa.
Laporan Tren Mashable
Karakter.ai menggambarkan fitur tersebut sebagai “langkah pertama” untuk memberikan informasi kepada orang tua tentang aktivitas anak mereka di platform. Dalam beberapa bulan terakhir, perusahaan telah menerapkan sejumlah upaya keselamatan baru, termasuk model terpisah untuk remaja, serta pengungkapan bahwa karakter bukan orang sungguhan.
Perubahan itu terjadi setelah dua tuntutan hukum terhadap karakter.ai, menuduh bahwa produk tersebut secara unik merugikan anak -anak yang terlibat dengannya.
Pada bulan Oktober, ibu yang berduka Megan Garcia mengajukan gugatan setelah putranya, Sewell Setzer III, meninggal karena bunuh diri setelah komunikasi intens dengan karakter di platform. Pada bulan Desember, dua ibu di Texas mengajukan gugatan lain terhadap karakter.ai menuduh bahwa perusahaan dengan sengaja membuat anak -anak mereka terkena konten yang berbahaya dan seksual.
Perusahaan mengatakan dalam pengumumannya tentang fitur wawasan orang tua bahwa mereka akan terus menyempurnakan alat ini: “Kami akan terus mendengarkan remaja, orang tua mereka, dan organisasi keselamatan remaja terkemuka saat kami mengembangkan alat wawasan orang tua kami untuk secara paling efektif memenuhi kebutuhan komunitas kami.”