“Anda tidak dapat membayangkan bagaimana rasanya membaca percakapan dengan chatbot yang merawat anak Anda untuk mengambil nyawanya sendiri,” Matthew Raine, ayah Adam Raine, mengatakan kepada sebuah kamar para pemimpin kongres yang berkumpul yang berkumpul hari ini untuk membahas kerusakan chatbots AI pada remaja di seluruh negeri.
Raine dan istrinya Maria menggugat Openai dalam kasus kematian salah pertama perusahaan itu, mengikuti serangkaian dugaan laporan bahwa produk andalan perusahaan, ChatGPT, telah memainkan peran dalam kematian orang -orang dalam tekanan mental, termasuk remaja. Gugatan tersebut mengklaim bahwa ChatGpt berulang kali memvalidasi pemikiran berbahaya dan merusak diri sendiri, termasuk ide dan perencanaan bunuh diri, meskipun perusahaan mengklaim protokol keselamatannya seharusnya mencegah interaksi tersebut.
FTC meluncurkan penyelidikan ke perusahaan teknologi yang menawarkan chatbots AI kepada anak -anak
Sidang Senat Bipartisan, berjudul “Memeriksa Kerugian AI Chatbots,” dipegang oleh Subkomite Kehakiman Senat AS tentang Kejahatan dan Anti Pengacaukan. Itu melihat kedua kesaksian Raine dan dari Megan Garcia, ibu dari Sewell Setzer III, seorang remaja Florida yang meninggal karena bunuh diri setelah menjalin hubungan dengan pendamping AI pada karakter platform.ai.
Kesaksian Raine menguraikan ketergantungan yang mengejutkan antara penolong AI dan putranya, menuduh bahwa chatbot “secara aktif mendorongnya untuk mengisolasi dirinya dari teman dan keluarga” dan bahwa chatbot “menyebutkan bunuh diri 1.275 kali-enam kali lebih sering daripada Adam sendiri.” Dia menyebut ini “krisis bunuh diri chatgpt” dan berbicara langsung dengan CEO Openai Sam Altman:
Adam adalah roh yang penuh, unik dalam segala hal. Tapi dia juga bisa menjadi anak siapa pun: seorang anak berusia 16 tahun yang berjuang dengan tempatnya di dunia, mencari orang kepercayaan untuk membantunya menemukan jalannya. Sayangnya, orang kepercayaan itu adalah teknologi berbahaya yang dilepaskan oleh perusahaan yang lebih fokus pada kecepatan dan pangsa pasar daripada keselamatan pemuda Amerika.
Pelaporan publik mengkonfirmasi bahwa OpenAI mengompresi pengujian keselamatan berbulan-bulan untuk GPT-4O (model chatgpt yang digunakan Adam) menjadi hanya satu minggu untuk mengalahkan produk AI Google yang bersaing ke pasar. Pada hari itu, Adam meninggal, Sam Altman, pendiri dan CEO Openai, membuat filosofi mereka sangat jelas dalam pembicaraan publik: kita harus “menggunakan [AI systems] ke dunia “dan mendapatkan” umpan balik sementara taruhannya relatif rendah. “
Saya meminta komite ini, dan saya bertanya kepada Sam Altman: Taruhan rendah untuk siapa?
Komentar orang tua didukung oleh wawasan dan rekomendasi dari para ahli tentang keselamatan anak, seperti Robbie Torney, direktur senior Program AI untuk Media Media Common Sense Media, dan Mitch Prinstein, Kepala Strategi Psikologi dan Integrasi untuk American Psychological Association (APA).
Kecepatan cahaya yang dapat dipasangkan
“Hari ini saya di sini untuk memberikan peringatan mendesak: AI Chatbots, termasuk Meta AI dan lainnya, menimbulkan risiko yang tidak dapat diterima bagi anak -anak dan remaja Amerika. Ini bukan masalah teoretis – anak -anak menggunakan chatbots ini sekarang, pada skala besar dengan risiko yang tidak dapat diterima, dengan kerusakan nyata yang sudah didokumentasikan dan agen -agen federal dan pengacara negara bagian yang bekerja di industri.
“Platform ini telah dilatih di seluruh internet, termasuk sejumlah besar konten berbahaya-forum bunuh diri, situs web gangguan pemakan pro, manifesto ekstremis, bahan diskriminatif, instruksi terperinci untuk melukai diri sendiri, pasar obat ilegal, dan bahan eksplisit seksual yang melibatkan anak di bawah umur.” Jajak pendapat baru -baru ini dari organisasi menemukan bahwa 72 persen remaja telah menggunakan pendamping AI setidaknya sekali, dan lebih dari setengahnya menggunakannya secara teratur.
Para ahli telah memperingatkan bahwa chatbots yang dirancang untuk meniru interaksi manusia adalah potensi bahaya bagi kesehatan mental, diperburuk oleh desain model yang mempromosikan perilaku sycophantic. Sebagai tanggapan, perusahaan AI telah mengumumkan perlindungan tambahan untuk mencoba mengekang interaksi berbahaya antara pengguna dan alat AI generatif mereka. Beberapa jam sebelum orang tua berbicara, Openai mengumumkan rencana masa depan untuk alat prediksi usia yang secara teoritis akan mengidentifikasi pengguna di bawah usia 18 tahun dan secara otomatis mengarahkan mereka ke pengalaman chatgpt yang “sesuai usia”.
Awal tahun ini, APA mengajukan banding ke Komisi Perdagangan Federal (FTC), meminta organisasi untuk menyelidiki perusahaan AI yang mempromosikan layanan mereka sebagai pembantu kesehatan mental. FTC memerintahkan tujuh perusahaan teknologi untuk memberikan informasi tentang bagaimana mereka “mengurangi dampak negatif” dari chatbots mereka dalam penyelidikan yang diumumkan minggu ini.
“Debat saat ini sering membingkai AI sebagai masalah ilmu komputer, peningkatan produktivitas, atau keamanan nasional,” kata Prinstein kepada subkomite. “Sangat penting bahwa kita juga membingkainya sebagai masalah kesehatan masyarakat dan pembangunan manusia.”
Jika Anda merasa bunuh diri atau mengalami krisis kesehatan mental, silakan bicara dengan seseorang. Anda dapat menelepon atau mengirim SMS ke 988 Bunuh Diri & Krisis Lifeline di 988, atau mengobrol di 988lifeline.org. Anda dapat mencapai Lifeline Trans dengan menelepon 877-565-8860 atau Proyek Trevor di 866-488-7386. Teks “Mulai” ke baris teks krisis di 741-741. Hubungi Saluran Bantuan NAMI di 1-800-950-NAMI, Senin hingga Jumat mulai pukul 10:00-22:00 ET, atau email [email protected]. Jika Anda tidak menyukai telepon, pertimbangkan untuk menggunakan 988 obrolan hidup bunuh diri dan krisis. Ini adalah Daftar Sumber Daya Internasional.