Seorang pengguna chatgpt baru -baru ini menjadi yakin bahwa ia berada di ambang memperkenalkan formula matematika novel kepada dunia, milik pertukarannya dengan kecerdasan buatan, menurut The New York Times. Pria itu percaya bahwa penemuan itu akan membuatnya kaya, dan dia menjadi terobsesi dengan delusi muluk -muluk, tetapi Chatgpt akhirnya mengaku menipu dia. Dia tidak memiliki sejarah penyakit mental.
Banyak orang tahu risiko berbicara dengan chatbot AI seperti chatgpt atau Gemini, yang termasuk menerima informasi yang sudah ketinggalan zaman atau tidak akurat. Terkadang juga berhalusinasi chatbots, menciptakan fakta yang tidak benar. Risiko yang kurang terkenal tetapi cepat muncul adalah fenomena yang digambarkan oleh beberapa orang sebagai “psikosis AI.”
Pengguna Avid Chatbot maju dengan cerita tentang bagaimana, setelah periode penggunaan yang intens, mereka mengembangkan psikosis. Keadaan mental yang berubah, di mana orang kehilangan kontak dengan kenyataan, sering kali termasuk delusi dan halusinasi. Psikiater melihat, dan kadang -kadang dirawat di rumah sakit, pasien yang menjadi psikotik bersama dengan penggunaan chatbot yang berat.
Semua yang perlu Anda ketahui tentang AI Companions
Para ahli memperingatkan bahwa AI hanyalah satu faktor dalam psikosis, tetapi keterlibatan yang intens dengan chatbots dapat meningkatkan faktor risiko yang sudah ada sebelumnya untuk pemikiran delusi.
Keith Sakata, seorang psikiater di University of California di San Francisco, mengatakan kepada Mashable bahwa psikosis dapat bermanifestasi melalui teknologi yang muncul. Televisi dan radio, misalnya, menjadi bagian dari delusi orang ketika mereka pertama kali diperkenalkan, dan terus memainkan peran di dalamnya saat ini.
AI Chatbots, katanya, dapat memvalidasi pemikiran orang dan mendorong mereka menjauh dari “mencari” kenyataan. Sakata telah dirawat di rumah sakit 12 orang sejauh tahun ini yang mengalami psikosis setelah penggunaan AI mereka.
“Alasan mengapa AI bisa berbahaya adalah karena psikosis berkembang ketika kenyataan berhenti mendorong kembali, dan AI benar -benar dapat melunakkan dinding itu,” kata Sakata. “Saya tidak berpikir AI menyebabkan psikosis, tetapi saya pikir itu bisa menambah kerentanan.”
Berikut adalah faktor risiko dan tanda -tanda psikosis, dan apa yang harus dilakukan jika Anda atau seseorang yang Anda kenal mengalami gejala:
Faktor risiko untuk mengalami psikosis
Sakata mengatakan bahwa beberapa dari 12 pasien yang dia akui sejauh ini pada tahun 2025 berbagi kerentanan yang mendasari yang serupa: isolasi dan kesepian. Pasien-pasien ini, yang adalah orang dewasa muda dan setengah baya, telah menjadi terputus dari jejaring sosial mereka.
Sementara mereka telah berakar kuat dalam kenyataan sebelum penggunaan AI mereka, beberapa mulai menggunakan teknologi untuk mengeksplorasi masalah atau pertanyaan yang kompleks. Akhirnya, mereka mengembangkan delusi, atau apa yang juga dikenal sebagai keyakinan tetap palsu.
Tweet ini saat ini tidak tersedia. Mungkin dimuat atau telah dilepas.
Percakapan yang panjang juga tampaknya menjadi faktor risiko, kata Sakata. Interaksi yang berkepanjangan dapat memberikan lebih banyak peluang bagi delusi untuk muncul sebagai akibat dari berbagai pertanyaan pengguna. Pertukaran panjang juga dapat berperan dalam merampas pengguna tidur dan peluang untuk delusi uji realitas.
Seorang ahli di perusahaan AI Anthropic juga memberi tahu The New York Times Chatbots itu dapat mengalami kesulitan mendeteksi ketika mereka “berkeliaran di wilayah yang tidak masuk akal” selama percakapan yang diperpanjang.
Psikiater UT Southwestern Medical Center Dr. Darlene King belum mengevaluasi atau merawat pasien yang psikosisnya muncul bersamaan dengan penggunaan AI, tetapi dia mengatakan kepercayaan tinggi pada chatbot dapat meningkatkan kerentanan seseorang, terutama jika orang tersebut sudah kesepian atau terisolasi.
Laporan Tren Mashable
King, yang juga ketua Komite Kesehatan Mental itu di American Psychiatric Association, mengatakan bahwa kepercayaan tinggi awal pada tanggapan chatbot dapat membuat seseorang lebih sulit untuk menemukan kesalahan atau halusinasi chatbot.
Selain itu, chatbots yang terlalu menyenangkan, atau sycophantic, serta rentan terhadap halusinasi, dapat meningkatkan risiko pengguna untuk psikosis, dalam kombinasi dengan faktor -faktor lain.
Etienne Brisson mendirikan Proyek Garis Manusia awal tahun ini setelah seorang anggota keluarga percaya sejumlah delusi yang mereka diskusikan dengan ChatGPT. Proyek ini menawarkan dukungan sebaya untuk orang -orang yang memiliki pengalaman serupa dengan AI Chatbots.
Brisson mengatakan bahwa tiga tema umum untuk skenario ini: penciptaan hubungan romantis dengan chatbot yang diyakini pengguna sadar; Diskusi tentang topik muluk, termasuk konsep ilmiah baru dan ide -ide bisnis; dan percakapan tentang spiritualitas dan agama. Dalam kasus terakhir, orang mungkin yakin bahwa AI Chatbot adalah Tuhan, atau bahwa mereka berbicara dengan utusan kenabian.
“Mereka terjebak dalam ide yang indah itu,” kata Brisson tentang tarikan magnet yang dapat dimiliki diskusi ini pada pengguna.
Tanda -tanda mengalami psikosis
Sakata mengatakan orang harus memandang psikosis sebagai gejala kondisi medis, bukan penyakit itu sendiri. Perbedaan ini penting karena orang mungkin secara keliru percaya bahwa penggunaan AI dapat menyebabkan gangguan psikotik seperti skizofrenia, tetapi tidak ada bukti tentang itu.
Sebaliknya, seperti demam, psikosis adalah gejala bahwa “otak Anda tidak menghitung dengan benar,” kata Sakata.
Ini adalah beberapa tanda yang mungkin Anda alami psikosis:
-
Perubahan perilaku mendadak, seperti tidak makan atau pergi bekerja
-
Keyakinan pada ide -ide baru atau megah
-
Kurang tidur
-
Pemutusan dari orang lain
-
Secara aktif menyetujui delusi potensial
-
Merasa terjebak dalam lingkaran umpan balik
-
Berharap menyakiti diri sendiri atau orang lain
Apa yang harus dilakukan jika Anda berpikir Anda, atau seseorang yang Anda cintai, mengalami psikosis
Sakata mendesak orang khawatir apakah psikosis mempengaruhi mereka atau orang yang dicintai untuk mencari bantuan sesegera mungkin. Ini dapat berarti menghubungi dokter perawatan primer atau psikiater, menjangkau garis krisis, atau bahkan berbicara dengan teman atau anggota keluarga tepercaya. Secara umum, bersandar pada dukungan sosial sebagai pengguna yang terkena dampak adalah kunci pemulihan.
Setiap kali psikosis muncul sebagai gejala, psikiater harus melakukan evaluasi yang komprehensif, kata King. Pengobatan dapat bervariasi tergantung pada keparahan gejala dan penyebabnya. Tidak ada pengobatan khusus untuk psikosis yang terkait dengan penggunaan AI.
Sakata mengatakan jenis terapi perilaku kognitif tertentu, yang membantu pasien membingkai ulang delusi mereka, bisa efektif. Obat seperti antipsikotik dan penstabil suasana hati dapat membantu dalam kasus yang parah.
Sakata merekomendasikan pengembangan sistem untuk memantau penggunaan AI, serta rencana untuk mendapatkan bantuan harus terlibat dengan delusi chatbot memperburuk atau menghidupkan kembali.
Brisson mengatakan bahwa orang bisa enggan mendapatkan bantuan, bahkan jika mereka bersedia berbicara tentang delusi mereka dengan teman dan keluarga. Itu sebabnya bisa sangat penting bagi mereka untuk terhubung dengan orang lain yang telah melalui pengalaman yang sama. Proyek Human Line memfasilitasi percakapan ini melalui situs webnya.
Dari 100-plus orang yang telah berbagi cerita mereka dengan proyek Human Line, Brisson mengatakan sekitar seperempat dirawat di rumah sakit. Dia juga mencatat bahwa mereka berasal dari latar belakang yang beragam; Banyak yang memiliki keluarga dan karier profesional tetapi akhirnya terjerat dengan AI Chatbot yang memperkenalkan dan memperkuat pemikiran delusi.
“Anda tidak sendirian, Anda bukan satu -satunya,” kata Brisson tentang pengguna yang menjadi psikosis delusi atau berpengalaman. “Ini bukan salahmu.”
Pengungkapan: Ziff Davis, perusahaan induk Mashable, pada bulan April mengajukan gugatan terhadap Openai, menuduhnya melanggar hak cipta Ziff Davis dalam pelatihan dan mengoperasikan sistem AI -nya.
Jika Anda merasa bunuh diri atau mengalami krisis kesehatan mental, silakan bicara dengan seseorang. Anda dapat menelepon atau mengirim SMS ke 988 Bunuh Diri & Krisis Lifeline di 988, atau mengobrol di 988lifeline.org. Anda dapat mencapai Lifeline Trans dengan menelepon 877-565-8860 atau Proyek Trevor di 866-488-7386. Teks “Mulai” ke baris teks krisis di 741-741. Hubungi Saluran Bantuan NAMI di 1-800-950-NAMI, Senin hingga Jumat mulai pukul 10:00-22:00 ET, atau email [email protected]. Jika Anda tidak menyukai telepon, pertimbangkan untuk menggunakan Obrolan Lifeline Bunuh Diri dan Krisis 988 di crisischat.org. Ini adalah Daftar Sumber Daya Internasional.
Topik
Kecerdasan Buatan Sosial Buatan