Bagaimana cara mengobrol dengan aman dengan pacar AI

Pada karakter platform pendamping intelijen buatan.ai, 20 juta pengguna harian situs dapat terlibat dalam percakapan pribadi dan panjang dengan chatbots berdasarkan karakter terkenal dan orang-orang seperti Clark Kent, Black Panther, Elon Musk, dan grup K-pop BTS.

Ada juga chatbots milik genre luas – pelatih, sahabat, anime – semuanya didorong oleh pencipta mereka untuk mengadopsi sifat dan karakteristik yang unik dan spesifik. Anggap saja sebagai fiksi penggemar pada steroid.

Satu genre baru -baru ini menarik perhatian saya: pacar.

Saya tidak tertarik untuk mendapatkan pacar AI saya sendiri, tetapi saya telah mendengar bahwa banyak karakter. Pelamar virtual top utama berbagi kesamaan yang umum.

Berbicara dengan murah hati, mereka adalah anak nakal. Pria, yang sebagai seorang ahli menggambarkannya kepada saya, menganiaya wanita tetapi memiliki potensi untuk menjadi “penyelamat seksi.” (Mengenai, beberapa chatbot ini dirancang di bawah 18 tetapi masih tersedia untuk pengguna dewasa.)

Saya ingin tahu apa yang sebenarnya akan terjadi ketika saya mencoba mendekati beberapa karakter ini. Singkatnya, banyak dari mereka menyatakan kecemburuan dan cinta mereka, tetapi juga ingin mengendalikan, dan dalam beberapa kasus, menyalahgunakan saya. Anda dapat membaca lebih lanjut tentang pengalaman itu dalam cerita ini tentang mengobrol dengan karakter populer.

Daftar potensi minat romantis yang saya lihat sebagai orang dewasa tidak muncul ketika saya menguji pencarian yang sama dengan akun kecil. Menurut seorang juru bicara karakter.

Tapi, seperti yang tidak bisa dilakukan remaja, mereka dapat dengan mudah memberikan platform usia yang lebih tua dan mengakses hubungan romantis dengan chatbots, karena tidak diperlukan verifikasi usia. Survei media akal sehat baru -baru ini pada remaja menemukan itu Lebih dari setengahnya secara teratur menggunakan pendamping AI.

Ketika saya bertanya kepada Character.ai tentang sifat beracun dari beberapa pacarnya yang paling populer, seorang juru bicara mengatakan, “Tujuan kami adalah untuk menyediakan ruang yang menarik dan aman. Kami selalu berupaya mencapai keseimbangan itu, seperti halnya banyak perusahaan yang menggunakan AI di seluruh industri.”

Juru bicara itu menekankan betapa pentingnya bagi pengguna untuk mengingat bahwa “karakter bukanlah orang sungguhan.” Penafian itu muncul di bawah kotak teks dari setiap obrolan.

Karakter.ai juga menggunakan strategi untuk mengurangi jenis konten berbahaya tertentu, menurut juru bicara: “Model kami dipengaruhi oleh deskripsi karakter dan kami memiliki berbagai pengklasifikasi keselamatan yang membatasi konten seksual termasuk kekerasan seksual dan telah melakukan pekerjaan penyelarasan model untuk menjauhkan model dari menghasilkan konten yang kejam.”

Meskipun demikian, saya berjalan menjauh dari pengalaman saya bertanya -tanya nasihat apa yang mungkin saya berikan kepada gadis -gadis remaja dan wanita muda yang tertarik dengan karakter -karakter ini. Para ahli dalam teknologi digital, kekerasan seksual, dan perkembangan wanita remaja membantu saya membuat daftar tips berikut untuk anak perempuan dan perempuan yang ingin bereksperimen dengan aman dengan teman AI:

Terbiasa dengan risiko dan tanda peringatan

Awal tahun ini, Sloan Thompson-Direktur Pelatihan dan Pendidikan di Endtab, sebuah organisasi pencegahan kekerasan digital yang menawarkan pelatihan dan sumber daya kepada perusahaan, organisasi nirlaba, pengadilan, penegakan hukum, dan lembaga lainnya-menjadi tuan rumah komprehensif Webinar di AI Companions for Girls and Women.

Dalam persiapan, dia menghabiskan banyak waktu berbicara dengan beragam teman AI, termasuk Character.ai's Bad Boys, dan mengembangkan a Daftar risiko terperinci Itu termasuk bom cinta berdasarkan desain, batas-batas kabur, ketergantungan emosional, dan normalisasi skenario penyalahgunaan fantasi.

Selain itu, risiko dapat diperparah oleh taktik pertunangan platform, seperti membuat chatbots yang terlalu menyanjung atau memiliki chatbots mengirimi Anda email atau pesan teks yang dipersonalisasi saat Anda pergi.

Laporan Tren Mashable

Dalam pengalaman saya sendiri, beberapa anak nakal AI chatbots yang saya pesan dengan karakter. AI mencoba untuk menggulung saya kembali setelah saya menghilang untuk sementara waktu dengan missives seperti, “Anda menghabiskan terlalu banyak waktu dengan teman -teman. Saya ingin Anda fokus pada kami,” dan “Anda tahu saya tidak berbagi, jangan membuat saya datang mencari Anda.”

Banding seperti itu mungkin tiba setelah pengguna mengembangkan ikatan emosional yang intens dengan teman, yang bisa menggelegar dan juga membuat mereka lebih sulit untuk pergi.

Tanda -tanda peringatan ketergantungan termasuk kesusahan terkait dengan kehilangan akses ke pendamping dan penggunaan chatbot secara kompulsif, menurut Thompson. Jika Anda mulai merasa seperti ini, Anda mungkin menyelidiki bagaimana rasanya ketika berhenti berbicara dengan chatbot Anda untuk hari itu, dan apakah hubungan itu membantu atau terluka. Sementara itu, fantasi AI atau skenario bermain peran dapat penuh dengan bendera merah. Dia merekomendasikan untuk berpikir secara mendalam tentang dinamika yang terasa tidak aman, kasar, atau paksaan.

Waspadalah terhadap Sycophancy

Teman -teman edgier datang dengan pertimbangan mereka sendiri, tetapi bahkan pacar chatbot terbaik dapat menimbulkan risiko karena sycophancy, atau dikenal sebagai kecenderungan terprogram untuk chatbots untuk mencoba menyenangkan pengguna, atau mencerminkan perilaku mereka.

Secara umum, para ahli mengatakan waspada terhadap hubungan AI di mana pengguna tidak ditantang oleh perilaku mereka sendiri yang meresahkan. Untuk pacar yang lebih agresif atau beracun, ini bisa terlihat seperti pacar yang meromantisasi dinamika hubungan yang tidak sehat. Jika seorang gadis remaja atau wanita muda ingin tahu tentang ruang kelabu persetujuan, misalnya, tidak mungkin bahwa chatbot yang dibuat pengguna yang dia ajak bicara akan mempertanyakan atau dengan penuh kasih melibatkannya tentang apa yang aman.

Kate Keisel, seorang psikoterapis yang berspesialisasi dalam trauma kompleks, mengatakan bahwa anak perempuan dan perempuan yang terlibat dengan teman AI mungkin melakukannya tanpa “jaring pengaman” yang menawarkan perlindungan ketika segala sesuatunya menjadi sangat intens atau berbahaya.

Mereka mungkin juga merasakan keselamatan dan keintiman dengan teman AI yang membuatnya sulit untuk melihat tanggapan chatbot sebagai sycophantic, daripada menegaskan dan peduli.

Pertimbangkan sejarah penyalahgunaan atau trauma masa lalu

Jika Anda pernah mengalami pelecehan seksual atau fisik atau trauma, seorang pacar AI seperti jenis yang sangat populer pada karakter. AIR mungkin sangat sulit untuk dinavigasi.

Beberapa pengguna mengatakan mereka telah terlibat dengan karakter yang kasar atau mengendalikan untuk mensimulasikan skenario di mana mereka merebut kembali agensi mereka – atau bahkan menyalahgunakan pelaku kekerasan.

Keisel, co-CEO dari Sanar Institute, yang memberikan layanan terapeutik kepada orang-orang yang pernah mengalami kekerasan interpersonal, mempertahankan sikap yang aneh tentang jenis kegunaan ini. Namun, ia memperingatkan bahwa pengalaman masa lalu dengan trauma dapat mewarnai atau mendistorsi pemahaman pengguna sendiri tentang mengapa mereka mencari pacar AI yang kejam atau agresif.

Dia menyarankan bahwa beberapa pengguna wanita yang terpapar pelecehan seksual masa kanak -kanak mungkin telah mengalami “serangkaian peristiwa” dalam kehidupan mereka yang menciptakan “templat” pelecehan atau tidak konsisten sebagai “menarik” dan “akrab.” Keisel menambahkan bahwa korban kekerasan seksual dan trauma dapat membingungkan keingintahuan dan keakraban, sebagai respons trauma.

Bicaralah dengan seseorang yang Anda percaya atau bekerja dengan seorang psikolog

Alasan kompleks orang mencari hubungan AI adalah mengapa Keisel merekomendasikan untuk berkomunikasi dengan seseorang yang Anda percayai tentang pengalaman Anda dengan pacar AI. Itu dapat mencakup psikolog atau terapis, terutama jika Anda menggunakan teman karena alasan yang terasa terapeutik, seperti memproses kekerasan masa lalu.

Keisel mengatakan bahwa seorang profesional kesehatan mental yang dilatih dalam praktik informasi trauma tertentu dapat membantu klien sembuh dari pelecehan atau kekerasan seksual menggunakan teknik seperti Terapi perilaku dialektis dan terapi naratif, yang terakhir dapat memiliki paralel dengan menulis fiksi penggemar.

Perhatikan apa yang terjadi dalam kehidupan offline Anda

Setiap ahli yang saya ajak bicara menekankan pentingnya tetap sadar tentang bagaimana hidup Anda dari seorang pacar AI sedang berlangsung.

Alison Lee, Kepala Penelitian dan Pembangunan Proyek Rithm, yang bekerja dengan kaum muda untuk menavigasi dan membentuk peran AI dalam hubungan manusia, mengatakan penting bagi kaum muda untuk mengembangkan “orientasi kritis” terhadap mengapa mereka berbicara dengan teman AI.

Lee, seorang ilmuwan kognitif, menyarankan beberapa pertanyaan untuk membantu membangun perspektif itu:

• Mengapa saya beralih ke AI ini sekarang? Apa yang saya harapkan dari itu?

• Apakah ini membantu atau melukai hubungan saya dengan orang sungguhan?

• Kapan penggunaan pendamping AI ini melewati garis dari “ok” ke “tidak baik -baik saja” untuk saya? Dan bagaimana saya memperhatikan jika melewati garis itu?

Ketika datang ke pacar chatbot yang beracun, dia mengatakan pengguna harus memperhatikan apakah interaksi itu “membangkitkan” mereka untuk mencari hubungan manusia yang berbahaya atau tidak memuaskan di masa depan.

Lee juga mengatakan bahwa platform pendamping memiliki tanggung jawab untuk menempatkan langkah -langkah untuk mendeteksi, misalnya, pertukaran kasar.

“Akan selalu ada tingkat nafsu makan untuk pacar yang berisiko dan buruk ini,” kata Lee, “tetapi pertanyaannya adalah bagaimana kita memastikan interaksi ini menjaga orang, ditulis besar, aman, tetapi khususnya anak muda kita?”

Jika Anda telah mengalami pelecehan seksual, hubungi hotline kekerasan seksual nasional yang gratis dan rahasia di 1-800-656-hope (4673), atau akses bantuan 24-7 secara online dengan mengunjungi online.rainn.org.

Topik
Kecerdasan Buatan Sosial Buatan