Meta telah mencolok terhadap aplikasi populer yang digunakan untuk menghasilkan gambar intim nonkonsensual yang dihasilkan AI-biasanya disebut sebagai aplikasi “nudify” atau “menanggalkan”-karena perusahaan secara selektif menindak pengiklan.
Dalam gugatan baru yang diajukan di Hong Kong terhadap para pembuat di balik aplikasi yang biasa digunakan yang dikenal sebagai Crush AI, raksasa teknologi klaim perusahaan induk Joy Timeline HK sengaja melewati proses peninjauan iklan Meta menggunakan nama-nama domain baru dan jaringan akun pengiklan untuk mempromosikan layanan Deepfake AI yang bertenaga AI.
“Tindakan hukum ini menggarisbawahi keseriusan yang dengannya kami mengambil pelecehan ini dan komitmen kami untuk melakukan semua yang kami bisa untuk melindungi komunitas kami darinya. Kami akan terus mengambil langkah -langkah yang diperlukan – yang dapat mencakup tindakan hukum – terhadap mereka yang menyalahgunakan platform kami seperti ini,” tulis Meta dalam siaran pers.
Kecepatan cahaya yang dapat dipasangkan
FDA ingin menggunakan AI untuk mempercepat proses persetujuan obat
Meta sebelumnya telah dikecam karena gagal mengekang aplikasi nudifikasi dari iklan di platformnya, termasuk memungkinkan iklan yang menampilkan gambar-gambar eksplisit dari selebriti untuk muncul berulang kali di platform-di samping kebijakan periklanannya, Meta melarang penyebaran citra intim yang tidak konsensual dan memblokir istilah pencarian “nudify,” “” Undress “dan” Delete. ” Menurut analisis oleh peneliti Cornell Alexios Mantzarlis, Crush AI diduga menjalankan lebih dari 8.000 iklan di seluruh platform meta antara musim gugur 2024 dan Januari 2025, dengan 90 persen lalu lintas berasal dari platform meta. Secara umum, konten iklan yang dihasilkan AI telah mengganggu pengguna, karena perusahaan telah melonggarkan kebijakan moderasi kontennya yang mendukung proses peninjauan otomatis dan pengecekan fakta yang dihasilkan masyarakat.
Korban pencitraan intim nonkonsensual yang dihasilkan AI telah menghabiskan waktu bertahun-tahun untuk memperjuangkan peraturan industri yang lebih besar dan jalur hukum untuk meminta bantuan. Pada bulan Mei, pemerintahan Trump menandatangani Undang -Undang Take It Down, sebuah undang -undang yang mengkriminalisasi citra intim nonkonsensual dan menetapkan kebijakan penghapusan wajib untuk platform online. Materi pelecehan seksual anak yang dihasilkan AI (CSAM) juga berkembang biak di internet dalam beberapa tahun terakhir, mendorong kekhawatiran luas tentang keselamatan dan regulasi alat AI generatif.
Selain mengambil tindakan hukum terhadap Crush AI, Meta mengumumkan akan mengembangkan teknologi deteksi baru untuk menandai secara lebih akurat dan menghapus iklan untuk aplikasi nudify. Perusahaan juga meningkatkan pekerjaannya dengan Program Lentera Koalisi TeknologiInisiatif industri untuk menyatukan informasi tentang keselamatan online anak, dan akan terus berbagi informasi tentang melanggar perusahaan dan produk. Sejak Maret, Meta telah melaporkan lebih dari 3.800 URL unik yang terkait dengan aplikasi dan situs web Nudify dan menemukan empat jaringan terpisah yang mencoba mempromosikan layanan mereka, menurut perusahaan.