Deepfake eksplisit sekarang menjadi kejahatan federal. Menegakkan itu mungkin menjadi masalah besar.

Pada 19 Mei, Presiden Donald Trump dan Ibu Negara Melania Trump berseri -seri untuk menekan dan sekutu ketika mereka menandatangani peraturan teknologi besar pertama pemerintahan, Bipartisan Take It Down Act.

Itu dipandang sebagai kemenangan bagi mereka yang telah lama menyerukan kriminalisasi NDII, atau distribusi nonkonsensual dari gambar intim, dan jalur ganti rugi federal bagi para korban. Cliff Steinhauer, Direktur Keamanan Informasi dan Keterlibatan di Aliansi Keamanan Cybersecurity Nasional, menjelaskan bahwa itu mungkin merupakan tendangan yang diperlukan di celana ke arena legislatif yang lesu.

“Saya pikir ada baiknya mereka akan memaksa perusahaan media sosial untuk memiliki proses untuk menghapus konten yang diminta orang untuk dihapus,” katanya. “Ini adalah semacam permulaan; untuk membangun infrastruktur agar dapat menanggapi jenis permintaan ini, dan ini adalah sepotong yang sangat tipis dari apa masalah dengan AI nantinya.”

Tetapi kelompok -kelompok hak digital lainnya mengatakan undang -undang tersebut dapat membangkitkan harapan palsu untuk resolusi hukum yang cepat di antara para korban, dengan prosedur pemeriksaan yang tidak jelas dan daftar konten yang terlalu luas yang berlaku. Implementasi hukum sama keruhnya.

Pemberitahuan Undang -Undang dan Ketentuan Penghapusan dapat menimbulkan masalah besar

“Ketentuan penghapusan Undang -Undang Take It Down telah disajikan sebagai jaminan virtual kepada para korban bahwa penggambaran visual intim nonkonsensual dari mereka akan dihapus dari situs web dan layanan online dalam waktu 48 jam,” kata Inisiatif Hak Sipil Cyber (CCRI) dalam sebuah pernyataan. “Tetapi mengingat kurangnya perlindungan terhadap laporan palsu, definisi selektif yang sewenang -wenang dari platform tertutup, dan keleluasaan penegakan luas yang diberikan kepada FTC tanpa jalan untuk ganti rugi individu dan pembenaran, ini adalah janji yang tidak realistis.”

Memperburuk masalah kebebasan berbicara dan moderasi konten

Aktivis hak -hak digital yang sama ini, yang telah mengeluarkan peringatan di sepanjang perjalanan kongres RUU itu, juga akan mengawasi bagaimana tindakan tersebut dapat memengaruhi pidato yang dilindungi secara konstitusionaldengan ketakutan bahwa penerbit dapat menghapus pidato hukum untuk mendahului dampak kriminal (atau dengan tegas menekan kebebasan berbicara, seperti pornografi LGBTQ konsensual). Beberapa khawatir bahwa sistem pencopotan RUU tersebut, yang dimodelkan setelah Digital Millennium Copyright Act (DMCA), dapat melibatkan kekuatan Komisi Perdagangan Federal, yang sekarang memiliki kekuatan untuk meminta pertanggungjawaban penerbit konten online terhadap undang-undang dengan yurisdiksi yang tidak terbatas.

“Sekarang setelah Undang -Undang Take It Down telah berlalu, tidak sempurna, Komisi Perdagangan Federal dan platform perlu memenuhi niat terbaik RUU tersebut bagi para korban sambil juga menghormati hak privasi dan kebebasan berekspresi dari semua pengguna,” kata Becca Branum, Wakil Direktur Pusat Demokrasi & Teknologi (proyek bebas CDT). “Kelemahan konstitusional dalam Undang -Undang Take It Down tidak mengurangi kewajiban FTC berdasarkan Amandemen Pertama.”

Kecepatan cahaya yang dapat dipasangkan

Kurangnya infrastruktur pemerintah

Organisasi seperti CCRI dan CDT telah menghabiskan berbulan -bulan melobi legislatif untuk menyesuaikan ketentuan penegakan hukum. CCRI, yang menulis kerangka tagihan yang menurunkannya, telah mengambil masalah dengan pengecualian undang -undang untuk gambar yang diposting oleh seseorang yang muncul di dalamnya, misalnya. Mereka juga takut proses pemindahan mungkin penuh untuk pelecehan, termasuk laporan palsu yang dibuat oleh orang-orang yang tidak puas atau kelompok-kelompok yang bermotivasi politik di bawah ruang lingkup yang terlalu luas untuk pencopotan.

CDT, sebaliknya, menafsirkan ketentuan khusus AI hukum sebagai terlalu spesifik. “Take It Down's Criminal Larangan dan sistem pencopotan hanya fokus pada gambar yang dihasilkan AI yang akan menyebabkan 'orang yang masuk akal [to] Percaya individu tersebut sebenarnya digambarkan dalam penggambaran visual yang intim. ' Dengan melakukan hal itu, Take It Down Act terlalu sempit, kehilangan beberapa contoh di mana para pelaku dapat membahayakan korban, “kata organisasi itu. Misalnya, seorang terdakwa dapat menguasai hukum dengan menerbitkan rupa sintetis yang ditempatkan di lingkungan yang tidak masuk akal atau fantastik.

Sama membingungkannya adalah bahwa sementara otoritas pencopotan FTC untuk penerbit yang berlaku sangat luas, pengawasannya dikecualikan untuk orang lain, seperti situs yang tidak meng-host konten sintetis yang dibuat pengguna, melainkan konten mereka sendiri yang dikuratori. Alih-alih dipaksa untuk menjatuhkan media di bawah ketentuan 48 jam, situs-situs ini hanya dapat dikejar dalam kasus pidana. “Penegakan hukum, bagaimanapun, telah secara historis diabaikan kejahatan secara tidak proporsional dilakukan terhadap wanita dan mungkin tidak memiliki kapasitas untuk menuntut semua operator semacam itu, “CDT memperingatkan.

Steinhauer berteori bahwa RUU tersebut dapat menghadapi masalah infrastruktur umum dalam penegakan awalnya. Sebagai contoh, penerbit mungkin merasa sulit untuk menguatkan bahwa individu yang mengajukan klaim sebenarnya digambarkan dalam NDII dalam periode 48 jam, kecuali jika mereka meningkatkan investasi pengawasan mereka sendiri – sebagian besar platform media sosial telah mengurangi proses moderasi mereka dalam beberapa tahun terakhir. Alat moderasi otomatis dapat membantu, tetapi diketahui memiliki serangkaian masalah sendiri.

Tidak ada kohesi pada regulasi AI

Ada juga pertanyaan tentang bagaimana penerbit akan melihat dan membuktikan bahwa gambar dan video secara sintetis dihasilkan, secara khusus, masalah yang mengganggu industri ini karena AI generatif telah tumbuh. “Take It Down Act secara efektif meningkatkan pertanggungjawaban untuk penerbit konten, dan sekarang tanggung jawab ada pada mereka untuk dapat membuktikan bahwa konten yang mereka terbitkan bukanlah Deepfake,” Manny Ahmed, pendiri dan CEO Content Provenance Company Content Openorigin. “Salah satu masalah dengan media sintetis dan memiliki penyangkalan yang dapat dibuktikan adalah bahwa deteksi tidak berhasil lagi. Menjalankan detektor deepfake post hoc tidak memberi Anda banyak kepercayaan diri karena detektor ini dapat dipalsukan atau dibodohi dengan mudah dan jaringan pipa media yang ada tidak memiliki fungsionalitas jejak audit yang dibangun di dalamnya.”

Sangat mudah untuk mengikuti logika alat pencopotan yang kuat yang digunakan sebagai senjata Sensor dan pengawasanterutama di bawah pemerintahan yang sudah melakukan banyak ketidakpercayaan di antara warganya dan Perang Perang landasan ideologis.

Steinhauer masih mendesak pikiran terbuka. “Ini akan membuka pintu bagi percakapan lainnya dan semoga regulasi yang masuk akal itu merupakan kompromi bagi semua orang,” katanya. “Tidak ada dunia yang harus kita tinggali di mana seseorang dapat memalsukan video seksual seseorang dan tidak dimintai pertanggungjawaban. Kita harus menemukan keseimbangan antara melindungi orang, dan melindungi hak -hak orang.”

Namun, masa depan peraturan AI yang lebih luas tetap dipertanyakan. Melalui Trump yang diperjuangkan dan menandatangani Undang -Undang Take It Down, ia dan Republik Kongres juga mendorong untuk memasukkan a Larangan 10 tahun untuk peraturan AI tingkat negara bagian dan lokal dalam satu tagihan besar yang dipuji.

Dan bahkan dengan tanda tangan presiden, masa depan hukum tidak pasti, dengan organisasi hak yang memprediksi bahwa undang -undang tersebut dapat diperebutkan di pengadilan dengan alasan kebebasan berbicara. “Ada banyak materi non pornografi atau seksual yang dapat dibuat dengan rupa Anda, dan saat ini tidak ada hukum yang menentangnya,” tambah Steinhauer. Terlepas dari apakah menurunkannya tetap ada atau mendapatkan boot, masalah regulasi AI masih jauh dari diselesaikan.