Model video AI generasi kedua Openai, Sora 2, membangkitkan kontroversi, kurang dari seminggu setelah raksasa AI meluncurkan alat yang sangat dinanti dan aplikasi yang sesuai.
Hubbub berasal dari kemampuan Sora 2 yang mengesankan tetapi mengkhawatirkan untuk menghasilkan apa saja secara rinci. Tak lama setelah peluncurannya, pengguna membanjiri platform-dinyalakan sebagai aplikasi media sosial yang maju dalam kemiripan Tiktok atau gulungan-dengan dugaan Deepfake selebriti, konten politik yang sensitif, dan karakter berlisensi.
Sora 2, Vibes, Feed: Berapa banyak video AI yang kita butuhkan?
Perlindungan Sora 2 tampaknya lebih kuat daripada para pesaingnya – seperti yang ada di Grok – melaporkan editor teknologi Mashable Timothy Beck Werth. Sora 2 memiliki mekanisme pelaporan yang mudah untuk konten seksual dan kekerasan, pelecehan, dan bahaya anak. Sebagai cara untuk mencegah Deepfake, Sora 2 juga seharusnya memblokir pengguna dari mengunggah konten yang menampilkan wajah. Secara teori, larangan wajah Sora 2 harus mencegah pengguna membuat Deepfake dari seseorang tanpa persetujuan mereka. Tetapi solusi Openai sendiri untuk Deepfake nonkonsensual, fitur yang dikenal sebagai akting cemerlang, telah menimbulkan masalah sendiri.
Cameos adalah “karakter yang dapat digunakan kembali” yang dimodelkan setelah pengguna berdasarkan audio dan video yang mereka unggah. Pengguna harus ikut serta ke Deepfake mereka sendiri, dan kemudian dapat memberikan akses ke rupa digital mereka di empat tingkatan: hanya Anda, orang yang Anda setujui, teman, atau semua orang. Sampai sekarang, itulah sejauh akting cemerlang yang dapat dikendalikan, yang berarti jika cameo Anda beralih ke akses di seluruh aplikasi, rupa Anda dapat dilakukan untuk melakukan apa saja.
Tweet ini saat ini tidak tersedia. Mungkin dimuat atau telah dilepas.
Menanggapi masalah pengguna, OpenAI telah mengakui masalah keselamatan akses gratis ke kemiripan digital seseorang dapat ditimbulkan, mengumumkan pembatasan konten baru untuk akting cemerlang. Inilah yang perlu Anda ketahui jika Anda mencoba membuat cameo Anda menjadi bintang.
Kecepatan cahaya yang dapat dipasangkan
Bagaimana Melindungi Cameo Anda
Dalam posting X oleh Sora Head Bill Peebles, Pengguna diarahkan ke utas oleh staf teknis Openai Thomas DiMson, menjelaskan bahwa pengaturan cameo baru mencakup preferensi dan batasan konten.
Tweet ini saat ini tidak tersedia. Mungkin dimuat atau telah dilepas.
Untuk mengunci cameo Anda, buka profil Anda. Pilih “Pengaturan” dan kemudian “Edit Cameo.” Ketuk “preferensi cameo” dan pilih “pembatasan.”
Dari sana, pengguna dapat menetapkan batas yang lebih tepat tentang apa yang dapat dilakukan cameo mereka dan mengatakan menggunakan petunjuk teks, seperti “Jangan menempatkan saya dalam video yang melibatkan komentar politik” atau “Jangan biarkan saya mengucapkan kata ini,” jelas Peebles. Anda juga dapat memastikan bahwa cameo Anda muncul dengan detail spesifik, seperti mengenakan item pakaian yang mengidentifikasi.
Jika Anda ingin memastikan tidak ada orang lain selain Anda dapat menggunakan rupa Anda, pastikan Anda telah memilih “hanya saya” di bagian “Cameo Rules”. Dan jika Anda tidak ingin membuat cameo sama sekali, pengguna dapat memilih keluar saat mendaftar.
Peebles menambahkan bahwa Sora 2 masih menjalani penyesuaian keamanan modelnya, dan akan membuat Sora 2 Watermark lebih berbeda, mengakui bahwa pengguna mungkin frustrasi dengan “overmoderasi” pada aplikasi. “Kami pikir penting untuk menjadi konservatif di sini sementara dunia masih menyesuaikan diri dengan teknologi baru ini.”