Ketika Bruce Reed bertugas di pemerintahan Biden sebagai wakil kepala staf presiden, ia memimpin upaya bekerja dengan perusahaan -perusahaan AI terkemuka seperti Anthropic dan Openai pada komitmen sukarela untuk memastikan keamanan produk mereka.
Reed sejak itu meninggalkan Gedung Putih, tetapi dia belum selesai dengan AI, sebuah teknologi yang dia gambarkan sebagai “menarik, menakjubkan, terkadang menakutkan.”
Dia akan terus bekerja di Common Sense Media, sebuah organisasi nirlaba yang mendukung anak -anak dan orang tua saat mereka menavigasi media dan teknologi. Dikenal dengan peringkat media konten anak -anak, termasuk video game, acara TV, dan film, nirlaba juga melakukan penelitian dan advokasi.
Remaja sedang berbicara dengan teman AI, apakah itu aman atau tidak
Reed, seorang veteran dari tiga administrasi presiden Demokrat, akan memimpin AI akal sehat, yang mengadvokasi undang -undang AI yang lebih komprehensif di California. Common Sense AI telah mendukung dua tagihan negara yang secara terpisah membentuk sistem transparansi untuk mengukur risiko produk AI kepada pengguna muda, dan melindungi whistleblower AI dari pembalasan ketika mereka melaporkan “risiko kritis.”
Reed berpendapat bahwa kita berada di jendela penting untuk mengimplementasikan perlindungan AI, terutama untuk anak di bawah umur, sebelum praktik bisnis tertentu menjadi tertanam dan lebih sulit untuk diatur.
“Ketika perusahaan media sosial bergegas untuk bergerak cepat dan memecahkan barang -barang, dan mengabaikan privasi dan keamanan anak -anak, kami berakhir dengan krisis kesehatan mental remaja,” kata Reed. “Tidak ada yang ingin melihat itu terjadi lagi.”
Kekhawatiran orang tua tentang bahaya chatbot ai
Sementara beberapa ahli tidak setuju bahwa media sosial mendorong peningkatan kondisi kesehatan mental di kalangan remaja, orang tua sudah melangkah maju dengan kekhawatiran besar tentang bagaimana anak -anak mereka terlibat dengan AI Chatbots.
Musim gugur yang lalu, ibu yang berduka Megan Garcia mengajukan gugatan terhadap karakter. AI menuduh bahwa putranya yang remaja mengalami kerusakan dan pelecehan ekstrem pada platform sehingga berkontribusi pada bunuh diri.
Segera setelah itu, dua ibu di Texas mengajukan gugatan lain terhadap karakter.ai menuduh bahwa perusahaan dengan sengaja membuat anak -anak mereka terkena konten yang berbahaya dan seksual. Seorang remaja penggugat diduga menerima saran oleh chatbot untuk membunuh orang tuanya.
Common Sense mengeluarkan pedoman orangtentalnya sendiri tentang pendamping AI musim gugur yang lalu, dan karakter. Sejak itu telah menambahkan fitur keselamatan dan kontrol orang tua baru.
California, di mana media akal sehat berkantor pusat, adalah tempat yang ideal untuk mengesahkan undang -undang yang membahas beberapa risiko AI yang muncul, kata Reed. Dia berperan dalam menyusun undang -undang privasi konsumen negara pada tahun 2018. Dengan tidak adanya RUU federal, undang -undang negara bagian secara efektif menjadi standar nasional karena begitu banyak perusahaan teknologi yang berbasis di California.
Kecepatan cahaya yang dapat dipasangkan
Politik Keselamatan AI
Reed juga tampaknya tidak terintimidasi oleh kalkulus politik yang bergeser sekarang karena Donald Trump kembali ke Gedung Putih, setelah memberi kesan bahwa perusahaan teknologi AI memiliki Carte Blanche untuk mengejar “dominasi.”
Salah satu perintah eksekutif Trump membatalkan aturan pengujian keselamatan AI yang Biden sendiri diberlakukan. Sementara itu, perusahaan yang mungkin pernah secara sukarela bekerja dengan administrasi Biden tentang komitmen keselamatan sekarang menarik bagi Trump untuk peraturan yang lebih sedikit.
Terlepas dari retorika dan lobi, Reed yakin bahwa itu adalah kepentingan terbaik perusahaan AI Tech Company untuk menguji produk mereka, memastikan keamanan mereka sebelum menempatkan mereka di pasar.
Bagaimanapun, tuntutan hukum yang memaksa perusahaan untuk mengungkapkan pekerjaan batin mereka dan mengadopsi langkah-langkah keselamatan cenderung membuat berita utama yang buruk, mengurangi kepercayaan investor, dan menabur ketidakpercayaan publik.
Reed juga menyadari narasi bahwa administrasi Biden yang dimaksudkan untuk menghambat inovasi AI.
Para kritikus di Silicon Valley, termasuk kapitalis ventura Marc Andreessen, menuduh bahwa pemerintahan Biden ingin mengendalikan, atau “membunuh,” AI. (Andreessen menggambarkan pertemuan dengan pejabat Biden tentang topik AI sebagai “benar -benar mengerikan,” dan mengatakan dugaan pertukaran itu membantu meyakinkannya untuk mendukung dan mendukung secara finansial Trump.)
Reed berpartisipasi dalam berbagai pertemuan dengan para pemangku kepentingan teknologi besar, termasuk Andreessen. Dia dengan sopan tidak setuju bahwa hal -hal yang digambarkan oleh para kritikus terjadi selama percakapan ini.
“Thrum di Silicon Valley telah mencoba menyarankan bahwa pemerintahan Biden entah bagaimana melampaui AI, yang tidak benar,” katanya. “Kami tidak memiliki otoritas regulasi untuk melampaui batas, bahkan jika kami mau.”
Reed sebaliknya percaya keberatan utama dari investor teknologi Silicon Valley seperti Andreessen terhadap kebijakan pemerintahan Biden yang berkaitan dengan upaya Komisi Sekuritas dan Bursa untuk menindak perusahaan cryptocurrency. Andreessen mendukung beberapa perusahaan ini, dan administrasi Trump telah menjatuhkan sejumlah tuntutan hukum SEC dalam beberapa minggu terakhir.
Pro-inovasi, pro-aman
Terlepas dari karakterisasi pejabat Biden sebagai anti-Ai, Reed mengatakan ia mendukung inovasi-dan ingin memastikan bahwa perusahaan mendapatkannya “benar” sejak awal.
“Penting bagi Amerika untuk memenangkan perlombaan AI, bukan China, tetapi juga penting bagi Amerika untuk menetapkan standar untuk kepercayaan, keamanan, dan keselamatan AI, karena China tidak akan melakukan itu.”
Reed mengatakan bahwa bidang bipartisan dan kerja sama industri yang mungkin, misalnya, dapat mengatasi Deepfake eksplisit, sebuah teknologi yang telah menjerat remaja dan remaja dengan konsekuensi yang menghancurkan.
Gedung Putih Biden meletakkan strateginya sendiri untuk mengekang citra non-konsensual, dan Ibu Negara Melania Trump telah mendukung RUU yang memberikan perlindungan yang lebih kuat kepada para korban.
Jelas, Reed mengatakan, ini bukan area di mana perusahaan -perusahaan Amerika perlu mengejar dominasi dengan segala cara: “Kita tidak perlu memimpin dunia dalam Deepfake – kita ingin memimpin dunia dalam menghentikan Deepfake.”
Reed mengatakan tidak ada waktu untuk sia -sia di bagian depan mana pun, terutama yang berkaitan dengan memastikan bahwa produk AI dirancang dengan privasi dan keamanan anak -anak dalam pikiran.
“Kami dapat mencapai AI yang paling kuat dan masih memastikan bahwa privasi dilindungi dan perusahaan transparan tentang apa yang mereka lakukan untuk membuat produk mereka aman,” katanya.