Apa itu AI Bangun?

Presiden Donald Trump mengatakan bahwa “bangun AI” adalah ancaman mendesak terhadap kebenaran dan pemikiran independen. Para kritikus mengatakan rencananya untuk memerangi apa yang disebut AI merupakan ancaman terhadap kebebasan berbicara dan berpotensi melanggar Amandemen Pertama.

Istilah ini telah mengambil signifikansi baru sejak Presiden menguraikan Rencana Aksi AI Gedung Putih pada hari Rabu, 23 Juli, bagian dari dorongan untuk mengamankan dominasi Amerika di sektor intelijen buatan yang tumbuh cepat.

Rencana Aksi AI menginformasikan trio perintah eksekutif:

Rencana aksi memeriksa beberapa item dari wishlist teknologi besar dan meminjam ungkapan seperti “pencarian kebenaran” langsung dari para pemimpin AI seperti Elon Musk. Perintah eksekutif tentang AI Woke juga memposisikan model bahasa besar dengan kecenderungan liberal yang diduga sebagai hantu sayap kanan baru.

Jadi, apa itu bangun AI? Ini bukan istilah yang mudah untuk didefinisikan, dan jawabannya sepenuhnya tergantung pada siapa yang Anda minta. Menanggapi pertanyaan Mashable, juru bicara Gedung Putih mengarahkan kami ke bahasa ini dalam lembar fakta yang dikeluarkan bersama dengan perintah AI yang terbangun: “Output AI yang bias didorong oleh ideologi seperti keragaman, keadilan, dan inklusi (DEI) dengan biaya akurasi.”

Apa itu AI Bangun? Membongkar definisi Gedung Putih

Menariknya, kecuali untuk judulnya, teks dari pesanan eksekutif AI Woke tidak benar -benar menggunakan istilah ini. Dan meskipun urutan berisi bagian definisi, istilah itu sendiri tidak jelas didefinisikan di sana juga. ;

Dan inilah cara lembar fakta mendefinisikan “pencarian kebenaran” dan “netralitas ideologis”:

Pencarian kebenaran berarti bahwa LLMS akan menjadi jujur dan memprioritaskan keakuratan historis, penyelidikan ilmiah, dan objektivitas, dan mengakui ketidakpastian di mana informasi yang dapat diandalkan tidak lengkap atau kontradiktif.

Netralitas ideologis berarti bahwa LLM harus menjadi alat netral, non -partisan yang tidak memanipulasi respons yang mendukung dogma ideologis seperti DEI, dan bahwa pengembang tidak akan dengan sengaja mengkodekan penilaian partisan atau ideologis ke dalam output LLM kecuali jika penilaian tersebut diminta oleh atau mudah diakses oleh pengguna akhir.

Jadi, tampaknya Gedung Putih mendefinisikan AI sebagai llms yang tidak cukup mencari kebenaran atau netral secara ideologis. Perintah eksekutif juga menyebut contoh spesifik bias potensial, termasuk “teori ras kritis, transgenderisme, bias tidak sadar, intersectionality, dan rasisme sistemik.” Jelas, ada perselisihan di seluruh budaya tentang apakah subjek-subjek tersebut (termasuk “transgenderisme,” yang bukan istilah yang diterima oleh orang-orang transgender) secara inheren bias.

Secara kritis, perusahaan AI yang gagal memenuhi tes lak Gedung Putih dapat dikunci dari kontrak federal yang menguntungkan. Dan karena tatanan mendefinisikan kepercayaan politik liberal yang populer – belum lagi seluruh kelompok manusia – sebagai bias secara inheren, perusahaan AI mungkin menghadapi tekanan untuk menyesuaikan input dan output model mereka.

Kecepatan cahaya yang dapat dipasangkan

Pemerintahan Trump telah berbicara dalam permainan besar tentang kebebasan berbicara, tetapi kritik terhadap rencana aksi mengatakan perintah ini sendiri merupakan ancaman besar bagi kebebasan berbicara.

“Bagian dari Rencana Aksi berjudul 'Pastikan bahwa Perbatasan AI melindungi kebebasan berbicara dan nilai-nilai Amerika' tampaknya dimotivasi oleh keinginan untuk mengendalikan informasi apa yang tersedia melalui alat AI dan dapat mengusulkan tindakan yang akan melanggar Amandemen Pertama,” kata Kit Walsh, Direktur AI dan Proyek Hukum Akses-ke-pengetahuan di Yayasan Perbatasan Elektronik, dalam sebuah pernyataan kepada Mashable. “Generatif AI melibatkan hak Amandemen Pertama pengguna untuk menerima informasi, dan biasanya juga mencerminkan pilihan ekspresif yang dilindungi dari banyak manusia yang terlibat dalam membentuk pesan yang ditulis AI. Pemerintah tidak dapat lagi menentukan ide apa yang disampaikan melalui AI daripada melalui surat kabar atau situs web.”

“Pemerintah memiliki lebih banyak kelonggaran untuk memutuskan layanan mana yang dibeli untuk penggunaannya sendiri, tetapi mungkin tidak menggunakan kekuatan ini untuk menghukum penerbit karena menyediakan layanan AI yang tersedia yang menyampaikan ide -ide yang tidak disukai pemerintah,” kata Walsh.

Apakah Bangun AI masalah nyata?

Sekali lagi, jawabannya sepenuhnya tergantung pada di mana Anda jatuh di sepanjang garis patahan politik, dan istilah “bangun” telah menjadi kontroversial dalam beberapa tahun terakhir.

Kata sifat ini berasal dari komunitas kulit hitam, di mana ia menggambarkan orang -orang dengan kesadaran politik bias rasial dan ketidakadilan. Baru-baru ini, banyak kaum konservatif sudah mulai menggunakan kata itu sebagai penghinaan, penghinaan semua untuk orang-orang liberal yang seharusnya benar secara politis.

Sebenarnya, baik kaum liberal maupun konservatif khawatir tentang bias dalam model bahasa besar.

Pada bulan November 2024, The Heritage Foundation, sebuah kelompok hukum konservatif, menjadi tuan rumah panel di YouTube tentang topik Woke AI. Curt Levey, presiden Komite Keadilan, adalah salah satu pakar panel, dan sebagai pengacara konservatif yang juga bekerja di industri intelijen buatan, ia memiliki perspektif yang unik untuk dibagikan.

Saya pikir menarik bahwa kedua kiri dan kanan mengeluh tentang bahaya bias di dalam AI, tetapi mereka … fokus pada hal -hal yang sangat berbeda. Kiri difokuskan terutama pada gagasan bahwa model AI mendiskriminasi berbagai kelompok minoritas ketika mereka membuat keputusan tentang mempekerjakan, pinjaman, jumlah jaminan, pengakuan wajah. Hak di sisi lain mengkhawatirkan bias terhadap sudut pandang konservatif dan orang -orang dalam model bahasa besar seperti chatgpt.

Elon Musk telah menjelaskan bahwa dia berpikir bahwa model AI mewarisi pola pikir yang terbangun dari pencipta mereka, dan bahwa itu masalah jika hanya karena bertentangan dengan keberadaan, apa yang dia sebut, pencarian kebenaran secara maksimal. Musk mengatakan bahwa perusahaan mengajar AI untuk berbohong atas nama kebenaran politik.

Levey juga mengatakan bahwa jika LLM bias, itu tidak berarti mereka “dirancang untuk menjadi bias.” Dia menambahkan, “para ilmuwan yang membangun model AI generatif ini harus membuat pilihan tentang data apa yang akan digunakan, dan Anda tahu, banyak dari para ilmuwan yang sama ini hidup di daerah yang sangat liberal seperti San Francisco Bay Area, dan bahkan jika mereka tidak mencoba membuat sistem menjadi bias, mereka mungkin memiliki bias yang tidak sadar ketika datang untuk memilih data.”

Seorang konservatif menggunakan frasa “bias tidak sadar” tanpa memutar matanya? Liar.

LLM memiliki bias karena kami memiliki bias

Pada akhirnya, model AI mencerminkan bias konten yang mereka latih, dan karenanya mereka mencerminkan bias kita sendiri kembali pada kita. Dalam hal ini, mereka seperti cermin, kecuali cermin dengan kecenderungan untuk berhalusinasi.

Untuk mematuhi Perintah Eksekutif, perusahaan AI dapat mencoba mengurangi jawaban “bias” dalam beberapa cara. Pertama, dengan mengendalikan data yang digunakan untuk melatih sistem ini, mereka dapat mengkalibrasi output. Mereka juga dapat menggunakan petunjuk sistem, yang merupakan instruksi tingkat tinggi yang mengatur semua output model.

Tentu saja, seperti yang ditunjukkan Xai berulang kali, pendekatan yang terakhir bisa … bermasalah. Pertama, Xai's Chatbot Grok mengembangkan fiksasi pada “Genosida Putih di Afrika Selatan,” dan baru -baru ini mulai menyebut dirinya Mecha Hitler. Transparansi dapat memberikan pemeriksaan tentang pelanggaran potensial, dan ada gerakan yang berkembang untuk memaksa perusahaan AI untuk mengungkapkan data pelatihan dan permintaan sistem di belakang model mereka.

Terlepas dari bagaimana perasaan Anda tentang AI Woke, Anda harus berharap untuk mendengar istilah lebih banyak di bulan -bulan mendatang.