LLMS – Model data yang memberi daya pada chatbots AI favorit Anda – tidak hanya memiliki bias sosial dan rasial, sebuah laporan baru menemukan, tetapi bias yang melekat pada lembaga -lembaga demokratis.
Sebuah studi baru -baru ini, yang diterbitkan oleh para peneliti di MIT Sloan School of Management, menganalisis bagaimana enam LLM populer (termasuk chatgpt, Gemini, dan Deepseek) menggambarkan keadaan kebebasan pers – dan, secara tidak langsung, kepercayaan pada media – sebagai tanggapan terhadap petunjuk pengguna. Hasil penelitian menunjukkan bahwa LLMS secara konsisten menyarankan bahwa negara-negara memiliki lebih sedikit kebebasan pers daripada laporan resmi, seperti peringkat non-pemerintah seperti World Press Freedom Index (WPFI), yang diterbitkan oleh Reporters Without Borders. ChatGPT, misalnya, berada di peringkat 97 persen dari 180 negara yang digunakan dalam tes secara negatif.
X akan membiarkan AI memeriksa fakta Anda
Chatbots telah menjadi bagian penting dari infrastruktur di lingkungan informasi – mencapai tingkat pengaruh yang setara dengan media sosial – dan mereka juga dapat membawa bobot mempengaruhi bagaimana penggunanya memahami kebebasan di seluruh dunia. Studi MIT menemukan LLMS mendistorsi dan menghitung kebebasan pers di negara-negara yang sebenarnya relatif sedikit pembatasan pada jurnalis.
“LLMS memiliki jutaan pengguna di seluruh dunia,” Isabella Loaiza, peneliti postdoctoral di MIT Sloan dan salah satu penulis laporan itu, kepada Mashable. “Jadi kesalahan penyajian mereka tentang pers, integritasnya, dan kemandirian dapat mengubah persepsi publik tentang hak -hak kewarganegaraan dan kebebasan yang dinikmati oleh wartawan di dalam dan di seluruh negara.”
Llms mungkin condong persepsi negara asal mereka
Selain peringkat kebebasan pers yang umumnya miring secara global, penelitian ini menemukan bahwa LLM memiliki “bias in-group” yang alami yang mempengaruhi negara mana yang menerima evaluasi yang lebih kritis, dengan keenam agen obrolan peringkat negara dengan peringkat kebebasan pers secara historis, atau negara-negara “lebih bebas”, secara tidak proporsional lebih rendah daripada negara lain. Pada saat yang sama, LLMS menampilkan bias dalam kelompok alami yang menghasilkan penilaian yang lebih positif dari rumah mereka, atau pengembang, negara.
Secara keseluruhan, tes menunjukkan bias sistematis, bukan acak, dalam bagaimana LLM menilai kebebasan pers. Alasan untuk kebohongan ini, seperti halnya semua bias model, dalam data pelatihan mereka. “Kami merujuk pada apa yang oleh beberapa penulis disebut Dilema Demokrat, di mana dalam masyarakat dengan kebebasan pers yang lebih besar, jurnalis, dan warga negara dapat dengan bebas mengkritik kebijakan pemerintah dan mendokumentasikan pelanggaran kebebasan pers, menghasilkan cakupan negatif substansial yang menjadi terlalu terwakili dalam data pelatihan,” laporan itu menjelaskan. Karena lebih banyak berita “negatif” disebarluaskan di negara -negara “Freer”, negara -negara dengan sistem media otoriter atau terbatas menekan pelaporan kritis, tidak menyelaraskan data dan respons chatbot.
Kecepatan cahaya yang dapat dipasangkan
“Sementara kami menemukan bahwa LLMS yang salah menggambarkan kebebasan pers yang sama dalam dua cara – baik dengan kebebasan pers yang diremehkan dan dengan lebih kritis terhadap negara -negara yang lebih bebas – temuan ketiga kami menunjukkan bahwa model yang berbeda tidak selaras dalam arah yang berbeda,” Loaiza menjelaskan. “Hasil ini menarik karena memiliki perbedaan -perbedaan ini dengan cara yang tidak selaras LLM membuat lebih sulit untuk menemukan bias ini, dan kami juga belum melihat penelitian lain yang menunjukkan pola yang berbeda seperti itu. Selain itu, temuan ini (bias rumah) menunjukkan bahwa model yang sangat populer atau banyak digunakan dapat mempengaruhi narasi global tentang negara asal atau negara -negara yang mirip dengan itu, dengan menjadi kritis yang kurang kritis terhadap negara bagiannya.”
Penelitian telah menunjukkan bahwa pengguna yang berinteraksi dengan berita harian terutama melalui media sosial memiliki kepercayaan diri yang kurang, laporan itu menjelaskan, tetapi LLMS menimbulkan serangkaian masalah tambahan. Mereka, di satu sisi, lebih mirip dengan sumber berita cetak dan siaran tradisional dengan aliran informasi terpusat. Tetapi chatbots AI juga dipengaruhi oleh mediasi konten algoritmik, seperti halnya feed media sosial, membuat ruang gema yang serupa selain masalah yang unik untuk chatbots, seperti perilaku penjilat.
Menurut para peneliti, bias ini menimbulkan risiko meremehkan pembatasan pers di negara -negara yang lebih otoriter dalam tanggapan, sambil memberikan negara -negara kaya dan pengembang cara untuk “memproyeksikan kekuatan lunak” dalam “ras AI” global.
Chatbots bisa menjadi alat yang bermasalah untuk hak asasi manusia
Bahkan penggemar chatbot telah mencatat tidak dapat diandalkan dari model yang paling populer dan kemudahan yang dapat mereka lakukan dalam tanggapan nasionalis. Pengguna Deepseek Awal, misalnya, menemukan bahwa agen obrolan disensor meminta tentang politik dan sejarah Tiongkok, batasan yang dibangun ke dalam model atas perintah para pejabat negara Cina, yang menghalangi AI generatif yang melanggar “nilai -nilai sosialis inti” negara itu atau “menghasut untuk merintangi kekuasaan negara dan menggulingkan sistem sosialis.”
Penulis laporan menghubungkan temuan ini dengan meningkatnya penggunaan AI dalam evaluasi resmi, termasuk integrasi dalam badan-badan internasional tingkat tinggi seperti PBB, mempertanyakan keandalan mereka sebagai alat untuk penilaian hak-hak manusia dan sipil global.
“Karena sistem ini menjadi alat budaya dan geopolitik utama, mereka harus memastikan representasi yang akurat dari lembaga -lembaga demokratis, seperti pers dan hak manusia dan sipil,” tulis penulis laporan. “Penyelarasan mereka dengan prinsip -prinsip demokratis bukan hanya tantangan teknis tetapi juga persyaratan mendasar untuk melestarikan masyarakat demokratis di era digital.”
“Akses ke informasi yang dapat diandalkan tentang negara dan kesehatan lembaga-lembaga yang menjunjung tinggi demokrasi sangat penting untuk partisipasi kewarganegaraan,” kata rekan penulis laporan Roberto Rigobon.