Peneliti AI menjalankan percobaan rahasia pada pengguna reddit untuk melihat apakah mereka dapat mengubah pikiran mereka – dan hasilnya menyeramkan
Reddit mengancam akan menuntut sekelompok peneliti yang menggunakan kecerdasan buatan (AI) Chatbots untuk secara diam -diam bereksperimen pada penggunanya.
Para ilmuwan dari University of Zurich melepaskan sepasukan bot AI di Forum Reddit R/ChangemyView yang populer – di mana hampir 4 juta pengguna berkumpul untuk memperdebatkan topik yang diperdebatkan – untuk menyelidiki apakah teknologi tersebut dapat digunakan untuk mempengaruhi opini publik.
Untuk mencapai tujuan ini, bot meninggalkan lebih dari 1.700 komentar di seluruh subreddit, menggunakan a Berbagai kedok yang diasumsikan termasuk korban pemerkosaan pria meremehkan trauma serangannya; seorang penasihat kekerasan dalam rumah tangga yang mengklaim bahwa wanita yang paling rentan adalah mereka yang “dilindungi oleh orang tua yang terlalu protektif”; dan seorang pria kulit hitam yang menentang gerakan Black Lives Matter. Bot -bot ini bekerja bersama dengan profil pengguna lainnya untuk menyesuaikan tanggapan mereka untuk persuasif maksimal.
Para peneliti Zurich kemudian mengungkapkan percobaan kepada moderator forum “sebagai bagian dari langkah pengungkapan dalam penelitian ini,” di samping tautan ke draf pertama hasilnya.
“Tim mod CMV perlu memberi tahu komunitas CMV tentang percobaan tidak sah yang dilakukan oleh para peneliti dari University of Zurich pada pengguna CMV,” moderator subreddit menulis dalam sebuah posting memberi tahu pengguna. “Kami pikir ini salah. Kami tidak berpikir bahwa 'belum pernah dilakukan sebelumnya' adalah alasan untuk melakukan percobaan seperti ini.”
Temuan draft, yang mengukur tingkat keberhasilan bot melalui fungsi situs yang memungkinkan pengguna untuk memberikan penghargaan kepada komentar yang berubah pikiran, menunjukkan bahwa respons AI adalah antara tiga dan enam kali lebih persuasif daripada yang dibuat oleh manusia.
Terkait: Menggunakan AI mengurangi keterampilan berpikir kritis Anda, Microsoft Studies memperingatkan
Dan penulis, yang (menentang prosedur akademik standar) meninggalkan nama mereka tanpa diungkapkan dalam draft, mencatat bahwa di seluruh persidangan pengguna yang tidak disadari “tidak pernah menimbulkan kekhawatiran bahwa AI mungkin telah menghasilkan komentar yang diposting oleh akun kami.”
Pos itu disambut dengan kemarahan oleh pengguna dan oleh Ben Lee, kepala pejabat hukum Reddit, yang di a Komentar Di Bawah Posting Menggunakan nama pengguna Traceroo mengumumkan bahwa situs web tersebut akan mengejar tindakan hukum formal terhadap Universitas Zurich.
“Apa yang dilakukan tim University of Zurich ini sangat salah baik di tingkat moral dan hukum,” tulis Lee. “Ini melanggar penelitian akademik dan norma -norma hak asasi manusia, dan dilarang oleh perjanjian dan aturan pengguna Reddit, di samping aturan subreddit.”
Sebagai tanggapan, Universitas Zurich memberi tahu 404 media Bahwa para peneliti tidak akan mempublikasikan hasil penelitian dan bahwa di masa depan komite etika akan mengadopsi proses peninjauan yang lebih ketat bagi mereka, khususnya berkoordinasi dengan komunitas online sebelum mereka menjadi subjek yang tidak diketahui dari percobaan massa.
Apa pun yang diikuti oleh tulisan hukum, eksperimen seperti ini menyoroti kemampuan chatbots yang berkembang untuk menyusup ke wacana online. Di bulan Maret para ilmuwan terungkap Model bahasa besar GPT-4.5 Openai itu sudah mampu lulus tes Turing, berhasil membodohi peserta percobaan dengan berpikir bahwa mereka berbicara dengan manusia lain 73% dari waktu.
Ini juga memberikan kepercayaan pada gagasan bahwa, jika dibiarkan, AI Chatbots memiliki potensi untuk menggusur manusia dalam memproduksi sebagian besar konten Internet. Disebut teori “internet mati”, ide ini Hanya teori konspirasi – Setidaknya untuk saat ini.
