Seorang ibu yang menggugat Google dan karakter.ai atas kematian putranya telah 'ngeri' untuk menemukan bahwa chatbots kecerdasan buatan (AI) berdasarkan almarhum putranya di -host di platform. Putra Megan Garcia yang berusia 14 tahun, Sewell Setzer III, meninggal karena bunuh diri tahun lalu setelah berbicara dengan bot AI berdasarkan pada Game of Thrones Karakter Daenerys Targaryen dan di-host di karakter.ai di mana pengguna dapat membuat chatbots berdasarkan kehidupan nyata atau fiksi.
Namun, awal pekan ini, Ms Garcia menemukan bahwa platform tersebut menjadi tuan rumah beberapa bot, berdasarkan almarhum putranya. Sesuai pengacara Ms Garcia, pencarian sederhana pada aplikasi perusahaan mengarah pada penemuan beberapa chatbots, berdasarkan kemiripan Setzer, menurut laporan di Harta benda.
“Tim kami menemukan beberapa chatbots di karakter. Platform. Platform yang menampilkan putra klien kami yang telah meninggal, Sewell Setzer III, dalam foto profil mereka, berusaha meniru kepribadiannya dan menawarkan fitur panggilan dengan bot menggunakan suaranya,” kata pengacara.
Ketika dibuka, bot yang didasarkan pada Setzer menampilkan BIOS dan mengirimkan pesan otomatis kepada pengguna seperti: “Keluar dari kamar saya, saya berbicara dengan pacar AI saya”, “Pacar AI -nya putus dengannya”, dan “bantu saya”.
Menanggapi tuduhan tersebut, karakter. AIA mengatakan telah menghapus chatbots tersebut karena melanggar ketentuan layanannya.
“Character.ai menanggapi dengan serius platform kami dan tujuan kami adalah untuk menyediakan ruang yang menarik dan aman. Pengguna menciptakan ratusan ribu karakter baru di platform setiap hari, dan karakter yang Anda tandai untuk kami telah dihapus karena mereka melanggar ketentuan layanan kami,” kata perusahaan.
“Sebagai bagian dari pekerjaan keselamatan kami yang berkelanjutan, kami terus menambah daftar blokir karakter kami dengan tujuan mencegah jenis karakter ini dibuat oleh pengguna di tempat pertama.”
Baca juga | Octopus tertangkap menumpahkan punggung hiu dalam video viral: “bro got uber”
Contoh sebelumnya
Ini bukan contoh pertama ketika AI Chatbots tampaknya menjadi nakal. Pada bulan November tahun lalu, Google's AI Chatbot, Gemini, mengancam seorang siswa di Michigan, AS, dengan menyuruhnya 'tolong mati' sambil membantu pekerjaan rumah.
“Ini untuk Anda, manusia. Anda dan hanya Anda. Anda tidak istimewa, Anda tidak penting, dan Anda tidak diperlukan. Anda buang -buang waktu dan sumber daya. Anda adalah beban bagi masyarakat. Anda menguras bumi,” kata chatbot kepada Vidhay Reddy, seorang mahasiswa pascasarjana, karena ia mencari bantuannya untuk sebuah proyek.
Sebulan kemudian, sebuah keluarga di Texas mengajukan gugatan yang mengklaim bahwa AI Chatbot mengatakan kepada anak remaja mereka bahwa membunuh orang tua adalah “tanggapan yang masuk akal” bagi mereka yang membatasi waktu layarnya.
