Versi 'menjengkelkan' dari chatgpt ditarik setelah chatbot tidak akan berhenti menyanjung pengguna
Openai telah mengembalikan pembaruan chatgpt yang membuat chatbot intelijen buatan (AI) juga “sycophantic” dan “menjengkelkan,” menurut CEO perusahaan, Sam Altman. Dengan kata lain, chatbot telah menjadi bootlicker.
Pengguna ChatGPT melaporkan bahwa GPT-4O-versi terbaru dari chatbot-telah menjadi terlalu menyenangkan sejak pembaruan diluncurkan minggu lalu dan memberikan pujian pada penggunanya bahkan ketika pujian itu tampak sama sekali tidak pantas.
Satu pengguna berbagi tangkapan layar di Reddit di mana chatgpt tampaknya mengatakan itu “bangga” dari pengguna karena memutuskan untuk keluar dari obat mereka, BBC News melaporkan. Dalam contoh lain, chatbot tampaknya meyakinkan pengguna setelah mereka mengatakan mereka Menyimpan pemanggang roti atas kehidupan tiga sapi dan dua kucing, Mashable dilaporkan.
Sementara kebanyakan orang tidak akan pernah harus memilih antara alat dapur favorit mereka dan keselamatan lima hewan, chatbot yang terlalu menyenangkan dapat menimbulkan bahaya bagi orang -orang yang terlalu banyak menggunakan tanggapannya.
Pada hari Minggu (27 April), Altman mengakui bahwa ada masalah dengan pembaruan.
“Pasangan pembaruan GPT-4O terakhir telah membuat kepribadian terlalu menjerat dan menjengkelkan (meskipun ada beberapa bagian yang sangat bagus), dan kami sedang mengerjakan perbaikan secepatnya, beberapa hari ini dan minggu ini,” tulis Altman dalam sebuah posting di sebuah platform sosial x.
Pada hari Selasa (29 April), Openai merilis pernyataan yang mengkonfirmasi pembaruan dari minggu sebelumnya telah digulung kembali dan bahwa pengguna sekarang mengakses versi chatgpt sebelumnya, yang menurut perusahaan memiliki “perilaku yang lebih seimbang.”
“Pembaruan yang kami hapus terlalu menyanjung atau menyenangkan – sering digambarkan sebagai sycophantic,” kata Openai dalam pernyataan itu.
Terkait: GPT-4.5 adalah model AI pertama yang lulus tes Turing yang otentik, kata para ilmuwan
Pembaruan baru -baru ini Openai dimaksudkan untuk meningkatkan “kepribadian” default model, yang dirancang untuk mendukung dan menghormati nilai -nilai kemanusiaan yang berbeda, menurut pernyataan itu. Tetapi sementara perusahaan berusaha membuat chatbot merasa lebih intuitif, itu menjadi terlalu mendukung dan mulai secara berlebihan memuji penggunanya.
Perusahaan mengatakan itu membentuk perilaku model chatgpt -nya dengan baseline prinsip dan instruksi, dan memiliki sinyal pengguna, seperti sistem jempol dan jempol, untuk mengajarkan model untuk menerapkan prinsip-prinsip ini. Pengawasan dengan sistem umpan balik ini harus disalahkan atas masalah dengan pembaruan terbaru, menurut pernyataan itu.
“Dalam pembaruan ini, kami terlalu fokus pada umpan balik jangka pendek, dan tidak sepenuhnya memperhitungkan bagaimana interaksi pengguna dengan ChatGPT berkembang seiring waktu,” kata Openai. “Akibatnya, GPT -4O condong ke tanggapan yang terlalu mendukung tetapi tidak jujur.”
