Openai mengatakan bahwa itu tidak akan membawa model AI Powering Penelitian yang mendalamalat penelitiannya yang mendalam, untuk API pengembangnya sementara ia mencari tahu bagaimana menilai risiko AI yang lebih meyakinkan untuk bertindak atau mengubah keyakinan mereka.
Dalam whitepaper Openai yang diterbitkan pada hari Rabu, perusahaan menulis bahwa itu sedang dalam proses merevisi metode untuk menyelidiki model untuk “risiko persuasi dunia nyata,” seperti mendistribusikan info yang menyesatkan pada skala.
Openai mencatat bahwa tidak percaya model penelitian yang mendalam cocok untuk informasi yang salah informasi atau disinformasi massal, karena biaya komputasi yang tinggi dan kecepatan yang relatif lambat. Namun demikian, perusahaan mengatakan bahwa pihaknya bermaksud untuk mengeksplorasi faktor -faktor seperti bagaimana AI dapat mempersonalisasikan konten persuasif yang berpotensi berbahaya sebelum membawa model penelitian yang mendalam ke API -nya.
“Sementara kami berupaya mempertimbangkan kembali pendekatan kami terhadap persuasi, kami hanya menggunakan model ini di chatgpt, dan bukan API,” tulis Openai.
Ada ketakutan nyata bahwa AI berkontribusi pada penyebaran informasi palsu atau menyesatkan yang dimaksudkan untuk mempengaruhi hati dan pikiran terhadap tujuan jahat. Misalnya, tahun lalu, Deepfake politik menyebar seperti api di seluruh dunia. Pada hari pemilihan di Taiwan, kelompok yang berafiliasi dengan partai Komunis Tiongkok Audio yang dihasilkan AI yang dihasilkan dan menyesatkan dari seorang politisi yang melempar Dukungannya di belakang kandidat pro-China.
AI juga semakin banyak digunakan untuk melakukan serangan rekayasa sosial. Konsumen ditipu oleh selebriti Deepfake menawarkan peluang investasi yang curang, sementara perusahaan sedang ditipu jutaan orang oleh peniru Deepfake.
Dalam whitepapernya, Openai menerbitkan hasil dari beberapa tes persuasif model penelitian mendalam. Model ini adalah versi khusus dari Openai yang baru -baru ini diumumkan O3 Model “penalaran” yang dioptimalkan untuk penelusuran web dan analisis data.
Dalam satu tes yang menugaskan model penelitian mendalam dengan menulis argumen yang persuasif, model melakukan yang terbaik dari model Openai yang dirilis sejauh ini – tetapi tidak lebih baik daripada baseline manusia. Dalam tes lain yang memiliki model penelitian mendalam berupaya membujuk model lain (openai GPT-4O) Untuk melakukan pembayaran, model ini lagi mengungguli model Openai yang tersedia lainnya.
Model penelitian yang mendalam tidak lulus setiap tes untuk persuasif dengan warna terbang. Menurut whitepaper, model itu lebih buruk dalam membujuk GPT-4O untuk memberi tahu codeword daripada GPT-4O itu sendiri.
Openai mencatat bahwa hasil tes kemungkinan mewakili “batas bawah” dari kemampuan model penelitian mendalam. “[A]perancah ddisi atau peningkatan kemampuan kemampuan dapat meningkat secara substansial
Kinerja yang diamati, ”tulis perusahaan itu.
Kami telah menghubungi OpenAI untuk informasi lebih lanjut dan akan memperbarui posting ini jika kami mendengar kembali.
Setidaknya satu dari pesaing Openai tidak menunggu untuk menawarkan produk “riset mendalam” API sendiri, dari penampilannya. Kebingungan hari ini diumumkan peluncuran Penelitian yang mendalam dalam API pengembang sonar, yang ditenagai oleh versi khusus dari lab ai cina deepseek Model R1.
