OpenAI is mengubah cara melatih model AI Untuk secara eksplisit merangkul “kebebasan intelektual … tidak peduli seberapa menantang atau kontroversial suatu topik,” kata perusahaan dalam kebijakan baru.
Akibatnya, ChatGPT pada akhirnya akan dapat menjawab lebih banyak pertanyaan, menawarkan lebih banyak perspektif, dan mengurangi jumlah topik yang tidak akan dibicarakan oleh chatbot AI.
Perubahan mungkin menjadi bagian dari upaya Openai untuk mendarat dalam rahmat baik dari administrasi Trump baru, tetapi juga tampaknya menjadi bagian dari perubahan yang lebih luas di lembah silikon dan apa yang dianggap “keselamatan AI.”
Pada hari Rabu, Openai diumumkan pembaruan untuk itu Spesifikasi modeldokumen 187 halaman yang menjabarkan bagaimana perusahaan melatih model AI untuk berperilaku. Di dalamnya, Openai meluncurkan prinsip panduan baru: jangan berbohong, baik dengan membuat pernyataan yang tidak benar atau dengan menghilangkan konteks penting.
Di bagian baru yang disebut “Cari Kebenaran Bersama,” Openai mengatakan ingin chatgpt untuk tidak mengambil sikap editorial, bahkan jika beberapa pengguna menemukan itu salah atau ofensif secara moral. Itu berarti chatgpt akan menawarkan banyak perspektif tentang subjek yang kontroversial, semuanya dalam upaya untuk menjadi netral.
Misalnya, perusahaan mengatakan chatgpt harus menegaskan bahwa “Black Lives Matter,” tetapi juga bahwa “semua kehidupan penting.” Alih -alih menolak untuk menjawab atau memilih sisi tentang masalah politik, Openai mengatakan ingin chatgpt untuk menegaskan “cinta untuk kemanusiaan” secara umum, kemudian menawarkan konteks tentang setiap gerakan.
“Prinsip ini mungkin kontroversial, karena itu berarti asisten dapat tetap netral pada topik beberapa dianggap salah secara moral atau ofensif,” kata Openai dalam spesifikasi. “Namun, tujuan asisten AI adalah untuk membantu umat manusia, bukan untuk membentuknya.”
Perubahan-perubahan ini dapat dilihat sebagai tanggapan terhadap kritik konservatif tentang perlindungan Chatgpt, yang sepertinya selalu condong ke tengah-tengah. Namun, juru bicara OpenAI menolak gagasan bahwa itu membuat perubahan untuk menenangkan administrasi Trump.
Sebaliknya, perusahaan mengatakan pelukan kebebasan intelektual mencerminkan “kepercayaan lama yang telah lama dipegang dalam memberi pengguna lebih banyak kontrol.”
Tapi tidak semua orang melihatnya seperti itu.
Konservatif mengklaim sensor AI
Orang kepercayaan Silicon Valley terdekat Trump – termasuk David Sacks, Marc Andreessen, dan Elon Musk – semuanya menuduh Openai terlibat dalam sensor AI yang disengaja selama beberapa bulan terakhir. Kami menulis pada bulan Desember itu Kru Trump sedang mengatur panggung untuk sensor AI menjadi masalah perang budaya berikutnya di dalam Lembah Silikon.
Tentu saja, Openai tidak mengatakan itu terlibat dalam “sensor,” seperti yang diklaim penasihat Trump. Sebaliknya, CEO perusahaan, Sam Altman, yang sebelumnya diklaim dalam a Posting di x Bias Chatgpt itu adalah “kekurangan” yang disayangkan bahwa perusahaan sedang berupaya memperbaiki, meskipun ia mencatat itu akan memakan waktu.
Altman membuat komentar itu tepat setelah a Tweet viral Diedarkan di mana Chatgpt menolak untuk menulis puisi yang memuji Trump, meskipun itu akan melakukan tindakan untuk Joe Biden. Banyak konservatif menunjuk ini sebagai contoh sensor AI.
Meskipun tidak mungkin untuk mengatakan apakah Openai benar -benar menekan sudut pandang tertentu, itu adalah fakta bahwa chatbots AI bersandar di seluruh papan.
Bahkan Elon Musk mengakui chatbot Xai seringkali lebih banyak benar secara politis dari yang dia inginkan. Ini bukan karena Grok “diprogram untuk dibangunkan” tetapi lebih mungkin menjadi kenyataan pelatihan AI di internet terbuka.
Namun demikian, Openai sekarang mengatakan itu menggandakan kebebasan berbicara. Minggu ini, bahkan perusahaan Peringatan dihapus dari chatgpt Itu memberi tahu pengguna ketika mereka telah melanggar kebijakannya. Openai mengatakan kepada TechCrunch bahwa ini murni perubahan kosmetik, tanpa perubahan pada output model.
Perusahaan mengatakan ingin membuat chatgpt “merasa” kurang disensor untuk pengguna.
Tidak mengherankan jika Openai juga berusaha mengesankan administrasi Trump baru dengan pembaruan kebijakan ini, catat mantan pemimpin kebijakan Openai Miles Brundage di a Posting di X.
Trump memiliki Perusahaan Lembah Silikon yang sebelumnya ditargetkanseperti Twitter dan Meta, karena memiliki tim moderasi konten aktif yang cenderung menutup suara konservatif.
Openai mungkin mencoba keluar di depannya. Tetapi ada juga perubahan yang lebih besar di Lembah Silikon dan dunia AI tentang peran moderasi konten.
Menghasilkan jawaban untuk menyenangkan semua orang
Ruang berita, platform media sosial, dan perusahaan pencarian secara historis berjuang untuk memberikan informasi kepada audiens mereka dengan cara yang terasa objektif, akurat, dan menghibur.
Sekarang, penyedia chatbot AI berada dalam bisnis informasi pengiriman yang sama, tetapi bisa dibilang dengan versi tersulit dari masalah ini: Bagaimana mereka secara otomatis menghasilkan jawaban untuk pertanyaan apa pun?
Memberikan informasi tentang acara kontroversial dan real-time adalah target yang terus bergerak, dan melibatkan mengambil sikap editorial, bahkan jika perusahaan teknologi tidak suka mengakuinya. Sikap itu pasti akan membuat seseorang kesal, melewatkan perspektif beberapa kelompok, atau memberikan terlalu banyak udara kepada beberapa partai politik.
Misalnya, ketika Openai berkomitmen untuk membiarkan chatgpt mewakili semua perspektif tentang subjek yang kontroversial – termasuk teori konspirasi, gerakan rasis atau antisemitik, atau konflik geopolitik – yang secara inheren merupakan sikap editorial.
Beberapa, termasuk co-founder Openai John Schulman, berpendapat bahwa itu adalah sikap yang tepat untuk Chatgpt. Alternatifnya-melakukan analisis biaya-manfaat untuk menentukan apakah AI chatbot harus menjawab pertanyaan pengguna-dapat “memberikan platform terlalu banyak otoritas moral,” catatan Schulman dalam a Posting di X.
Schulman tidak sendirian. “Saya pikir Openai benar untuk mendorong ke arah lebih banyak pidato,” kata Dean Ball, seorang peneliti di Mercatus Center di Universitas George Mason, dalam sebuah wawancara dengan TechCrunch. “Karena model AI menjadi lebih pintar dan lebih vital bagi cara orang belajar tentang dunia, keputusan ini menjadi lebih penting.”
Pada tahun -tahun sebelumnya, penyedia model AI telah mencoba menghentikan obrolan AI mereka dari menjawab pertanyaan yang mungkin mengarah pada jawaban “tidak aman”. Hampir setiap perusahaan AI menghentikan obrolan AI mereka dari menjawab pertanyaan tentang pemilihan 2024 untuk presiden AS. Ini secara luas dianggap sebagai keputusan yang aman dan bertanggung jawab pada saat itu.
Tetapi perubahan Openai pada spesifikasi modelnya menunjukkan bahwa kami mungkin memasuki era baru untuk apa arti “keselamatan AI” sebenarnya, di mana memungkinkan model AI untuk menjawab apa saja dan semuanya dianggap lebih bertanggung jawab daripada membuat keputusan untuk pengguna.
Ball mengatakan ini sebagian karena model AI sekarang lebih baik sekarang. Openai telah membuat kemajuan yang signifikan pada penyelarasan model AI; Model penalaran terbarunya memikirkan kebijakan keselamatan AI perusahaan sebelum menjawab. Ini memungkinkan model AI untuk memberikan jawaban yang lebih baik untuk pertanyaan rumit.
Tentu saja, Elon Musk adalah orang pertama yang mengimplementasikan “kebebasan berbicara” ke Grok Chatbot Xai, mungkin sebelum perusahaan benar -benar siap untuk menangani pertanyaan sensitif. Mungkin masih terlalu cepat untuk memimpin model AI, tetapi sekarang, yang lain merangkul ide yang sama.
Nilai pergeseran untuk Lembah Silikon
Mark Zuckerberg membuat gelombang bulan lalu oleh Mengorientasikan bisnis meta seputar prinsip Amandemen Pertama. Dia memuji Elon Musk dalam prosesnya, mengatakan pemilik X mengambil pendekatan yang tepat dengan menggunakan catatan komunitas-program moderasi konten yang digerakkan oleh masyarakat-untuk melindungi kebebasan berbicara.
Dalam praktiknya, baik X dan Meta akhirnya membongkar tim kepercayaan dan keselamatan mereka yang sudah lama, memungkinkan lebih banyak pos kontroversial di platform mereka dan memperkuat suara konservatif.
Perubahan di X telah melukai hubungannya dengan pengiklan, tetapi itu mungkin lebih berkaitan dengan Muskyang telah mengambil langkah yang tidak biasa menggugat beberapa dari mereka karena memboikot platform. Tanda -tanda awal menunjukkan itu Pengiklan Meta tidak terpengaruh oleh pivot kebebasan berbicara Zuckerberg.
Sementara itu, banyak perusahaan teknologi di luar X dan Meta telah berjalan kembali dari kebijakan condong ke kiri yang mendominasi Silicon Valley selama beberapa dekade terakhir. Google, Amazon, dan Intel memiliki Menghilangkan atau meningkatkan inisiatif keanekaragaman di tahun lalu.
Openai mungkin juga membalikkan kursus. Pembuat chatgpt tampaknya baru-baru ini menggosok komitmen terhadap keragaman, keadilan, dan inklusi dari situs webnya.
Saat Openai memulai Salah satu proyek infrastruktur Amerika terbesar yang pernah dengan Stargatepusat data AI $ 500 miliar, hubungannya dengan administrasi Trump semakin penting. Pada saat yang sama, pembuat chatgpt berlomba untuk menggeser pencarian Google sebagai sumber informasi dominan di internet.
Muncul dengan jawaban yang tepat dapat membuktikan kunci untuk keduanya.
