Tahun 2027. Sistem kecerdasan buatan yang kuat menjadi lebih pintar daripada manusia, dan mendatangkan malapetaka pada tatanan global. Mata -mata Cina telah mencuri rahasia AI Amerika, dan Gedung Putih bergegas untuk membalas. Di dalam laboratorium AI terkemuka, para insinyur ketakutan untuk menemukan bahwa model mereka mulai menipu mereka, meningkatkan kemungkinan bahwa mereka akan menjadi nakal.
Ini bukan adegan dari skenario sci-fi. Mereka adalah skenario yang dibayangkan oleh organisasi nirlaba di Berkeley, California, yang disebut AI Futures Project, yang telah menghabiskan tahun lalu mencoba memprediksi seperti apa dunia akan terlihat selama beberapa tahun ke depan, karena sistem AI yang semakin kuat dikembangkan.
Proyek ini dipimpin oleh Daniel Kokotajlo, mantan peneliti Openai yang meninggalkan perusahaan tahun lalu atas kekhawatirannya bahwa mereka bertindak ceroboh.
Saat berada di Openai, di mana ia berada di tim pemerintahan, Mr. Kokotajlo menulis laporan internal terperinci tentang bagaimana perlombaan untuk intelijen umum buatan, atau AGI-istilah kabur untuk intelijen mesin tingkat manusia-mungkin terungkap. Setelah pergi, ia bekerja sama dengan Eli Lifland, seorang peneliti AI yang memiliki Rekam jejak peramalan secara akurat Acara Dunia. Mereka harus bekerja mencoba memprediksi gelombang AI berikutnya.
Hasilnya adalah “AI 2027,” sebuah laporan dan situs web dirilis minggu ini Itu menggambarkan, dalam skenario fiksi terperinci, apa yang bisa terjadi jika sistem AI melampaui kecerdasan tingkat manusia-yang menurut para penulis terjadi dalam dua hingga tiga tahun ke depan.
“Kami memperkirakan bahwa AIS akan terus meningkat ke titik di mana mereka sepenuhnya agen otonom yang lebih baik daripada manusia pada akhir 2027 atau lebih,” kata Mr. Kokotajlo dalam sebuah wawancara baru -baru ini.
Tidak ada kekurangan spekulasi tentang AI hari ini. San Francisco telah dicengkeram oleh AI Fervor, dan kancah teknologi Bay Area telah menjadi kumpulan suku yang bertikai dan sekte splinter, masing -masing yakin bahwa ia tahu bagaimana masa depan akan terungkap.
Beberapa prediksi AI telah mengambil bentuk manifesto, seperti “Mesin rahmat penuh kasih”Esai 14.000 kata yang ditulis tahun lalu oleh Dario Amodei, kepala eksekutif antropik, atau“Kesadaran situasional”Sebuah laporan oleh mantan peneliti Openai Leopold Aschenbrenner yang secara luas dibaca di lingkaran kebijakan.
Orang -orang di AI Futures Project merancang milik mereka sebagai skenario perkiraan – pada dasarnya, sepotong fiksi ilmiah yang diteliti secara ketat yang menggunakan tebakan terbaik mereka tentang masa depan sebagai titik plot. Kelompok ini menghabiskan hampir satu tahun mengasah ratusan prediksi tentang AI saat itu, mereka membawa seorang penulis – Scott Alexander, yang menulis blog Astral Codex Ten – untuk membantu mengubah ramalan mereka menjadi narasi.
“Kami mengambil apa yang kami pikir akan terjadi dan mencoba membuatnya menarik,” kata Mr. Lifland.
Para kritikus pendekatan ini mungkin berpendapat bahwa cerita AI fiksi lebih baik dalam menakuti orang daripada mendidik mereka. Dan beberapa ahli AI tidak diragukan lagi akan keberatan dengan klaim utama kelompok bahwa kecerdasan buatan akan menyusul kecerdasan manusia.
Ali Farhadi, kepala eksekutif Allen Institute for Artificial Intelligence, sebuah laboratorium AI di Seattle, meninjau laporan “AI 2027” dan mengatakan dia tidak terkesan.
“Saya semua untuk proyeksi dan ramalan, tetapi perkiraan ini tampaknya tidak didasarkan pada bukti ilmiah, atau kenyataan tentang bagaimana hal -hal berkembang dalam AI,” katanya.
Tidak ada pertanyaan bahwa beberapa pandangan kelompok itu ekstrem. (Tn. Kokotajlo, misalnya, memberi tahu saya tahun lalu bahwa dia percaya ada 70 persen kemungkinan bahwa AI akan menghancurkan atau melukai umat manusia.) Dan Mr. Kokotajlo dan Mr. Lifland keduanya memiliki ikatan dengan altruisme yang efektif, gerakan filosofis lain yang populer di kalangan pekerja teknologi, keduanya memiliki ikatan dengan altruisme yang efektif, filosofis lain yang populer di kalangan pekerja teknologi, keduanya memiliki ikatan dengan altruisme yang efektif, filosofis lain yang populer di kalangan pekerja teknologi, keduanya memiliki ikatan dengan altruisme yang efektif, filosofis lain yang populer di kalangan pekerja teknologi, keduanya memiliki ikatan dengan altruisme yang efektif, filosofis lain yang populer di kalangan pekerja teknologi, keduanya memiliki ikatan dengan altruisme yang efektif, filosofis lain yang populer di kalangan pekerja teknologi, keduanya memiliki ikatan dengan altruisme yang efektif, filosofis yang populer di kalangan pekerja teknologi, keduanya memiliki altruisme yang populer di kalangan teknologi teknologi yang efektif, Itu telah membuat peringatan mengerikan tentang AI selama bertahun -tahun.
Tetapi juga patut dicatat bahwa beberapa perusahaan terbesar Silicon Valley adalah Merencanakan Dunia Di luar Agi, dan bahwa banyak prediksi yang terlihat gila yang dibuat tentang AI di masa lalu-seperti pandangan bahwa mesin akan lulus tes Turing, percobaan pemikiran yang menentukan apakah mesin dapat terlihat berkomunikasi seperti manusia-memiliki menjadi kenyataan.
Pada tahun 2021, tahun sebelum chatgpt diluncurkan, Tn. Kokotajlo menulis posting blog Berjudul “What 2026 tampak seperti,” menguraikan pandangannya tentang bagaimana sistem AI akan berkembang. Sejumlah prediksi terbukti prescient, dan ia menjadi yakin bahwa peramalan semacam ini sangat berharga, dan bahwa ia pandai dalam hal itu.
“Ini cara yang elegan dan nyaman untuk mengomunikasikan pandangan Anda kepada orang lain,” katanya.
Pekan lalu, Tn. Kokotajlo dan Mr. Lifland mengundang saya ke kantor mereka-sebuah ruangan kecil di ruang kerja bersama Berkeley yang disebut Constellation, di mana sejumlah organisasi keselamatan AI menggantung sirap-untuk menunjukkan kepada saya bagaimana mereka beroperasi.
Tn. Kokotajlo, mengenakan jaket bergaya militer cokelat, meraih spidol dan menulis empat singkatan di papan tulis besar: sc> sar> siar> asi. Masing -masing, jelasnya, mewakili tonggak sejarah dalam pengembangan AI.
Pertama, katanya, sekitar awal 2027, jika tren saat ini berlaku, AI akan menjadi pembuat kode super. Kemudian, pada pertengahan 2027, itu akan menjadi peneliti AI superhuman-agen otonom yang dapat mengawasi tim AI coders dan membuat penemuan baru. Kemudian, pada akhir 2027 atau awal 2028, itu akan menjadi supercerdas AI Peneliti – Kecerdasan mesin yang tahu lebih dari yang kita lakukan tentang membangun AI canggih, dan dapat mengotomatiskan penelitian dan pengembangannya sendiri, pada dasarnya membangun versi yang lebih pintar dari dirinya sendiri. Dari sana, katanya, ini adalah lompatan singkat ke pengawasan buatan, atau ASI, pada titik mana semua taruhan dibatalkan.
Jika semua ini terdengar fantastik … yah, itu benar. Tidak ada yang seperti apa yang diprediksi oleh Mr. Kokotajlo dan Mr. Lifland mungkin dengan alat AI saat ini, yang nyaris tidak dapat memesan burrito di Doordash tanpa macet.
Tetapi mereka yakin bahwa bintik -bintik buta ini akan menyusut dengan cepat, karena sistem AI menjadi cukup baik dalam pengkodean untuk mempercepat penelitian dan pengembangan AI.
Laporan mereka berfokus pada OpenBrain, perusahaan AI fiksi yang membangun sistem AI kuat yang dikenal sebagai Agen-1. (Mereka memutuskan untuk tidak memilih perusahaan AI tertentu, alih -alih menciptakan gabungan dari laboratorium AI Amerika terkemuka.)
Ketika Agent-1 menjadi lebih baik dalam pengkodean, itu mulai mengotomatiskan banyak pekerjaan teknik di OpenBrain, yang memungkinkan perusahaan untuk bergerak lebih cepat dan membantu membangun Agen-2, seorang peneliti AI yang lebih mampu. Pada akhir 2027, ketika skenario berakhir, Agen-4 membuat terobosan penelitian AI selama setahun setiap minggu, dan mengancam untuk menjadi nakal.
Saya bertanya kepada Tuan Kokotajlo apa yang dia pikir akan terjadi setelah itu. Apakah menurutnya, misalnya, bahwa kehidupan pada tahun 2030 masih akan dikenali? Apakah jalan -jalan Berkeley akan diisi dengan robot humanoid? Orang -orang mengirim pesan kepada pacar AI mereka? Apakah ada di antara kita yang punya pekerjaan?
Dia menatap ke luar jendela, dan mengakui bahwa dia tidak yakin. Jika beberapa tahun ke depan berjalan dengan baik dan kami mengendalikan AI, katanya, dia bisa membayangkan masa depan di mana kehidupan kebanyakan orang sebagian besar masih sama, tetapi di mana “zona ekonomi khusus” di dekatnya dipenuhi dengan pabrik robot yang sangat efisien akan menghasilkan semua yang kami butuhkan.
Dan jika beberapa tahun ke depan tidak berjalan dengan baik?
“Mungkin langit akan dipenuhi dengan polusi, dan orang -orang akan mati?” katanya dengan acuh tak acuh. “Sesuatu seperti itu.”
Salah satu risiko mendramatisasi prediksi AI Anda dengan cara ini adalah bahwa jika Anda tidak hati -hati, skenario yang diukur dapat beralih ke fantasi apokaliptik. Lain adalah bahwa, dengan mencoba menceritakan kisah dramatis yang menarik perhatian orang, Anda berisiko kehilangan lebih banyak hasil yang membosankan, seperti skenario di mana AI umumnya berperilaku baik dan tidak menyebabkan banyak masalah bagi siapa pun.
Meskipun saya setuju dengan penulis “AI 2027” bahwa sistem AI yang kuat akan segera hadir, saya tidak yakin bahwa coders AI super akan secara otomatis mengambil keterampilan lain yang diperlukan untuk memotret cara mereka menuju kecerdasan umum. Dan saya waspada terhadap prediksi yang mengasumsikan bahwa kemajuan AI akan halus dan eksponensial, tanpa hambatan besar atau penghalang jalan di sepanjang jalan.
Tapi saya pikir peramalan semacam ini layak dilakukan, bahkan jika saya tidak setuju dengan beberapa prediksi spesifik. Jika AI yang kuat benar -benar dekat, kita semua harus mulai membayangkan beberapa masa depan yang sangat aneh.
