Gagasan bahwa mesin suatu hari akan cocok atau bahkan melampaui kecerdasan manusia memiliki sejarah panjang. Tetapi laju kemajuan dalam AI selama beberapa dekade terakhir telah memberikan urgensi baru pada topik, terutama sejak rilis model bahasa besar yang kuat (LLM) oleh perusahaan seperti Openai, Google dan Antropik, antara lain.
Para ahli memiliki pandangan yang sangat berbeda tentang betapa layaknya gagasan “kecerdasan super buatan” (ASI) ini dan kapan mungkin muncul, tetapi beberapa menyarankan bahwa mesin-mesin yang sangat tinggi seperti itu hanya sekitar sudut. Yang pasti adalah bahwa jika, dan ketika, ASI muncul, itu akan memiliki implikasi yang sangat besar bagi masa depan umat manusia.
“Saya percaya kami akan memasuki era baru penemuan ilmiah otomatis, pertumbuhan ekonomi yang sangat dipercepat, umur panjang, dan pengalaman hiburan baru,” Tim Rocktäschel
Apa itu Superintelligence Buatan (ASI)?
Secara tradisional, penelitian AI telah berfokus pada replikasi kemampuan spesifik yang ditunjukkan oleh makhluk cerdas. Ini termasuk hal -hal seperti kemampuan untuk menganalisis adegan secara visual, parse bahasa atau menavigasi lingkungan. Dalam beberapa domain sempit ini AI telah mencapai kinerja manusia super, kata Rocktäschel, terutama di Game seperti Go and Chess .
Tujuan peregangan untuk lapangan, bagaimanapun, adalah untuk mereplikasi bentuk kecerdasan yang lebih umum yang terlihat pada hewan dan manusia yang menggabungkan banyak kemampuan seperti itu. Konsep ini telah berjalan dengan beberapa nama selama bertahun -tahun, termasuk “AI kuat” atau “AI universal”, tetapi hari ini ini paling umum disebut Kecerdasan Umum Buatan
“Untuk waktu yang lama, AGI telah menjadi bintang utara yang jauh untuk penelitian AI,” kata Rocktäschel. “Namun, dengan munculnya model fondasi [another term for LLMs] Kami sekarang memiliki AI yang dapat lulus beragam ujian masuk universitas dan berpartisipasi dalam kompetisi matematika dan pengkodean internasional. “
Terkait: GPT-4.5 adalah model AI pertama yang lulus tes Turing yang otentik, kata para ilmuwan
Ini membuat orang menganggap kemungkinan AGI lebih serius, kata Rocktäschel. Dan yang terpenting, begitu kita membuat AI yang cocok dengan manusia pada berbagai tugas, mungkin tidak lama sebelum mencapai kemampuan manusia super di seluruh papan. Bagaimanapun, itulah idenya. “Begitu AI mencapai kemampuan tingkat manusia, kami akan dapat menggunakannya untuk meningkatkan dirinya dengan cara referensi diri,” kata Rocktäschel. “Saya pribadi percaya bahwa jika kita dapat mencapai AGI, kita akan mencapai ASI segera, mungkin beberapa tahun setelah itu.”
IBM Deep Blue menjadi sistem AI pertama yang mengalahkan juara catur dunia yang berkuasa (Garry Kasparov, foto) pada tahun 1997. (Kredit gambar: Stan Honda/AFP via Getty Images)
Setelah tonggak itu tercapai, kita bisa melihat apa yang ahli matematika Inggris Irving John Good “Ledakan Kecerdasan “Pada tahun 1965. Dia berpendapat bahwa begitu mesin menjadi cukup pintar untuk meningkatkan diri, mereka akan dengan cepat mencapai tingkat kecerdasan jauh melampaui manusia mana pun. Dia menggambarkan mesin yang sangat cerdas pertama sebagai” penemuan terakhir yang perlu dilakukan manusia. “
Futurist terkenal Ray Kurzweil
Tepat ketika transisi seperti itu mungkin terjadi masih bisa diperdebatkan. Pada tahun 2005, Kurzweil memperkirakan AGI akan muncul pada tahun 2029, dengan singularitas berikut pada tahun 2045, sebuah prediksi yang ia terjebak sejak saat itu. Pakar AI lainnya menawarkan prediksi yang sangat bervariasi – dari dalam dekade ini hingga tidak pernah survei terbaru dari 2.778 peneliti AI menemukan bahwa, secara agregat, mereka percaya ada 50% peluang ASI dapat muncul pada tahun 2047. a analisis yang lebih luas
Apa artinya Asi untuk kemanusiaan?
Implikasi dari teknologi seperti ASI akan sangat besar, mendorong para ilmuwan dan filsuf untuk mendedikasikan waktu yang cukup lama untuk memetakan janji dan potensi jebakan bagi kemanusiaan.
Di sisi positif, mesin dengan kapasitas intelijen yang hampir tidak terbatas dapat menyelesaikan beberapa tantangan paling mendesak di dunia, kata Daniel Hulme Satalia Dan Kesadaran . Secara khusus, mesin super cerdas dapat “menghilangkan gesekan dari penciptaan dan penyebaran makanan, pendidikan, perawatan kesehatan, energi, transportasi, begitu banyak sehingga kita dapat membawa biaya barang -barang itu ke nol,” katanya kepada Live Science.
Harapannya adalah bahwa ini akan membebaskan orang dari harus bekerja untuk bertahan hidup dan malah bisa menghabiskan waktu melakukan hal -hal yang mereka sukai, jelas Hulme. Tetapi kecuali jika sistem diberlakukan untuk mendukung mereka yang pekerjaannya dibuat berlebihan oleh AI, hasilnya bisa lebih suram. “Jika itu terjadi dengan sangat cepat, ekonomi kita mungkin tidak dapat menyeimbangkan kembali, dan itu bisa menyebabkan kerusuhan sosial,” katanya.
Ini juga mengasumsikan kita bisa mengendalikan dan mengarahkan entitas yang jauh lebih cerdas daripada kita – sesuatu yang banyak ahli sarankan tidak mungkin. “Saya tidak benar -benar berlangganan gagasan ini bahwa itu akan mengawasi kami dan merawat kami dan memastikan bahwa kami bahagia,” kata Hulme. “Aku tidak bisa membayangkan itu akan peduli.”
Kemungkinan Superintelligence Kami tidak memiliki kendali atas telah mendorong kekhawatiran bahwa AI dapat menyajikan risiko eksistensial untuk spesies kita
Tapi filsuf Nick Bostrom makalah 2012 ia menyarankan bahwa kecerdasan suatu entitas tidak tergantung pada tujuannya, sehingga ASI dapat memiliki motivasi yang benar-benar asing bagi kita dan tidak selaras dengan kesejahteraan manusia.
Nick Bostrum (foto) berfilosofi tentang implikasi ASI dalam makalah 2012. (Kredit Gambar: Foto oleh Tom Pilston untuk Washington Post via Getty Images)
Bostrom menyempurnakan ide ini dengan percobaan pemikiran di mana AI yang sangat mampu mengatur tugas yang tampaknya tidak berbahaya untuk menghasilkan sebanyak mungkin klip kertas. Jika tidak selaras dengan nilai -nilai kemanusiaan, ia dapat memutuskan untuk menghilangkan semua manusia untuk mencegahnya mematikannya, atau begitulah dapat mengubah semua atom di tubuh mereka menjadi lebih banyak penjepit kertas.
Rocktäschel lebih optimis. “Kami membangun sistem AI saat ini untuk membantu, tetapi juga asisten yang tidak berbahaya dan jujur berdasarkan desain,” katanya. “Mereka disetel untuk mengikuti instruksi manusia, dan dilatih tentang umpan balik untuk memberikan jawaban yang bermanfaat, tidak berbahaya, dan jujur.”
Sementara Rocktäschel mengakui perlindungan ini dapat dielakkan, dia yakin kita akan mengembangkan pendekatan yang lebih baik di masa depan. Dia juga berpikir bahwa akan dimungkinkan untuk menggunakan AI untuk mengawasi AI lain, bahkan jika mereka lebih kuat.
Hulme mengatakan sebagian besar pendekatan saat ini untuk “penyelarasan model” – upaya untuk memastikan bahwa AI selaras dengan nilai -nilai dan keinginan manusia – terlalu kasar. Biasanya, mereka memberikan aturan tentang bagaimana model harus berperilaku atau melatihnya pada contoh perilaku manusia. Tapi dia pikir pagar -pagar ini, yang dibaut di akhir proses pelatihan, bisa dengan mudah dilewati oleh ASI.
Sebaliknya, Hulme berpikir kita harus membangun AI dengan “naluri moral.” Conscium perusahaannya berusaha melakukannya dengan mengembangkan AI di lingkungan virtual yang telah direkayasa untuk menghargai perilaku seperti kerja sama dan altruisme. Saat ini, mereka bekerja dengan AI “tingkat serangga” yang sangat sederhana, tetapi jika pendekatannya dapat ditingkatkan, itu bisa membuat keselarasan lebih kuat. “Menanamkan moral dalam naluri AI menempatkan kami pada posisi yang jauh lebih aman daripada sekadar memiliki rel penjaga mool-mole semacam ini,” kata Hulme.
Namun, tidak semua orang yakin kita harus mulai mengkhawatirkan. Salah satu kritik umum terhadap konsep ASI, kata Rocktäschel, adalah bahwa kita tidak memiliki contoh manusia yang sangat mampu di berbagai tugas, jadi mungkin tidak mungkin untuk mencapai ini dalam satu model juga. Keberatan lain adalah bahwa sumber daya komputasi yang diperlukan untuk mencapai ASI mungkin menjadi penghalang.
Lebih praktis, bagaimana kita mengukur kemajuan dalam AI mungkin menyesatkan kita tentang seberapa dekat kita dengan pengawasan, kata Alexander Ilic Kepala Pusat ETH AI di ETH Zurich, Swiss. Sebagian besar hasil yang mengesankan dalam AI dalam beberapa tahun terakhir berasal dari sistem pengujian pada beberapa tes keterampilan individu yang sangat dibuat -buat seperti pengkodean, penalaran atau pemahaman bahasa, yang secara eksplisit dilatih oleh sistem, kata Ilic.
Dia membandingkan ini dengan menjejalkan ujian di sekolah. “Anda memuat otak Anda untuk melakukannya, lalu Anda menulis tes, dan kemudian Anda melupakan semuanya,” katanya. “Kamu lebih pintar dengan menghadiri kelas, tetapi tes yang sebenarnya itu sendiri bukan proxy yang baik dari pengetahuan yang sebenarnya.”
AI yang mampu lulus banyak tes ini di tingkat manusia super mungkin hanya beberapa tahun lagi, kata Ilic. Tetapi dia percaya pendekatan dominan saat ini tidak akan mengarah pada model yang dapat melakukan tugas -tugas yang berguna di dunia fisik atau berkolaborasi secara efektif dengan manusia, yang akan sangat penting bagi mereka untuk memiliki dampak luas di dunia nyata.
