Bacaan cepat
Ringkasan adalah AI yang dihasilkan, ruang berita ditinjau.
Ilya Sutskever mengusulkan bunker kiamat untuk para peneliti openai.
Dia menyarankan ini selama pertemuan 2023 tentang potensi risiko AGI.
Sutskever sering menyebutkan bunker dalam diskusi internal.
Salah satu pendiri Openai, Ilya Sutskever, pernah mengusulkan membangun bunker kiamat yang dapat melindungi peneliti top perusahaan jika terjadi “pengangkatan” di dunia yang dipicu oleh pelepasan bentuk baru kecerdasan buatan (AI), yang secara populer disebut sebagai orang-orang yang bersahabat sebagai orang-orang hum.
Wahyu telah dibuat oleh Karen Hao dalam bukunya yang akan datang Kekaisaran AI: mimpi dan mimpi buruk di Openai Sam Altman. Mr Sutskever, lama dianggap sebagai otak di belakang chatgpt, membuat komentar selama pertemuan dengan para ilmuwan utama di perusahaan pada tahun 2023.
“Begitu kita semua masuk ke bunker …” kata Tuan Sutskever, hanya untuk terganggu oleh kolega yang bingung: “Maaf, bunker?”
Untuk itu dia menjawab: “Kami pasti akan membangun bunker sebelum kami melepaskan AGI.”
Sesuai kutipan buku, diterbitkan di Atlantikitu bukan waktu pertama dan satu -satunya Tuan Sutskever menyampaikan topiknya. Dua sumber lain mengatakan kepada Ms Hao bahwa Mr Sutskever secara teratur merujuk bunker dalam diskusi internal.
Masyarakat tidak siap untuk AGI
Ini bukan contoh pertama ketika eksekutif tingkat atas, bekerja untuk membangun model AI, telah membunyikan alarm tentang masa depan AGI. CEO Google DeepMind Demis Hassabis telah memperingatkan bahwa masyarakat belum siap untuk AGI.
“Saya pikir kita berada di puncak itu. Mungkin kita lima hingga 10 tahun. Beberapa orang mengatakan lebih pendek, aku tidak akan terkejut,” kata Hassabis ketika ditanya tentang garis waktu Agi menjadi kenyataan.
“Ini semacam distribusi probabilitas. Tapi itu akan datang, bagaimanapun itu akan segera datang dan saya belum yakin masyarakat cukup siap untuk itu. Dan kita perlu berpikir bahwa melalui dan juga memikirkan masalah -masalah ini yang saya bicarakan sebelumnya, untuk dilakukan dengan pengendalian sistem ini dan juga akses ke sistem ini dan memastikan bahwa semuanya berjalan dengan baik,” tambahnya.
Hadiah Nobel 2024 dalam pemenang kimia sebelumnya telah menyerukan pembentukan organisasi payung yang tidak seperti untuk mengawasi pengembangan AGI.
Apa itu AGI?
AGI mengambil AI selangkah lebih maju. Sementara AI khusus tugas, AGI bertujuan untuk memiliki kecerdasan yang dapat diterapkan di berbagai tugas, mirip dengan kecerdasan manusia. Intinya, AGI akan menjadi mesin dengan kemampuan untuk memahami, belajar, dan menerapkan pengetahuan dalam beragam domain, seperti manusia.
