Peneliti Openai mengundurkan diri dari mengutip ketakutan akan perkembangan cepat AI
Seorang peneliti Openai telah mengundurkan diri dari posisinya setelah bekerja empat tahun di perusahaan. Alasannya? Pertumbuhan yang cepat dari kecerdasan buatan. Dalam sebuah posting di X, Steven Adler mengumumkan bahwa setelah empat tahun bekerja pada keselamatan di seluruh Openai, ia meninggalkan pekerjaannya pada pertengahan November.
“Itu adalah perjalanan liar dengan banyak bab – eval kemampuan berbahaya, keselamatan/kontrol agen, AGI dan identitas online, dll. – dan saya akan kehilangan banyak bagian dari itu,” tulis Mr Adler.
Di bagian selanjutnya dari pos, dia berbicara tentang apa yang paling “menakutkan” dia. “Sejujurnya saya cukup takut dengan kecepatan pengembangan AI akhir -akhir ini. Ketika saya memikirkan di mana saya akan membesarkan keluarga masa depan, atau berapa banyak yang harus disimpan untuk pensiun, saya tidak bisa tidak bertanya -tanya: akankah umat manusia akan membuatnya untuk titik itu? ”
Dalam posting tindak lanjut, Steven menyebutkan bahwa “ras AGI adalah pertaruhan yang sangat berisiko” karena tidak ada laboratorium yang memiliki solusi untuk penyelarasannya dan bahkan jika seseorang ingin mengembangkan teknologi secara bertanggung jawab, daya saing di antara rekan-rekan mendorong semua untuk mempercepat .
“Sedangkan untuk apa selanjutnya, saya menikmati istirahat sebentar, tapi saya penasaran: Apa yang Anda lihat sebagai ide paling penting & terabaikan dalam keselamatan/kebijakan AI? Saya sangat senang Re: Metode kontrol, deteksi skema, dan kasus keselamatan, ”pungkas Mr Adler.
Beberapa Berita Pribadi: Setelah empat tahun bekerja di Across @openaiSaya pergi pada pertengahan November. Itu adalah perjalanan liar dengan banyak bab – eval kemampuan berbahaya, keselamatan/kontrol agen, AGI dan identitas online, dll. – dan saya akan kehilangan banyak bagiannya.
– Steven Adler (@sjgadler) 27 Januari 2025
Belum lama ini, Geoffrey Hintonsering disebut “ayah baptis” AI, menimbulkan kekhawatiran bahwa teknologi dapat menyebabkan kepunahan manusia dalam 30 tahun ke depan.
Ilmuwan komputer Inggris-Kanada, dihormati dengan Hadiah Nobel dalam Fisika pada tahun 2024 untuk pekerjaannya di lapangan, mengatakan ada peluang “10% hingga 20%” bahwa AI dapat mengakibatkan kepunahan manusia dalam tiga dekade ke depan. Dia sebelumnya memperkirakan ada kemungkinan 10% yang sama.
Mr Hinton, juga seorang profesor emeritus di University of Toronto, mengatakan manusia adalah balita dibandingkan dengan sistem AI tingkat lanjut. “Saya suka menganggapnya sebagai: bayangkan diri Anda dan anak berusia tiga tahun. Kami akan berusia tiga tahun, ”katanya.
