Pergeseran Kebijakan AI Google: Tidak ada lagi larangan senjata dan teknologi pengawasan
New Delhi:
Dalam keberangkatan yang signifikan dari komitmen sebelumnya untuk tidak menggunakan kecerdasan buatan di bidang senjata atau pengawasan, Google telah memperbarui pedoman etika pada hal yang sama.
Prinsip -prinsip AI asli 2018 perusahaan secara eksplisit melarang aplikasi AI di empat bidang: senjata, pengawasan, teknologi yang dapat menyebabkan kerusakan keseluruhan, dan menggunakan melanggar hukum internasional dan hak asasi manusia.
Sekarang, dalam a Posting BlogDemis Hassabis, Kepala AI di Google, dan James Manyika, Wakil Presiden Senior untuk Teknologi dan Masyarakat, menjelaskan perubahan itu. Mereka menunjuk kehadiran AI yang semakin besar dan perlunya perusahaan di negara -negara demokratis untuk bekerja dengan pemerintah dan keamanan nasional.
“Ada persaingan global yang terjadi untuk kepemimpinan AI dalam lanskap geopolitik yang semakin kompleks,” tulis Hassabis dan Mr Manyika. “Kami percaya demokrasi harus memimpin dalam pembangunan AI, dipandu oleh nilai -nilai inti seperti kebebasan, kesetaraan, dan penghormatan terhadap hak asasi manusia.”
Prinsip -prinsip yang diperbarui fokus pada pengawasan manusia dan umpan balik untuk memastikan AI mengikuti standar hukum internasional dan hak asasi manusia. Google juga berjanji untuk menguji sistem AI untuk mengurangi efek berbahaya yang tidak diinginkan.
Perubahan ini merupakan perubahan besar dari posisi Google sebelumnya, yang menarik perhatian pada tahun 2018 ketika perusahaan menghadapi protes internal atas kontrak Pentagonnya. Dikenal sebagai Project Mavenkontrak yang terlibat menggunakan AI Google untuk menganalisis rekaman drone. Ribuan karyawan menandatangani surat terbuka yang mendesak Google untuk tidak terlibat dalam proyek militer, dengan mengatakan, “Kami percaya bahwa Google tidak boleh berada dalam bisnis perang.” Akibatnya, Google memilih untuk tidak memperbarui kontrak.
Sejak Openai meluncurkan ChatGPT pada tahun 2022, AI telah maju dengan cepat, tetapi peraturan telah berjuang untuk mengimbangi. Pergeseran ini telah menyebabkan Google untuk meringankan pembatasan yang dipaksakan sendiri. James Manyika dan Demis Hassabis mencatat bahwa kerangka kerja AI dari negara -negara demokratis telah membantu membentuk pemahaman Google tentang risiko dan potensi AI.
