Den Haag – Kampanye global telah menyebabkan setidaknya 25 penangkapan atas konten pelecehan seksual anak yang dihasilkan oleh kecerdasan buatan dan didistribusikan secara online, Kata Europol Jumat.
“Operasi Cumberland telah menjadi salah satu kasus pertama yang melibatkan Pelecehan seksual anak yang dihasilkan ai materi, menjadikannya sangat menantang bagi penyelidik karena kurangnya undang-undang nasional yang membahas kejahatan ini, “kata Badan Kepolisian Eropa yang berbasis di Den Haag dalam sebuah pernyataan.
Mayoritas penangkapan dilakukan pada hari Rabu selama operasi di seluruh dunia yang dipimpin oleh polisi Denmark, dan yang juga melibatkan lembaga penegak hukum dari UE, Australia, Inggris, Kanada, dan Selandia Baru. Lembaga penegak hukum AS tidak mengambil bagian dalam operasi, menurut Europol.
Itu mengikuti penangkapan November lalu dari tersangka utama dalam kasus ini, seorang warga negara Denmark yang menjalankan platform online di mana ia mendistribusikan materi AI yang ia hasilkan.
Setelah “pembayaran online simbolis, pengguna dari seluruh dunia dapat memperoleh kata sandi untuk mengakses platform dan menyaksikan anak -anak dilecehkan,” kata Europol.
Eksploitasi seksual anak online tetap menjadi salah satu manifestasi kejahatan dunia maya yang paling mengancam di Uni Eropa, agensi tersebut memperingatkan.
Ini “terus menjadi salah satu prioritas utama bagi lembaga penegak hukum, yang berurusan dengan volume konten ilegal yang terus tumbuh,” katanya, menambahkan bahwa lebih banyak penangkapan diharapkan ketika penyelidikan berlanjut.
Sementara Europol mengatakan Operasi Cumberland menargetkan platform dan orang-orang yang berbagi konten yang sepenuhnya dibuat menggunakan AI, ada juga proliferasi yang mengkhawatirkan citra “Deepfake” yang dimanipulasi AI, yang sering menggunakan gambar orang sungguhan, termasuk anak-anak, dan dapat memiliki dampak yang menghancurkan pada kehidupan mereka.
Menurut a laporan Oleh CBS News 'Jim Axelrod pada bulan Desember yang berfokus pada seorang gadis yang telah menjadi sasaran pelecehan oleh teman sekelasnya, ada lebih dari 21.000 gambar pornografi atau video deepfake online selama 2023, peningkatan lebih dari 460% dari tahun sebelumnya. Itu Konten yang dimanipulasi telah berkembang biak di internet sebagai anggota parlemen di AS dan di tempat lain berlomba untuk mengejar ketinggalan dengan undang -undang baru untuk mengatasi masalah tersebut.
Hanya beberapa minggu yang lalu Senat mengesahkan RUU bipartisan yang disebut “Take It Down Act” that, if signed into law, would criminalize the “publication of non-consensual intimate imagery (NCII), including AI-generated NCII (or “deepfake revenge pornography”), and requires social media and similar websites to implement procedures to remove such content within 48 hours of notice from a victim,” according to deskripsi di situs web Senat AS.
Seperti yang berdiri, beberapa platform media sosial tampak tidak mampu atau tidak mau menangani penyebaran konten Deepfake yang dihasilkan secara seksual dan dihasilkan, termasuk gambar-gambar palsu yang menggambarkan selebriti. Pada pertengahan Februari, pemilik Facebook dan Instagram Meta mengatakan telah menghilangkan lebih dari selusin gambar seksual yang curang dari aktor dan atlet wanita terkenal setelah a Investigasi CBS News ditemukan Prevalensi tinggi gambar Deepfake yang dimanipulasi AI di Facebook.
“Ini adalah tantangan di seluruh industri, dan kami terus bekerja untuk meningkatkan teknologi deteksi dan penegakan hukum kami,” kata juru bicara Meta Erin Logan kepada CBS News dalam sebuah pernyataan yang dikirim melalui email pada saat itu.
