Dalam beberapa hari terakhir, video yang dihasilkan oleh kecerdasan buatan telah muncul secara online untuk menunjukkan adegan dramatis dari konflik Iran-Israel, termasuk seorang wanita yang dihasilkan AI yang melaporkan dari penjara yang terbakar di Teheran dan rekaman palsu bangunan bertingkat tinggi yang dikurangi menjadi puing-puing di Tel Aviv. Visual palsu lainnya menggambarkan pesawat militer Israel yang jatuh.
Klip -klip ini, beberapa yang telah mengumpulkan jutaan tampilan pada platform termasuk X dan Tiktok, adalah yang terbaru pola yang berkembang video yang dihasilkan AI yang menyebar selama acara besar.
Berita CBS
Para peneliti di Hub Forensik Media Universitas Clemson mengatakan kepada CBS News bahwa beberapa konten sedang diperkuat pada X oleh jaringan akun terkoordinasi yang mempromosikan pesan oposisi Iran – dengan tujuan merusak kepercayaan pada pemerintah Iran.
Video Fabrikasi
Pada hari Senin, Israel melakukan pemogokan di beberapa situs di Iran, termasuk Penjara Evin yang terkenal kejam. Dalam beberapa menit setelah serangan itu, sebuah video mulai beredar di X dan platform media sosial lainnya yang menunjukkan ledakan di pintu masuk. Video ini kasar, hitam-putih dan tampaknya rekaman kamera keamanan.
Tetapi beberapa anomali visual menunjukkan rekaman tersebut mungkin telah dibuat menggunakan kecerdasan buatan, kata para ahli, termasuk tanda yang salah di atas pintu dan ketidakkonsistenan dengan ledakan.
Hany Farid, seorang profesor di University of California, Berkeley, dan salah satu pendiri startup deteksi AI Getreal Labs, mengatakan kepada CBS News bahwa dia yakin video itu mungkin telah dihasilkan oleh alat gambar-ke-video AI.
Farid mengatakan kemajuan teknologi baru-baru ini telah membantu mengarah pada video yang tampak lebih realistis dengan cara yang lebih mudah untuk membuat dan membagikannya dengan cepat.
“Setahun yang lalu itu [that] Anda bisa membuat satu gambar yang cukup realistis foto, “kata Farid.” Sekarang video penuh dengan ledakan, dengan apa yang tampak seperti pencitraan perangkat seluler genggam. “
Video tersebut telah diposting pada X dalam beberapa menit dari serangan Israel 23 Juni di fasilitas tersebut oleh sebuah akun yang “menandai tanda tidak otentik,” menurut peneliti hub forensik media.
Pejabat Iran dan Israel belum mengomentari keaslian video.
Darren Linvill, co-direktur Media Forensics Hub, mengatakan kepada CBS News Video lain, yang menggambarkan seorang reporter yang dihasilkan AI di luar penjara, adalah “contoh sempurna” dari jaringan terkoordinasi menggunakan AI untuk mengedarkan informasi palsu kepada audiens yang lebih luas.
“Itu tidak melakukan apa pun yang tidak bisa dilakukan orang dengan teknologi sebelumnya, itu hanya melakukan semuanya lebih murah, lebih cepat, dan pada skala yang lebih besar,” kata Linvill. Tidak jelas siapa yang ada di balik video, kata Linvill.
Respons Platform Media Sosial
Ketika ditanya tentang video Iran-Israel yang dihasilkan AI di platform mereka, juru bicara Tiktok mengatakan kepada CBS News bahwa platform itu tidak mengizinkan informasi yang salah berbahaya atau Konten yang dihasilkan AI dari sumber-sumber otoritatif palsu atau acara krisisdan telah menghapus beberapa video ini.
Seorang juru bicara untuk x rujukan berita CBS ke mereka Fitur Catatan Komunitasdan mengatakan beberapa posting video yang dihasilkan AI telah memiliki catatan komunitas yang ditambahkan untuk membantu memerangi informasi palsu.
Adapun cara menghindari mangsa video yang dibuat dengan AI, Farid berkata, “Berhentilah mendapatkan berita Anda dari media sosial, terutama pada acara yang melanggar seperti ini.”
