Startup video AI Cina tampaknya memblokir gambar yang sensitif secara politis
Startup yang berbasis di China, Pasir yang Anda milikitelah merilis model AI penghasil video berlisensi terbuka yang mengumpulkan pujian dari pengusaha seperti Direktur Pendiri Microsoft Research Asia Kai-Fu Lee. Tapi Sand AI tampaknya menyensor gambar yang mungkin meningkatkan kemarahan regulator Tiongkok dari versi model yang di -host, menurut pengujian TechCrunch.
Awal pekan ini, Sand Ai mengumumkan MAGI-1model yang menghasilkan video dengan “autoregresif” memprediksi urutan frame. Perusahaan mengklaim model ini dapat menghasilkan rekaman berkualitas tinggi dan dapat dikendalikan yang menangkap fisika lebih akurat daripada model Open Rival.
đź‘€ Anda tidak akan percaya ini dihasilkan AI
🧠Anda tidak akan percaya ini adalah open-source
🎬 Anda tidak akan percaya itu gratisModel Video Magi-1 Just dipermalukan Alat video komersial
Detail dan contoh di bawah ini: 👇 pic.twitter.com/zlxrecweqh
— Farhan (@mhdfaran) 21 April 2025
Magi-1 terlalu tidak praktis untuk dijalankan pada sebagian besar perangkat keras konsumen. Ukurannya 24 miliar parameter, dan membutuhkan antara empat dan delapan GPU NVIDIA H100 untuk berjalan. (Parameter adalah model variabel internal yang digunakan untuk membuat prediksi.) Bagi banyak pengguna-termasuk reporter ini-platform pasir AI adalah satu-satunya tempat mereka dapat menguji drive magi-1.
Platform membutuhkan gambar “cepat” untuk memulai pembuatan video. Tidak semua petunjuk diizinkan, TechCrunch dengan cepat ditemukan. Sand ai memblokir unggahan gambar Xi Jinping, Tiananmen Square dan Tank Man, bendera Taiwan, dan lencana mendukung pembebasan Hong Kong. Penyaringan tampaknya terjadi di tingkat gambar; Mengganti nama file gambar tidak mengitari pemblokiran.
Sand AI bukan satu -satunya startup Cina yang mencegah unggahan gambar yang sensitif secara politis terhadap alat pembuatan videonya. Hailuo AI, platform media generatif Minimax yang berbasis di Shanghai, memblokir foto Xi Jinping juga. Tapi penyaringan Sand AI tampaknya sangat agresif; Hauiluo memungkinkan gambar Tiananmen Square.
Seperti yang dijelaskan Wired dalam sebuah karya dari Januari, model di Cina diharuskan untuk mengikuti kontrol informasi yang ketat. Undang -undang tahun 2023 melarang model menghasilkan konten yang “merusak persatuan negara dan harmoni sosial” – yaitu, melawan narasi historis dan politik pemerintah. Untuk mematuhi, startup Cina sering menyensor model mereka, baik melalui filter tingkat cepat atau penyesuaian.
Menariknya, sementara model Cina cenderung memblokir pidato politik, mereka sering memiliki lebih sedikit filter daripada rekan Amerika mereka untuk konten pornografi. 404 baru -baru ini dilaporkan Bahwa sejumlah generator video yang dirilis oleh perusahaan Cina tidak memiliki pagar dasar yang mencegah orang menghasilkan ketelanjangan nonkonsensual.
