Platform untuk mengobrol dan bermain peran dengan karakter yang dihasilkan AI, karakter.ai diumumkan pada hari Senin Bahwa itu meluncurkan fitur multimedia. Fitur -fitur ini termasuk AvatarfxModel generasi video Character.ai, plus adegan dan aliran, yang memungkinkan pengguna untuk menggunakan alat AI ini untuk membuat video menggunakan karakter mereka dan kemudian membaginya pada umpan sosial baru.
“Karakter.ai dimulai sebagai obrolan teks 1: 1 dan hari ini kami berevolusi untuk melakukan lebih banyak lagi, terinspirasi oleh apa yang dikatakan pengguna kami [us] Mereka ingin melihat di platform, ”tulis perusahaan itu di a Posting Blog.
Karakter.ai mulai meluncurkan Avatarfx ke pelanggan bulan lalu, tetapi sekarang, semua pengguna dapat membuat hingga lima video setiap hari. Saat membuat video dengan AvatarFX, pengguna dapat mengunggah foto untuk berfungsi sebagai dasar untuk klip video, pilih suara, dan tuliskan teks untuk dikatakan karakter.
Ada opsi untuk mengunggah klip audio untuk menginformasikan suara suara, meskipun fitur ini tidak berfungsi cukup baik untuk menguji saat peluncuran.
Pengguna dapat mengubah video ini menjadi adegan, di mana karakter mereka dapat tergelincir ke alur cerita yang telah dipopulasi yang dibuat oleh pengguna lain. Adegan saat ini tersedia di aplikasi seluler, tetapi streaming, yang memungkinkan pengguna untuk membuat “momen dinamis antara dua karakter,” akan datang minggu ini di web dan seluler. Adegan dan aliran ini dapat dibagikan ke feed komunitas baru, yang akan segera hadir di aplikasi seluler.
Karakter.ai memiliki rekam jejak penyalahgunaan di platformnya; orang tua memiliki mengajukan tuntutan hukum Terhadap perusahaan, mengklaim chatbots berusaha meyakinkan anak-anak mereka untuk melukai diri sendiri, bunuh diri, atau membunuh orang tua mereka. Seorang bocah lelaki berusia 14 tahun meninggal karena bunuh diri setelah dia didorong untuk melakukannya dengan karakter. hubungan yang tidak sehat dan obsesif.
Sebagai karakter.ai memperluas penawaran multimedia, ia juga memperluas potensi produk -produk ini untuk disalahgunakan.
Seperti yang dikatakan Character.ai kepada TechCrunch ketika mengumumkan Avatarfx, platform ini memblokir pengguna dari mengunggah foto orang sungguhan – apakah mereka selebriti atau tidak – dan mengaburkan rupa mereka menjadi sesuatu yang kurang dikenali.
Misalnya, inilah karakter. Versi Lembah Luar Biasa dari Mark Zuckerberg:
Tetapi ketika datang ke karya seni yang menggambarkan selebriti, karakter. AI tidak menandai gambar -gambar tersebut sebagai mewakili orang -orang nyata – namun, penggambaran semacam ini akan lebih kecil kemungkinannya untuk menipu seseorang agar percaya bahwa Deepfake itu nyata.
Plus, karakter.ai Watermark setiap video, meskipun mungkin bagi aktor buruk untuk menavigasi perlindungan itu.
Berikut adalah contoh dari upaya Deepfake berdasarkan ilustrasi dari Elon Musk:
Bahkan jika video ini telah dihasilkan dengan suara Elon Musk yang sebenarnya, masih akan relatif jelas bahwa ini adalah versi animasi dari ilustrasi – tetapi kemungkinan pelecehan tetap jelas.
“Tujuan kami adalah untuk menyediakan ruang yang menarik yang mendorong kreativitas sambil mempertahankan lingkungan yang aman untuk semua,” kata Character.ai dalam posting blognya.
