Semakin banyak mod Skyrim, termasuk lebih dari beberapa di sisi berperingkat-M, menggunakan suara yang dihasilkan AI berdasarkan aktor suara asli. Beberapa aktor tersebut kini secara terbuka mencela praktik mencoret dan mengkloning pertunjukan tanpa izin, terutama untuk tujuan pornografi.
Pekerjaan suara AI bukanlah kontroversi baru, tetapi menjadi lebih umum secara signifikan dalam adegan modding Skyrim dalam beberapa bulan terakhir di belakang alat AI ElevenLabs, yang diluncurkan pada tahun 2022 dan perlahan mengumpulkan momentum di antara modder Skyrim. sikap resmi Nexus Mods, yang pada April 2023 memutuskan bahwa”konten mod buatan AI tidak melanggar aturan kami,”juga menambahkan bahan bakar ke api.
AI baru-baru ini digunakan untuk memberikan suara kepada Dragonborn , beberapa rekan NPC Skyrim, dan banyak karakter lainnya. Secara alami, hanya masalah waktu sebelum teknologi mencapai mod eksplisit, yang merupakan langkah yang terlalu jauh bagi sebagian orang.
Dengan munculnya kloning suara AI, aktor suara disalahgunakan oleh komunitas modding. Sebagai anggota adegan modding Skyrim, saya sangat prihatin dengan praktik penggunaan kloning suara AI untuk membuat dan mendistribusikan konten pornografi deepfake non-konsensual. pic.twitter.com/ySUFqrtjH01 Juli 2023
Lihat selengkapnya
postingan baru yang panjang dari pengguna Twitter, Robbie92 berpendapat”pengisi suara disalahgunakan oleh komunitas modding”yang menggunakan”kloning suara AI untuk membuat dan mendistribusikan konten pornografi deepfake non-konsensual.”
Postingan tersebut menyertakan daftar pengisi suara yang penampilannya diduga telah digunakan dalam mod porno Skyrim. Meskipun saya tidak dapat memverifikasi semua aktor yang terpengaruh untuk diri saya sendiri – ada banyak mod porno Skyrim, orang, dan mod AI cenderung tidak menghargai suara yang telah mereka tiru – Robbie92 juga membagikan tautan dokumen yang besar dan kuat hingga lusinan mod yang tanpa malu-malu menggunakan suara AI, seringkali melalui ElevenLabs. Memang, banyak proyek Skyrim di Nexus Mods yang diberi tag buatan AI bahkan mengundang pengguna untuk lebih jauh mencampur atau menyesuaikan suara buatan.
Postingan ini telah menghidupkan kembali perdebatan tentang moralitas akting suara AI dalam mod dan mengarahkan sebagian dari pertimbangan deepfake yang sedang berlangsung di internet ke komunitas mod Skyrim. Tanggapan awal dari pengisi suara, termasuk banyak yang pernah mengerjakan serial The Elder Scrolls atau Skyrim secara khusus, belum ramah.
(Kredit gambar: Skyrim)
“Ini benar-benar mengganggu,”kata Elisa Gabrielli, yang mengisi suara Maven Black-Briar di Skyrim dan telah berkontribusi pada lusinan game lainnya.”Aku akan memeriksanya.”
“Jika Anda menemukan suara saya dalam salah satu situasi ini, beri tahu saya agar saya dapat meminta agar suara saya dihapus,”menambahkan Ben Diskin, yang memiliki banyak kredit suara video game termasuk The Elder Scrolls Online.”Saya tidak menyetujui data biometrik saya digunakan untuk tujuan ini.”
Pengisi suara Kyle McCarley, yang mungkin terkenal karena banyak peran anime tetapi juga mengisi suara di beberapa game termasuk The Elder Scrolls Online, menggemakan sikap Diskin:”Tolong beri tahu saya jika Anda menemukan suara saya tercetak di suatu tempat seperti ini. Saya tidak ingin orang menggunakan AI untuk memasukkan kata-kata ke mulut saya.”
Abbey Veffer, pengisi suara beberapa karakter di Genshin Impact dan The Elder Scrolls Online: Necrom, menulis:”Jika Anda menemukan suara saya di salah satu mod ini, beri tahu saya agar saya dapat meminta agar suara saya dihapus. Saya tidak, dan tidak akan pernah, menyetujui suara saya digunakan untuk sintesis AI, kloning, deepfake, dll. Ini TIDAK BOLEH.”
Saya menghubungi Veffer untuk mendapatkan lebih banyak pendapatnya tentang masalah ini. Dia merujuk saya ke artikel terbaru dari KCRW membahas konsekuensi dari deepfake, dan menegaskan bahwa dia telah”ditiru di Twitter melalui sintesis suara AI dua kali, dan melakukan doxx sekali, jadi Anda bisa membayangkan bagaimana perasaan saya tentang semua ini.”
(Kredit gambar: Bethesda)
“Ini SALAH di setiap level!”setuju Ryan Laughton, yang suaranya dapat ditemukan di Diablo 4, Hitman 2, dan Return dari Obra Dinn.”Ini mengganggu. WTF salah dengan orang-orang, kloning suara AI tidak terkendali. Jangan mendukung replikasi AI dari suara VA dalam bentuk atau bentuk apa pun. Tolong beri tahu saya jika Anda pernah menemukan suara saya digunakan seperti ini. Saya jangan memberikan persetujuan.”
Argumen tandingan umum yang mendukung mod suara AI mencakup kebebasan berkreasi, kurangnya insentif keuntungan, dan ketidakmampuan untuk mencari pekerjaan suara berbayar. Didorong oleh penyebaran porno AI Skyrim, beberapa pengisi suara secara khusus mengejar argumen ini.
“Tindakan mengambil suara aktor tanpa persetujuan mereka dan membuatnya mengatakan apa pun, TERUTAMA konten nsfw sangat keji ,”ucap Zane Schacht. Menanggapi salah satu pengguna yang menunjukkan bahwa suara AI dapat mempermudah pembuatan mod yang lebih ambisius, seperti pencarian cerita bersuara, Schacht menambahkan:”Jika Anda ingin akting suara, bayar aktor. Jika Anda tidak mampu membeli aktor, mintalah sekitar dan lihat apakah seseorang akan melakukannya secara gratis. Jika Anda tidak dapat menemukan seseorang untuk melakukannya secara gratis, Anda tidak mendapatkan akting suara.”
“Mengambil suara aktor dan membuatnya menjadi meme konyol adalah satu hal,”katanya.”Itu hal lain untuk membuat mereka terlibat dalam tindakan seksual. Saya tidak menentang mod NSFW. Saya tidak menentang seni NSFW. Tetapi inti dari ini adalah rasa tidak hormat yang mendasar terhadap pengisi suara asli. Melihat mereka sebagai data murni untuk dibentuk dan bukan individu. Persetujuan adalah segalanya. Dan jika Anda membuat konten seksual tanpa persetujuan dari pihak yang terlibat, itu sangat keji.”
(Kredit gambar: Bethesda)
Memang benar bahwa banyak modder independen tidak mampu, atau tidak mau membayar, akting suara asli, tetapi argumen bahwa itu sepenuhnya tidak dapat diakses oleh mod dengan cepat berantakan karena banyaknya proyek yang disuarakan. Baru pada bulan April ini, sekelompok penggemar Hollow Knight dan lebih dari 100 pengisi suara menambahkan suara ke lebih dari 400 karakter.
Di ruang Bethesda, mega mod seperti Fallout: London telah meminta pengisi suara selama bertahun-tahun. Proyek-proyek ini jelas lebih besar daripada boneka seks digital berbicara yang dibuat beberapa pria untuk Skyrim, tetapi ini kembali ke argumen Schacht bahwa jika Anda tidak mampu membeli aktor atau menemukan sukarelawan, mungkin Anda tidak boleh memutarbalikkan kinerja aktor yang sudah mapan. tanpa persetujuan mereka.
Marc Swint, yang mungkin pernah Anda dengar di Smite atau Street Fighter 5, membidik di peluang NSFW:”Ada BANYAK talenta suara yang bekerja secara khusus di kancah NSFW yang tersedia untuk animasi SFM dan Blender, dll. Tolong, jika Anda mengerjakan animasi seksi, hubungi mereka dan hargai tarif mereka. Don jangan gunakan Kloning Suara AI. TERUTAMA bukan untuk tujuan ini.”
Nexus Mods sebelumnya mengatakan akan menghapus konten buatan AI sebagai tanggapan atas”keluhan yang kredibel dari pihak yang merasa [sebuah mod] merusak mereka”, termasuk pengisi suara atau pemilik aset. Itu juga menyarankan pengguna untuk”menghindari penggunaan alat-alat ini kecuali Anda memiliki izin eksplisit untuk menggunakan semua aset,”tetapi persetujuan aktor suara jelas telah diabaikan oleh banyak orang. Nexus Mods bahkan menambahkan bahwa”hal ini terutama berlaku untuk akting suara yang dihasilkan oleh AI”, tetapi hal itu tidak menghentikan arus.
(Kredit gambar: Bethesda)
Situs tersebut melakukannya memiliki target Formulir DMCA untuk proyek yang menggunakan konten yang dianggap dicuri atau digunakan secara tidak tepat, tetapi tidak jelas seberapa efektif rute ini bagi pengisi suara mengingat banyaknya mod AI yang harus dilawan serta birokrasi legal yang dilengkapi dengan hak cipta video game dan kepemilikan kinerja. Saya telah menghubungi Nexus Mods untuk mengomentari situasi dengan Skyrim dan pembaruan tentang pendiriannya pada akting suara AI.
Schacht tidak optimis tentang opsi yang tersedia untuk pengisi suara terhadap mod ini:”Kesadaran mengerikan yang saya dapatkan adalah jika suara seorang aktor digunakan untuk membuat template dan template itu mengatakan hal-hal buruk tanpa persetujuan mereka, satu-satunya hal yang dapat menghentikan hal seperti itu terjadi adalah kompas moral para modder. Dan dalam beberapa hari terakhir saya telah melihat ketabahan moral dari beberapa modder ini dan merasa sangat kurang.”
“Jika Anda benar-benar ingin melihat keburukan orang,”tambah Schacht,”lihat bagaimana reaksi mereka saat Anda memberi tahu mereka’Tidak.’Tidak, Anda tidak dapat menggunakan suara dan kemiripan saya di luar keinginan saya. Tidak, Anda tidak dapat membuat saya mengucapkan meme. Orang-orang menjadi liar, dan topengnya terlepas.”
Terkadang saya merindukan hari-hari ketika mod lebih banyak seperti goyangan Skyrim Grimace ini, yang mungkin atau mungkin tidak membunuhmu.
