Sempre più mod di Skyrim, tra cui parecchie classificate M, utilizzano voci generate dall’intelligenza artificiale basate su doppiatori reali. Alcuni di quegli attori hanno ora denunciato pubblicamente la pratica dello scraping e della clonazione di spettacoli senza permesso, soprattutto per scopi pornografici.
Il lavoro vocale AI non è una nuova controversia, ma è diventato significativamente più diffuso nella scena del modding di Skyrim negli ultimi mesi grazie allo strumento AI ElevenLabs, che è decollato nel 2022 e ha lentamente acquisito slancio tra i modder di Skyrim. La posizione ufficiale di Nexus Mods, che nell’aprile 2023 ha stabilito che”il contenuto mod generato dall’IA non è contro le nostre regole”, ha anche aggiunto benzina sul fuoco.
L’intelligenza artificiale è stata recentemente utilizzata per dare voce al Sangue di Drago , alcuni compagni NPC di Skyrim e molti altri personaggi. Naturalmente, era solo una questione di tempo prima che la tecnologia raggiungesse modifiche esplicite, che per alcuni sono state un passo troppo avanti.
Con l’aumento della clonazione della voce AI, i doppiatori vengono abusati dalle comunità di modding. Come membro della scena del modding di Skyrim, sono profondamente preoccupato per la pratica di utilizzare la clonazione della voce AI per creare e distribuire contenuti pornografici deepfake non consensuali. pic.twitter.com/ySUFqrtjH01 luglio 2023
Vedi di più
Un nuovo lungo post dell’utente di Twitter Robbie92 sostiene che”i doppiatori vengono abusati da le comunità di modding”che utilizzano”la clonazione della voce AI per creare e distribuire contenuti pornografici deepfake non consensuali”.
Il post include un elenco di doppiatori le cui interpretazioni sarebbero state utilizzate nelle mod porno di Skyrim. Sebbene non sia stato in grado di verificare da solo a orecchio tutti gli attori interessati-c’è un oceano di mod porno di Skyrim, persone e mod IA tendono a non accreditare le voci che hanno clonato-Robbie92 ha anche condiviso un pesante documento che collega a dozzine di mod che usano sfacciatamente voci AI, spesso tramite ElevenLabs. In effetti, molti dei progetti Skyrim su Nexus Mod che sono contrassegnati come generati dall’intelligenza artificiale invitano persino gli utenti a remixare ulteriormente o regolare le voci artificiali.
Questo post ha riacceso il dibattito sulla moralità della recitazione vocale dell’IA nei mod e ha indirizzato parti della deliberazione deepfake in corso su Internet alla comunità di mod di Skyrim. Le risposte iniziali dei doppiatori, inclusi molti che hanno lavorato alla serie The Elder Scrolls o Skyrim in particolare, non sono state accoglienti.
(Image credit: Skyrim)
“Questo è davvero inquietante,”ha detto Elisa Gabrielli, che ha doppiato Maven Black-Briar in Skyrim e ha contribuito a dozzine di altri giochi.”Ci penserò.”
“Se trovi la mia voce in una di queste situazioni, fammelo sapere così posso chiedere che venga rimossa”, aggiunge Ben Diskin, i cui numerosi crediti vocali nei videogiochi includono The Elder Scrolls Online.”Non acconsento che i miei dati biometrici vengano utilizzati per questi scopi.”
Il doppiatore Kyle McCarley, forse meglio conosciuto per molti ruoli negli anime, ma ha anche doppiato in diversi giochi tra cui The Elder Scrolls Online, ha fatto eco alla posizione di Diskin:”Per favore, dimmi se trovi la mia impronta vocale da qualche parte come questa. voglio che le persone che usano l’intelligenza artificiale mi mettano le parole in bocca”.
Abbey Veffer, che ha doppiato diversi personaggi in Genshin Impact e The Elder Scrolls Online: Necrom, ha scritto:”Se trovi la mia voce in una di queste mod, per favore fammelo sapere così posso richiedere che venga rimossa. Non acconsento e non acconsentirò mai che la mia voce venga utilizzata per la sintesi AI, clonazione, deepfake, ecc. NON va bene.”
Ho contattato Veffer per avere più opinioni sulla questione. Mi ha fatto riferimento a un pezzo recente di KCRW ha discusso delle conseguenze dei deepfake e ha affermato di essere stata”impersonata su Twitter tramite sintesi vocale AI due volte e doxxata una volta, quindi puoi immaginare come mi sento riguardo a tutto questo”.
(Image credit: Bethesda)
“Questo è SBAGLIATO a tutti i livelli!”è d’accordo Ryan Laughton, la cui voce può essere trovata in titoli come Diablo 4, Hitman 2 e Return dell’Obra Dinn.”È inquietante. WTF è sbagliato con le persone, la clonazione della voce AI è fuori controllo. Non supportare la replica AI delle voci di VA in alcun modo o forma. Per favore fammi sapere se incontri mai la mia voce usata in questo modo. Io non dare il consenso.”
Le controargomentazioni comuni a favore delle mod vocali AI includono la libertà creativa, la mancanza di incentivi al profitto e l’incapacità di reperire lavoro vocale a pagamento. Spinti dalla diffusione del porno AI Skyrim, diversi doppiatori hanno perseguitato queste discussioni in particolare.
“L’atto di prendere la voce di un attore senza il suo consenso e fargli dire qualsiasi cosa, SOPRATTUTTO il contenuto nsfw è fottutamente atroce ,”afferma Zane Schacht. In risposta a un utente che ha sottolineato che le voci AI possono rendere più facile la creazione di mod più ambiziose, come le missioni della storia doppiate, Schacht ha aggiunto:”Se vuoi il doppiaggio, paga un attore. Se non puoi permetterti un attore, chiedi in giro e vedi se qualcuno lo farà gratuitamente. Se non riesci a trovarne uno che lo faccia gratuitamente, non otterrai il doppiaggio”.
“Una cosa è afferrare la voce di un attore e fargli dire uno stupido meme”, ha detto.”Un altro è farli compiere atti sessuali. Non ho nulla contro i mod del NSFW. Non ho nulla contro l’arte del NSFW. Ma al centro di tutto questo c’è una fondamentale mancanza di rispetto per il doppiatore originale. Vederli come dati puri da modellare e non un individuo. Il consenso è tutto. E se stai creando contenuti sessuali senza il consenso delle parti coinvolte, è semplicemente vile.”
(Image credit: Bethesda)
È vero che molti modder indipendenti non possono permettersi, o non vogliono pagare, il doppiaggio originale, ma l’argomento secondo cui è totalmente inaccessibile ai mod cade rapidamente a pezzi data la ricchezza di progetti doppiati. Proprio questo aprile, un gruppo di fan di Hollow Knight e oltre 100 doppiatori hanno aggiunto le voci a oltre 400 personaggi.
Nello spazio Bethesda, mega mod come Fallout: London hanno richiesto doppiatori per anni. Questi progetti sono ovviamente più grandi di una bambola del sesso digitale parlante che un tizio ha realizzato per Skyrim, ma questo risale all’argomento di Schacht secondo cui se non puoi permetterti un attore o trovare un volontario, forse non dovresti pervertire la performance di un attore affermato senza il loro consenso.
Marc Swint, che potresti aver sentito in Smite o Street Fighter 5, ha preso la mira alle opportunità NSFW:”Ci sono MOLTI talenti vocali che lavorano specificamente nella scena NSFW disponibili per animazioni SFM e Blender, ecc. Per favore, se stai lavorando su animazioni sexy, contattali e rispetta le loro tariffe. Don non usare la clonazione vocale AI. SOPRATTUTTO non per questo scopo.”
Nexus Mods ha affermato in precedenza che potrebbe rimuovere i contenuti generati dall’intelligenza artificiale in risposta a un”reclamo credibile da parte di una parte che ritiene che [un mod] sia dannoso per loro”, incluso un doppiatore o proprietario di una risorsa. Ha inoltre consigliato agli utenti di”evitare di utilizzare questi strumenti a meno che non si disponga di un’autorizzazione esplicita per utilizzare tutte le risorse”, ma il consenso del doppiatore è stato chiaramente ignorato da molti. Nexus Mods ha anche aggiunto che”questo è particolarmente vero per la recitazione vocale generata dall’IA”, ma ciò non ha arginato la marea.
(Credito immagine: Bethesda)
Il sito non avere un obiettivo modulo DMCA per i progetti che utilizzano contenuti ritenuti rubati o utilizzati in modo inappropriato, ma non è chiaro quanto possa essere efficace questo percorso per i doppiatori, data l’enorme quantità di mod AI da combattere e la burocrazia legale che viene fornito con il copyright del videogioco e la proprietà delle prestazioni. Ho contattato Nexus Mods per un commento sulla situazione con Skyrim e un aggiornamento sulla sua posizione sulla recitazione vocale dell’IA.
Schacht non era ottimista riguardo alle opzioni disponibili per i doppiatori contro questi mod:”La raccapricciante realizzazione a cui sono arrivato è che se un attore usa la sua voce per creare un modello e quel modello dice cose orribili senza il loro consenso, l’unica cosa che potrebbe impedire che una cosa del genere accada è la bussola morale del modder per cominciare. E negli ultimi giorni ho visto la forza morale di alcuni di questi modder e l’ho trovata gravemente carente.
“Se vuoi davvero vedere la bruttezza delle persone”, ha aggiunto Schacht,”guarda come reagiscono quando dici loro’No’. No, non puoi usare la mia voce e le mie sembianze contro la mia volontà. No, non puoi farmi pronunciare il meme. Le persone diventano selvagge e la maschera si toglie.”
A volte mi mancano i giorni in cui i mod erano più come questo frullato di Skyrim Grimace, che potrebbe ucciderti o meno.
