Steeds meer Skyrim-mods, waaronder meer dan een paar aan de kant met de M-rating, gebruiken AI-gegenereerde stemmen op basis van echte stemacteurs. Sommige van die acteurs hebben nu publiekelijk de praktijk van het zonder toestemming schrapen en klonen van uitvoeringen afgekeurd, vooral voor pornografische doeleinden.
AI-stemwerk is geen nieuwe controverse, maar het komt de afgelopen maanden aanzienlijk vaker voor in de Skyrim-modding-scene dankzij de AI-tool ElevenLabs, die in 2022 van de grond kwam en langzaam aan kracht won onder Skyrim-modders. Het officiële standpunt van Nexus Mods, dat in april 2023 oordeelde dat”door AI gegenereerde mod-content niet tegen onze regels in’voegde ook olie toe aan het vuur.
AI is vrij recent gebruikt om stemmen te geven aan de Dragonborn , enkele Skyrim NPC-metgezellen en tal van andere personages. Het was natuurlijk slechts een kwestie van tijd voordat de technologie expliciete mods bereikte, die voor sommigen een stap te ver waren.
Met de opkomst van AI-stemklonen worden stemacteurs misbruikt door de modding-gemeenschappen. Als lid van de modding-scene van Skyrim maak ik me grote zorgen over de praktijk van het gebruik van AI-stemklonen om niet-consensuele deepfake pornografische inhoud te creëren en te verspreiden. pic.twitter.com/ySUFqrtjH01 juli 2023
Meer zien
p>
Een lange nieuwe post van Twitter-gebruiker Robbie92 stelt dat”stemacteurs worden misbruikt door de modding-gemeenschappen”die”AI-stemklonen gebruiken om niet-consensuele deepfake pornografische inhoud te creëren en te verspreiden.”
Het bericht bevat een lijst met stemacteurs wiens optredens naar verluidt zijn gebruikt in Skyrim-pornomods. Hoewel ik niet in staat ben geweest om alle getroffen acteurs alleen op het gehoor voor mezelf te verifiëren – er is een oceaan van Skyrim-pornomods, mensen en AI-mods hebben de neiging om de stemmen die ze hebben gekloond niet te erkennen – Robbie92 deelde ook een flink document met koppelingen tot tientallen mods die ongegeneerd AI-stemmen gebruiken, vaak via ElevenLabs. Inderdaad, veel van de Skyrim-projecten op Nexus Mods die zijn getagd door AI-gegenereerde gebruikers, nodigen gebruikers zelfs uit om verder te remixen of kunstmatige stemmen aan te passen.
Dit bericht heeft het debat over de moraliteit van AI-stemacteurs in mods opnieuw doen oplaaien en heeft delen van het voortdurende deepfake-overleg op internet gericht op de Skyrim-mod-gemeenschap. De eerste reacties van stemacteurs, waaronder velen die aan The Elder Scrolls-serie of specifiek aan Skyrim hebben gewerkt, waren niet verwelkomend.
(Afbeelding tegoed: Skyrim)
“Dit is echt verontrustend,”zei Elisa Gabrielli, die Maven Black-Briar uitte in Skyrim en heeft bijgedragen aan tientallen andere games.”Ik zal er naar kijken.”
“Als je mijn stem vindt in een van deze situaties, laat het me dan weten, zodat ik kan vragen om het te verwijderen,”voegt toe aan Ben Diskin, wiens talloze stemcredits voor videogames The Elder Scrolls Online omvatten.”Ik ga er niet mee akkoord dat mijn biometrische gegevens voor deze doeleinden worden gebruikt.”
Stemacteur Kyle McCarley, die misschien het best bekend staat om zijn vele anime-rollen, maar ook heeft ingesproken in verschillende games, waaronder The Elder Scrolls Online, herhaalde het standpunt van Diskin:”Vertel me alsjeblieft of je mijn stemafdruk ergens als deze vindt. Ik niet wil dat mensen die AI gebruiken mij woorden in de mond leggen.”
Abbey Veffer, die verschillende personages uitte in Genshin Impact en The Elder Scrolls Online: Necrom, schreef:”Als je mijn stem vindt in een van deze mods, laat het me dan weten, zodat ik kan verzoeken om het te verwijderen. Ik geef geen toestemming en zal er nooit mee instemmen dat mijn stem wordt gebruikt voor AI-synthese, klonen, deepfakes, enz. Dit is NIET oké.”
Ik nam contact op met Veffer om meer van haar mening over de kwestie te horen. Ze verwees me naar een recent stuk van KCRW besprak de gevolgen van deepfakes en bevestigde dat ze”twee keer is nagebootst op Twitter via AI-spraaksynthese en één keer is gedoxxed, dus je kunt je voorstellen hoe ik hierover denk.”
(Afbeelding tegoed: Bethesda)
“Dit is FOUT op elk niveau!”beaamt Ryan Laughton, wiens stem te vinden is in onder meer Diablo 4, Hitman 2 en Return van de Obra Dinn.”Het is verontrustend. WTF is er mis met mensen, het klonen van AI-stemmen loopt uit de hand. Ondersteun de AI-replicatie van VA’s stemmen op geen enkele manier. Laat het me weten als je ooit tegenkomt dat mijn stem op deze manier wordt gebruikt. Ik geef geen toestemming.”
Veelvoorkomende tegenargumenten ten gunste van AI-stemmodificaties zijn creatieve vrijheid, gebrek aan winstprikkels en het onvermogen om betaald stemwerk te vinden. Aangespoord door de verspreiding van AI Skyrim-porno, zijn verschillende stemacteurs achter deze argumenten aan gegaan.
“De handeling om zonder hun toestemming de stem van een acteur over te nemen en deze iets te laten zeggen, VOORAL nsfw-inhoud, is verdomd gruwelijk ,”zegt Zane Schacht. In reactie op een gebruiker die erop wees dat AI-stemmen het gemakkelijker kunnen maken om ambitieuzere mods te maken, zoals verhaalzoektochten met stem, voegde Schacht eraan toe:”Als je stemacteurs wilt, betaal dan een acteur. Als je geen acteur kunt betalen, vraag het dan rond en kijk of iemand het gratis wil doen. Als je er geen kunt vinden om het gratis te doen, krijg je geen voice-acting.”
“Het is één ding om de stem van een acteur vast te pakken en hem een dwaze meme te laten zeggen,”zei hij.”Het is iets anders om ze seksuele handelingen te laten verrichten. Ik heb niets tegen NSFW-mods. Ik heb niets tegen NSFW-kunst. Maar de kern hiervan is een fundamenteel gebrek aan respect voor de originele stemacteur. Ze zien als pure gegevens die moeten worden gevormd en niet een individu. Toestemming is alles. En als je seksuele inhoud maakt zonder toestemming van de betrokken partijen, is dat gewoon gemeen.”
(Afbeelding tegoed: Bethesda)
Het is waar dat veel onafhankelijke modders originele stemacteurs niet kunnen of willen betalen, maar het argument dat het totaal ontoegankelijk voor mods valt snel uit elkaar gezien de rijkdom aan stemhebbende projecten. Alleen al in april voegde een groep Hollow Knight-fans en meer dan 100 stemacteurs stemmen toe aan meer dan 400 personages.
In de Bethesda-ruimte vragen megamods zoals Fallout: London al jaren om stemacteurs. Deze projecten zijn duidelijk groter dan een pratende digitale sekspop die een of andere kerel voor Skyrim heeft gemaakt, maar dit gaat terug op het argument van Schacht dat als je geen acteur kunt betalen of geen vrijwilliger kunt vinden, je de uitvoering van een gevestigde acteur misschien niet moet verdraaien. zonder hun toestemming.
Marc Swint, die je misschien hebt gehoord in Smite of Street Fighter 5, richtte bij NSFW-mogelijkheden:”Er zijn VEEL stemtalenten die specifiek in de NSFW-scene werken en beschikbaar zijn voor SFM-en Blender-animaties, enz. Als je aan sexy animaties werkt, neem dan contact met ze op en respecteer hun tarieven. Don gebruik geen A.I. Voice Cloning. SPECIAAL niet voor dit doel.”
Nexus Mods zei eerder dat het door AI gegenereerde inhoud zou kunnen verwijderen als reactie op een”geloofwaardige klacht van een partij die vindt dat [een mod] schadelijk voor hen is”, inclusief een stemacteur of asset-eigenaar. Het adviseerde gebruikers ook om”het gebruik van deze tools te vermijden, tenzij je expliciete toestemming hebt om alle middelen te gebruiken”, maar de toestemming van stemacteurs is duidelijk door velen genegeerd. Nexus Mods voegde er zelfs aan toe dat”dit met name geldt voor door AI gegenereerde stemacteurs”, maar dat heeft het tij niet gekeerd.
(Afbeelding tegoed: Bethesda)
De site doet dat een DMCA-formulier voor projecten die inhoud gebruiken die als gestolen of ongepast wordt gebruikt, maar het is onduidelijk hoe effectief deze route kan zijn voor stemacteurs, gezien de enorme hoeveelheid AI-mods die moeten worden bestreden en de juridische rompslomp die wordt geleverd met copyright voor videogames en eigendom van prestaties. Ik heb contact opgenomen met Nexus Mods voor commentaar op de situatie met Skyrim en een update over zijn standpunt over AI-stemacteren.
Schacht was niet optimistisch over de opties die beschikbaar zijn voor stemacteurs tegen deze mods:”Het gruwelijke besef dat ik ben gekomen is dat als een acteur zijn stem laat gebruiken om een sjabloon te maken en dat sjabloon vreselijke dingen zegt zonder hun toestemming is het enige dat zoiets kan voorkomen het morele kompas van de modder om mee te beginnen. En de afgelopen dagen heb ik de morele vastberadenheid van sommige van deze modders gezien en vond ik dat die ernstig tekortschoot.”
“Als je echt de lelijkheid van mensen wilt zien,”voegde Schacht eraan toe,”kijk dan hoe ze reageren als je ze’Nee’zegt. Nee, je kunt mijn stem en gelijkenis niet tegen mijn wil gebruiken. Nee, je kunt me de meme niet laten zeggen. Mensen worden wild en het masker gaat af.”
Soms mis ik de dagen dat mods meer zoals deze Skyrim Grimace-shake, die je wel of niet kan doden.
