Mais e mais mods Skyrim, incluindo mais do que alguns do lado classificado como M, estão usando vozes geradas por IA baseadas em dubladores reais. Alguns desses atores já condenaram publicamente a prática de sucateamento e clonagem de performances sem permissão, especialmente para fins pornográficos.
O trabalho de voz AI não é uma nova controvérsia, mas tornou-se significativamente mais prevalente na cena modding Skyrim nos últimos meses na parte de trás da ferramenta AI ElevenLabs, que saiu do papel em 2022 e lentamente ganhou impulso entre os modders de Skyrim. A postura oficial dos Nexus Mods, que em abril de 2023 determinou que”o conteúdo do mod gerado por IA não é contra nossas regras”, também colocou lenha na fogueira.
A IA foi usada recentemente para dar vozes ao Dragonborn , alguns companheiros NPC de Skyrim e muitos outros personagens. Naturalmente, era apenas uma questão de tempo até que a tecnologia chegasse aos mods explícitos, que foram um passo longe demais para alguns.
Com o aumento da clonagem de voz AI, os dubladores estão sendo abusados pelas comunidades de modding. Como membro da cena modding Skyrim, estou profundamente preocupado com a prática de usar a clonagem de voz AI para criar e distribuir conteúdo pornográfico deepfake não consensual. pic.twitter.com/ySUFqrtjH01º de julho de 2023
Veja mais
Uma longa postagem do usuário do Twitter Robbie92 argumenta que”atores de voz estão sendo abusados por as comunidades modding”que estão usando”clonagem de voz AI para criar e distribuir conteúdo pornográfico deepfake não consensual”.
A postagem inclui uma lista de dubladores cujas performances foram supostamente usadas em mods pornográficos de Skyrim. Embora eu tenha sido incapaz de verificar todos os atores afetados apenas de ouvido-há um oceano de mods pornográficos de Skyrim, pessoas e mods de IA tendem a não dar crédito às vozes que clonaram-Robbie92 também compartilhou um documento robusto com links a dezenas de mods que usam vozes de IA descaradamente, frequentemente via ElevenLabs. De fato, muitos dos projetos Skyrim em Nexus Mods que são marcados por IA até convidam os usuários a remixar ou ajustar vozes artificiais.
Esta postagem reacendeu o debate sobre a moralidade da dublagem de IA em mods e direcionou partes da deliberação deepfake em andamento da Internet para a comunidade mod Skyrim. As respostas iniciais dos dubladores, incluindo muitos que trabalharam na série The Elder Scrolls ou Skyrim especificamente, não foram bem-vindas.
(Crédito da imagem: Skyrim)
“Isso é realmente perturbador,”disse Elisa Gabrielli, que dublou Maven Black-Briar em Skyrim e contribuiu para dezenas de outros jogos.”Vou investigar.”
“Se você encontrar minha voz em uma dessas situações, por favor me avise para que eu possa pedir que ela seja retirada,”adiciona Ben Diskin, cujos inúmeros créditos de voz para videogame incluem The Elder Scrolls Online.”Não concordo que meus dados biométricos sejam usados para esses fins.”
O dublador Kyle McCarley, que talvez seja mais conhecido por muitos papéis em animes, mas também dublou vários jogos, incluindo The Elder Scrolls Online, recordou a postura de Diskin:”Por favor, diga-me se você encontrar minha impressão de voz em algum lugar como este. Eu não quero que as pessoas usem IA para colocar palavras na minha boca.”
Abbey Veffer, que dublou vários personagens em Genshin Impact e The Elder Scrolls Online: Necrom, escreveu:”Se você encontrar minha voz em um desses mods, por favor me avise para que eu possa solicitar que ela seja retirada. Eu não consinto e nunca consentirei que minha voz seja usada para síntese de IA, clonagem, deepfakes, etc. Isso NÃO está certo.”
Entrei em contato com Veffer para saber mais sobre sua opinião sobre o assunto. Ela me indicou um artigo recente de KCRW discutindo as consequências dos deepfakes e afirmou que ela”foi personificada no Twitter via síntese de voz AI duas vezes e doxxed uma vez, então você pode imaginar como me sinto sobre tudo isso.”
(Crédito da imagem: Bethesda)
“Isso é ERRADO em todos os níveis!”concorda Ryan Laughton, cuja voz pode ser encontrada em jogos como Diablo 4, Hitman 2 e Return da Obra Dinn.”É perturbador. WTF está errado com as pessoas, a clonagem de voz AI está fora de controle. Não apoie a replicação AI das vozes de VA de qualquer forma ou forma. Por favor, deixe-me saber se você já viu minha voz sendo usada assim. Eu não dê consentimento.”
Os contra-argumentos comuns a favor dos mods de voz AI incluem liberdade criativa, falta de incentivo de lucro e a incapacidade de fornecer trabalho de voz pago. Induzidos pela disseminação da pornografia AI Skyrim, vários dubladores foram atrás desses argumentos em particular.
“O ato de pegar a voz de um ator sem seu consentimento e fazê-lo dizer qualquer coisa, ESPECIALMENTE conteúdo nsfw é hediondo pra caralho ,”diz Zane Schacht. Em resposta a um usuário que apontou que as vozes de IA podem facilitar a criação de mods mais ambiciosos, como missões de história com voz, Schacht acrescentou:”Se você quer dublagem, pague um ator. Se você não pode pagar um ator, peça por aí e veja se alguém fará isso de graça. Se você não conseguir encontrar alguém para fazer isso de graça, não conseguirá dublagem.”
“Uma coisa é pegar a voz de um ator e fazê-la dizer um meme bobo”, disse ele.”Outra é fazê-los se envolver em atos sexuais. Não tenho nada contra os mods NSFW. Não tenho nada contra a arte NSFW. Mas no centro disso está um desrespeito fundamental pelo dublador original. Vê-los como dados puros a serem moldados e não um indivíduo. O consentimento é tudo. E se você está criando conteúdo sexual sem o consentimento das partes envolvidas, isso é simplesmente vil.”
(Crédito da imagem: Bethesda)
É verdade que muitos modders independentes não podem pagar ou não querem pagar pela dublagem original, mas o argumento de que é totalmente inacessível aos mods desmorona rapidamente devido à riqueza de projetos dublados. Apenas em abril, um grupo de fãs de Hollow Knight e mais de 100 dubladores adicionaram vozes a mais de 400 personagens.
No espaço da Bethesda, mega mods como Fallout: London solicitam dubladores há anos. Esses projetos são obviamente maiores do que uma boneca sexual digital falante que algum cara fez para Skyrim, mas isso remonta ao argumento de Schacht de que, se você não pode pagar um ator ou encontrar um voluntário, talvez não deva perverter o desempenho de um ator estabelecido. sem o consentimento deles.
Marc Swint, que você deve ter ouvido em Smite ou Street Fighter 5, miro nas oportunidades NSFW:”Existem MUITOS talentos de voz trabalhando especificamente na cena NSFW disponíveis para animações SFM e Blender, etc. Por favor, se você estiver trabalhando em animações sensuais, entre em contato com eles e respeite suas taxas. Don não use IA de clonagem de voz. ESPECIALMENTE não para esta finalidade.”
Nexus Mods disse anteriormente que pode remover conteúdo gerado por IA em resposta a uma”reclamação confiável de uma parte que sente que [um mod] é prejudicial a eles”, incluindo um dublador ou proprietário de ativos. Ele também aconselhou os usuários a”evitar o uso dessas ferramentas, a menos que você tenha permissão explícita para usar todos os recursos”, mas o consentimento do dublador foi claramente ignorado por muitos. Nexus Mods até acrescentou que”isso é particularmente verdadeiro para dublagem gerada por IA”, mas isso não diminuiu a maré.
(Crédito da imagem: Bethesda)
O site faz ter um alvo formulário DMCA para projetos que usam conteúdo considerado roubado ou usado de forma inadequada, mas não está claro o quão eficaz essa rota pode ser para dubladores, dada a grande quantidade de mods de IA para combater, bem como a burocracia legal que vem com direitos autorais de videogame e propriedade de desempenho. Entrei em contato com a Nexus Mods para comentar a situação com Skyrim e uma atualização sobre sua posição sobre a dublagem de IA.
Schacht não estava otimista sobre as opções disponíveis para dubladores contra esses mods:”A conclusão horrível a que cheguei é que, se um ator tiver sua voz usada para criar um modelo e esse modelo disser coisas horríveis sem o consentimento deles, a única coisa que poderia impedir que tal coisa acontecesse é a bússola moral do modder, para começar. E nos últimos dias eu vi a força moral de alguns desses modders e achei que faltava severamente.
“Se você realmente quer ver a feiúra das pessoas”, acrescentou Schacht,”veja como elas reagem quando você diz’Não’. Não, você não pode usar minha voz e imagem contra a minha vontade. Não, você não pode me fazer dizer o meme. As pessoas ficam selvagens e a máscara cai.”
Às vezes sinto falta dos dias em que os mods eram mais como este shake Skyrim Grimace, que pode ou não matá-lo.
