Όλο και περισσότερα mod Skyrim, συμπεριλαμβανομένων περισσότερων από μερικών στην πλευρά με βαθμολογία M, χρησιμοποιούν φωνές που δημιουργούνται από AI βασισμένες σε πραγματικούς φωνητικούς ηθοποιούς. Ορισμένοι από αυτούς τους ηθοποιούς έχουν πλέον καταδικάσει δημόσια την πρακτική της απόξεσης και της κλωνοποίησης παραστάσεων χωρίς άδεια, ειδικά για πορνογραφικούς σκοπούς.
Η φωνητική εργασία με AI δεν είναι μια νέα διαμάχη, αλλά έχει γίνει πολύ πιο διαδεδομένη στη σκηνή του Skyrim modding τους τελευταίους μήνες στο πίσω μέρος του εργαλείου AI ElevenLabs, το οποίο ξεκίνησε το 2022 και σιγά-σιγά συγκέντρωσε δυναμική μεταξύ των modders Skyrim. Η επίσημη στάση των Nexus Mods, η οποία τον Απρίλιο του 2023 έκρινε ότι”το περιεχόμενο mod που δημιουργείται από AI δεν είναι ενάντια στους κανόνες μας», έριξε επίσης λάδι στη φωτιά.
Το AI έχει χρησιμοποιηθεί σχετικά πρόσφατα για να να δώσει φωνές στο Dragonborn , ορισμένους συντρόφους Skyrim NPC και πολλούς άλλους χαρακτήρες. Φυσικά, ήταν μόνο θέμα χρόνου να φτάσει η τεχνολογία σε ρητά mods, τα οποία ήταν ένα βήμα πολύ μακριά για ορισμένους.
Με την άνοδο της κλωνοποίησης φωνής με τεχνητή νοημοσύνη, οι φωνητικοί ηθοποιοί κακοποιούνται από τις κοινότητες τροποποίησης. Ως μέλος της σκηνής του Skyrim modding, ανησυχώ βαθιά για την πρακτική της χρήσης κλωνοποίησης φωνής AI για τη δημιουργία και τη διανομή μη συναινετικού deepfake πορνογραφικού περιεχομένου. pic.twitter.com/ySUFqrtjH01 Ιουλίου 2023
Δείτε περισσότερα
Μια μακροσκελή νέα ανάρτηση από τον χρήστη του Twitter, Robbie92, υποστηρίζει ότι”οι φωνητικοί ηθοποιοί κακοποιούνται από οι κοινότητες τροποποίησης» που χρησιμοποιούν «κλωνοποίηση φωνής AI για τη δημιουργία και τη διανομή μη συναινετικού βαθύ ψεύτικο πορνογραφικό περιεχόμενο».
Η ανάρτηση περιλαμβάνει μια λίστα φωνητικών ηθοποιών των οποίων οι ερμηνείες φέρεται να έχουν χρησιμοποιηθεί σε πορνό mod του Skyrim. Παρόλο που δεν μπόρεσα να επαληθεύσω όλους τους ηθοποιούς που επηρεάστηκαν μόνο με το αυτί – υπάρχει ένας ωκεανός πορνογραφικών μορφών Skyrim, άνθρωποι και mods AI τείνουν να μην πιστώνουν τις φωνές που έχουν κλωνοποιήσει – ο Robbie92 μοιράστηκε επίσης ένα τεράστιο έγγραφο που συνδέει σε δεκάδες mods που χρησιμοποιούν ασύστολα φωνές AI, συχνά μέσω ElevenLabs. Πράγματι, πολλά από τα έργα Skyrim στα Nexus Mods που έχουν επισημανθεί με τεχνητή νοημοσύνη προσκαλούν ακόμη και τους χρήστες να κάνουν περαιτέρω remix ή να προσαρμόσουν τεχνητές φωνές.
Αυτή η ανάρτηση έχει αναζωπυρώσει τη συζήτηση σχετικά με την ηθική της φωνητικής τεχνητής νοημοσύνης που ενεργεί σε mods και κατευθύνει τμήματα της συνεχιζόμενης συζήτησης για το deepfake του Διαδικτύου στην κοινότητα του Skyrim mod. Οι αρχικές απαντήσεις από φωνητικούς ηθοποιούς, συμπεριλαμβανομένων πολλών που έχουν εργαστεί στη σειρά The Elder Scrolls ή συγκεκριμένα στο Skyrim, δεν ήταν ευπρόσδεκτες.
(Image credit: Skyrim)
“Αυτό είναι πραγματικά ανησυχητικό,”είπε η Elisa Gabrielli, η οποία έδωσε τη φωνή του Maven Black-Briar στο Skyrim και έχει συνεισφέρει σε δεκάδες άλλα παιχνίδια. «Θα το ψάξω».
“Εάν βρείτε τη φωνή μου σε μία από αυτές τις περιπτώσεις, ενημερώστε με για να μπορώ να ζητήσω την κατάργησή της,”προσθέτει ο Ben Diskin, του οποίου οι πολυάριθμες φωνητικές πιστώσεις βιντεοπαιχνιδιών περιλαμβάνουν το The Elder Scrolls Online.”Δεν συναινώ τα βιομετρικά μου δεδομένα να χρησιμοποιούνται για αυτούς τους σκοπούς.”
Ο φωνητικός ηθοποιός Kyle McCarley, ο οποίος είναι ίσως περισσότερο γνωστός για πολλούς ρόλους anime, αλλά έχει επίσης εκφράσει τη φωνή του σε πολλά παιχνίδια, όπως το The Elder Scrolls Online, echoed Η στάση του Diskin:”Πες μου αν βρεις τη φωνή μου να τυπώνεται κάπου έτσι. Δεν το κάνω Θέλω οι άνθρωποι που χρησιμοποιούν τεχνητή νοημοσύνη να βάζουν λέξεις στο στόμα μου».
Η Abbey Veffer, η οποία εξέφρασε πολλούς χαρακτήρες στα Genshin Impact και The Elder Scrolls Online: Necrom, έγραψε:”Εάν βρείτε τη φωνή μου σε ένα από αυτά τα mod, ενημερώστε με για να μπορώ να ζητήσω την κατάργησή του. Δεν συναινώ και δεν πρόκειται ποτέ να συναινέσω στη χρήση της φωνής μου για σύνθεση τεχνητής νοημοσύνης, κλωνοποίηση, deepfakes, κ.λπ. Αυτό ΔΕΝ είναι εντάξει.”
Επικοινωνώ με τη Veffer για να μάθω περισσότερες από τις σκέψεις της για το θέμα. Με παρέπεμψε σε ένα πρόσφατο κομμάτι από τον στόχο KCRW συζητώντας τις συνέπειες των deepfakes και επιβεβαίωσε ότι”έχει προσωποποιηθεί στο Twitter μέσω σύνθεσης φωνής AI δύο φορές και έχει υποβληθεί σε doxx μία φορά, οπότε μπορείτε να φανταστείτε πώς νιώθω για όλο αυτό.”
(Εικόνα: Bethesda)
“Αυτό είναι ΛΑΘΟΣ σε κάθε επίπεδο!”συμφωνεί Ο Ryan Laughton, του οποίου η φωνή βρίσκεται σε Diablo 4, Hitman 2 και Return του Obra Dinn.”Είναι ανησυχητικό. Το WTF κάνει λάθος με τους ανθρώπους, η κλωνοποίηση φωνής με τεχνητή νοημοσύνη είναι ακατάλληλη. Μην υποστηρίζετε την αναπαραγωγή των φωνών του VA με οποιονδήποτε τρόπο ή μορφή. Ενημερώστε με αν συναντήσετε ποτέ τη φωνή μου να χρησιμοποιείται έτσι. Μην δίνετε τη συγκατάθεσή σας.”
Συνήθη αντεπιχειρήματα υπέρ των φωνητικών τρόπων τεχνητής νοημοσύνης περιλαμβάνουν δημιουργική ελευθερία, έλλειψη κινήτρων κέρδους και αδυναμία παροχής πληρωμένης φωνητικής εργασίας. Υποκινούμενοι από τη διάδοση του πορνό του AI Skyrim, αρκετοί φωνητές άρχισαν να επιδιώκουν ιδιαίτερα αυτά τα επιχειρήματα.
“Η πράξη του να παίρνεις τη φωνή ενός ηθοποιού χωρίς τη συγκατάθεσή του και να τον κάνεις να πει οτιδήποτε, ΕΙΔΙΚΑ το περιεχόμενο nsfw είναι ειδεχθές ,”λέει ο Zane Schacht. Απαντώντας σε έναν χρήστη που επεσήμανε ότι οι φωνές τεχνητής νοημοσύνης μπορούν να διευκολύνουν τη δημιουργία πιο φιλόδοξων mods, όπως οι φωνητικές αναζητήσεις ιστορίας, ο Schacht πρόσθεσε:”Αν θέλετε φωνητική ηθοποιία, πληρώστε έναν ηθοποιό. Εάν δεν μπορείτε να αντέξετε οικονομικά έναν ηθοποιό, ρωτήστε τριγύρω και δείτε αν κάποιος θα το κάνει δωρεάν. Αν δεν μπορείτε να βρείτε κάποιον να το κάνει δωρεάν, δεν θα έχετε φωνητική δράση.”
“Είναι ένα πράγμα να πιάνεις τη φωνή ενός ηθοποιού και να τον κάνεις να πει ένα ανόητο μιμίδιο”, είπε.”Είναι άλλο να τους κάνεις να συμμετάσχουν σε σεξουαλικές πράξεις. Δεν έχω τίποτα εναντίον των NSFW mods. Δεν έχω τίποτα ενάντια στην τέχνη του NSFW. Αλλά στον πυρήνα αυτού είναι μια θεμελιώδης ασέβεια για τον αρχικό φωνητικό ηθοποιό. Το να τα βλέπεις ως καθαρά δεδομένα που πρέπει να διαμορφωθούν και όχι ένα άτομο. Η συναίνεση είναι το παν. Και αν δημιουργείτε σεξουαλικό περιεχόμενο χωρίς τη συγκατάθεση των εμπλεκόμενων μερών, αυτό είναι απλώς βδελυρό.”
(Εικόνα: Bethesda)
Είναι αλήθεια ότι πολλοί ανεξάρτητοι modders δεν μπορούν να αντέξουν οικονομικά ή δεν θέλουν να πληρώσουν για την πρωτότυπη φωνητική υποκριτική, αλλά το επιχείρημα ότι είναι εντελώς απρόσιτο σε mods γρήγορα καταρρέει δεδομένου του πλούτου των εκφωνημένων έργων. Μόλις αυτόν τον Απρίλιο, μια ομάδα θαυμαστών του Hollow Knight και πάνω από 100 φωνητικούς ηθοποιούς πρόσθεσαν φωνές σε περισσότερους από 400 χαρακτήρες.
Στο χώρο της Bethesda, τα mega mods όπως το Fallout: London ζητούν φωνητικούς ηθοποιούς εδώ και χρόνια. Αυτά τα έργα είναι προφανώς μεγαλύτερα από μια ομιλούσα ψηφιακή κούκλα σεξ που έφτιαξε κάποιος μάγκας για το Skyrim, αλλά αυτό πηγαίνει πίσω στο επιχείρημα του Schacht ότι αν δεν μπορείτε να αντέξετε οικονομικά έναν ηθοποιό ή να βρείτε έναν εθελοντή, ίσως δεν πρέπει να διαστρεβλώσετε την ερμηνεία ενός καθιερωμένου ηθοποιού. χωρίς τη συγκατάθεσή τους.
Ο Marc Swint, που ίσως έχετε ακούσει στο Smite ή στο Street Fighter 5, έλαβε στόχο στο NSFW:”Υπάρχουν ΠΟΛΛΑ ταλέντα φωνής που εργάζονται ειδικά στη σκηνή του NSFW διαθέσιμα για κινούμενα σχέδια SFM και Blender, κ.λπ. Παρακαλούμε, εάν εργάζεστε σε σέξι κινούμενα σχέδια, απευθυνθείτε σε αυτά και σεβαστείτε τις τιμές τους. Don Μην χρησιμοποιείτε την κλωνοποίηση φωνής A.I. ΕΙΔΙΚΑ όχι για αυτόν τον σκοπό.”
Το Nexus Mods είχε δηλώσει προηγουμένως ότι ενδέχεται να αφαιρέσει περιεχόμενο που δημιουργείται από AI ως απάντηση σε μια”αξιόπιστη καταγγελία από ένα μέρος που πιστεύει ότι [ένα mod] είναι επιζήμιο για αυτούς”, συμπεριλαμβανομένου ενός φωνητικού ηθοποιού ή κατόχου περιουσιακού στοιχείου. Συμβουλεύει επίσης τους χρήστες να”αποφύγουν τη χρήση αυτών των εργαλείων εκτός εάν έχετε ρητή άδεια να χρησιμοποιήσετε όλα τα στοιχεία”, αλλά η συναίνεση του φωνητικού ηθοποιού έχει σαφώς αγνοηθεί από πολλούς. Το Nexus Mods πρόσθεσε μάλιστα ότι”αυτό ισχύει ιδιαίτερα για τη φωνητική δράση που δημιουργείται από AI”, αλλά αυτό δεν έχει ανακόψει την παλίρροια.
(Εικόνα: Bethesda)
Ο ιστότοπος το κάνει. έχουν στόχο Φόρμα DMCA για έργα που χρησιμοποιούν περιεχόμενο που θεωρείται κλεμμένο ή ακατάλληλα χρησιμοποιημένο, αλλά δεν είναι σαφές πόσο αποτελεσματική μπορεί να είναι αυτή η διαδρομή για τους φωνητικούς ηθοποιούς, δεδομένης της τεράστιας ποσότητας τροποποιήσεων AI για καταπολέμηση καθώς και της νομικής γραφειοκρατίας που συνοδεύεται από πνευματικά δικαιώματα και ιδιοκτησία βιντεοπαιχνιδιών. Επικοινώνησα με το Nexus Mods για σχόλια σχετικά με την κατάσταση με το Skyrim και ενημέρωση σχετικά με τη στάση του σχετικά με τη φωνητική δράση AI.
Ο Schacht δεν ήταν αισιόδοξος σχετικά με τις επιλογές που ήταν διαθέσιμες στους φωνητικούς ηθοποιούς ενάντια σε αυτά τα mods:”Η φρικτή συνειδητοποίηση που έχω καταλήξει είναι ότι αν ένας ηθοποιός χρησιμοποιεί τη φωνή του για να δημιουργήσει ένα πρότυπο και έχει αυτό το πρότυπο λέει απαίσια πράγματα χωρίς τη συγκατάθεσή τους, το μόνο πράγμα που θα μπορούσε να σταματήσει κάτι τέτοιο είναι η ηθική πυξίδα του modder. Και τις τελευταίες μέρες είδα το ηθικό σθένος ορισμένων από αυτούς τους modders και το βρήκα σοβαρά λειψό.”
“Αν θέλετε πραγματικά να δείτε την ασχήμια των ανθρώπων”, πρόσθεσε ο Schacht,”δείτε πώς αντιδρούν όταν τους λέτε”Όχι”. Όχι, δεν μπορείς να χρησιμοποιήσεις τη φωνή και την ομοίωσή μου παρά τη θέλησή μου. Όχι, δεν μπορείς να με κάνεις να πω το μιμίδιο. Οι άνθρωποι αγριεύουν και η μάσκα βγαίνει.”
Μερικές φορές μου λείπουν οι μέρες που τα mods ήταν περισσότερο σαν αυτό το κούνημα Skyrim Grimace, το οποίο μπορεί να σας σκοτώσει ή όχι.
