Ngày càng có nhiều mod Skyrim, bao gồm nhiều mod được xếp hạng M, đang sử dụng giọng nói do AI tạo ra dựa trên các diễn viên lồng tiếng thực sự. Một số diễn viên đó hiện đã công khai chỉ trích hành vi sao chép và sao chép các buổi biểu diễn mà không được phép, đặc biệt là cho các mục đích khiêu dâm.
Công việc lồng tiếng cho AI không phải là một vấn đề gây tranh cãi mới, nhưng nó đã trở nên phổ biến hơn đáng kể trong bối cảnh mod Skyrim trong những tháng gần đây nhờ vào công cụ AI ElevenLabs, ra mắt vào năm 2022 và đang dần thu được động lực giữa các modder Skyrim. lập trường chính thức của Nexus Mods, vào tháng 4 năm 2023 đã phán quyết rằng”Nội dung bản mod do AI tạo ra không được chống lại các quy tắc của chúng tôi,”cũng đổ thêm dầu vào lửa.
AI gần đây đã được sử dụng để cung cấp tiếng nói cho Dragonborn , một số Skyrim NPC đồng hành và nhiều nhân vật khác. Đương nhiên, chỉ là vấn đề thời gian trước khi công nghệ đạt được các bản mod rõ ràng, đây là một bước quá xa đối với một số người.
Với sự gia tăng của AI nhân bản giọng nói, các diễn viên lồng tiếng đang bị cộng đồng mod lạm dụng. Là một thành viên của cảnh mod Skyrim, tôi vô cùng lo ngại về việc sử dụng nhân bản giọng nói AI để tạo và phân phối nội dung khiêu dâm deepfake không có sự đồng thuận. pic.twitter.com/ySUFqrtjH0Ngày 1 tháng 7 năm 2023
Xem thêm
Một bài đăng dài mới từ người dùng Twitter Robbie92 lập luận rằng”các diễn viên lồng tiếng đang bị lạm dụng bởi các cộng đồng sửa đổi”đang sử dụng”nhân bản giọng nói AI để tạo và phân phối nội dung khiêu dâm deepfake không có sự đồng thuận.”
Bài đăng bao gồm danh sách các diễn viên lồng tiếng có màn trình diễn bị cáo buộc đã được sử dụng trong các bản mod khiêu dâm Skyrim. Mặc dù tôi không thể tự mình xác minh tất cả các diễn viên bị ảnh hưởng-có rất nhiều mod khiêu dâm Skyrim, mọi người và mod AI có xu hướng không công nhận giọng nói mà họ đã nhân bản-Robbie92 cũng đã chia sẻ một liên kết tài liệu khổng lồ cho đến hàng tá mod sử dụng giọng nói AI một cách tự nhiên, thường xuyên thông qua ElevenLabs. Thật vậy, nhiều dự án Skyrim trên Nexus Mod được gắn thẻ do AI tạo thậm chí còn mời người dùng phối lại hoặc điều chỉnh thêm giọng nói nhân tạo.
Bài đăng này đã khơi lại cuộc tranh luận về tính đạo đức của giọng nói AI trong các bản mod và hướng các phần thảo luận về deepfake đang diễn ra trên internet tới cộng đồng mod Skyrim. Phản hồi ban đầu từ các diễn viên lồng tiếng, bao gồm nhiều người đã từng làm việc trong sê-ri The Elder Scrolls hoặc Skyrim cụ thể, không được hoan nghênh.
(Tín dụng hình ảnh: Skyrim)
“Điều này thực sự đáng lo ngại,”đã nói Elisa Gabrielli, người đã lồng tiếng cho Maven Black-Briar trong Skyrim và đã đóng góp cho hàng chục trò chơi khác.”Tôi sẽ xem xét nó.”
“Nếu bạn thấy giọng nói của tôi ở một trong những trường hợp này, vui lòng cho tôi biết để tôi có thể yêu cầu gỡ bỏ giọng nói đó,”thêm vào Ben Diskin, người có nhiều bản ghi âm trò chơi điện tử bao gồm The Elder Scrolls Online.”Tôi không đồng ý cho phép dữ liệu sinh trắc học của mình được sử dụng cho những mục đích này.”
Diễn viên lồng tiếng Kyle McCarley, người có lẽ được biết đến nhiều nhất qua nhiều vai anime nhưng cũng đã lồng tiếng trong một số trò chơi bao gồm The Elder Scrolls Online, lặp lại Lập trường của Diskin:”Hãy cho tôi biết nếu bạn tìm thấy giọng nói của tôi ở đâu đó như thế này. Tôi không biết muốn mọi người sử dụng AI để nhét chữ vào miệng tôi.”
Abbey Veffer, người đã lồng tiếng cho một số nhân vật trong Genshin Impact và The Elder Scrolls Online: Necrom, đã viết:”Nếu bạn tìm thấy giọng nói của tôi trong một trong những bản mod này, vui lòng cho tôi biết để tôi có thể yêu cầu gỡ nó xuống. Tôi không và sẽ không bao giờ đồng ý cho phép giọng nói của mình được sử dụng để tổng hợp AI, nhân bản, deepfakes, v.v. Điều này KHÔNG ổn.”
Tôi đã liên hệ với Veffer để biết thêm suy nghĩ của cô ấy về vấn đề này. Cô ấy đã giới thiệu cho tôi một tác phẩm gần đây từ KCRW thảo luận về hậu quả của deepfakes và khẳng định rằng cô ấy đã”bị mạo danh trên Twitter thông qua tổng hợp giọng nói AI hai lần và bị lừa một lần, vì vậy bạn có thể tưởng tượng tôi cảm thấy thế nào về tất cả những điều này.”
(Tín dụng hình ảnh: Bethesda)
“Điều này SAI ở mọi cấp độ!”đồng ý Ryan Laughton có thể lồng tiếng cho Diablo 4, Hitman 2 và Return của Obra Dinn.”Thật đáng lo ngại. WTF có lỗi với mọi người, nhân bản giọng nói AI nằm ngoài tầm kiểm soát. Không hỗ trợ AI sao chép giọng nói của VA dưới bất kỳ hình thức hoặc hình thức nào. Vui lòng cho tôi biết nếu bạn từng gặp phải trường hợp giọng nói của tôi bị sử dụng như thế này. Tôi không đồng ý.”
Các lập luận phản bác phổ biến ủng hộ mod giọng nói AI bao gồm tự do sáng tạo, thiếu khuyến khích lợi nhuận và không thể tìm nguồn tác phẩm lồng tiếng trả phí. Được thúc đẩy bởi sự phổ biến của nội dung khiêu dâm AI Skyrim, một số diễn viên lồng tiếng đã đặc biệt theo đuổi những tranh luận này.
“Hành động lấy giọng của một diễn viên mà không có sự đồng ý của họ và khiến họ nói bất cứ điều gì, ĐẶC BIỆT là nội dung nsfw thật kinh khủng ,”nói Zane Schacht. Đáp lại một người dùng đã chỉ ra rằng giọng nói của AI có thể giúp tạo ra các bản mod tham vọng hơn dễ dàng hơn, chẳng hạn như các nhiệm vụ lồng tiếng cho câu chuyện, Schacht nói thêm:”Nếu bạn muốn lồng tiếng, hãy trả tiền cho một diễn viên. Nếu bạn không đủ khả năng thuê một diễn viên, hãy hỏi xung quanh và xem liệu có ai đó làm việc đó miễn phí không. Nếu bạn không tìm được người làm việc đó miễn phí, thì bạn sẽ không được lồng tiếng.”
“Đó là một chuyện để lấy giọng của một diễn viên và biến nó thành một meme ngớ ngẩn,”anh nói.”Làm cho họ tham gia vào các hành vi tình dục là một chuyện khác. Tôi không có gì chống lại các mod của NSFW. Tôi không có gì chống lại nghệ thuật của NSFW. Nhưng cốt lõi của điều này là sự thiếu tôn trọng cơ bản đối với diễn viên lồng tiếng gốc. Xem họ như những dữ liệu thuần túy được nhào nặn và không phải là một cá nhân. Sự đồng ý là tất cả. Và nếu bạn đang tạo nội dung khiêu dâm mà không có sự đồng ý của các bên liên quan, thì điều đó thật tệ hại.”
(Tín dụng hình ảnh: Bethesda)
Đúng là nhiều modder độc lập không đủ khả năng hoặc không muốn trả tiền cho lồng tiếng gốc, nhưng lập luận rằng điều đó hoàn toàn không thể truy cập vào các bản mod nhanh chóng sụp đổ do vô số dự án lồng tiếng. Chỉ trong tháng 4 này, một nhóm người hâm mộ Hiệp sĩ rỗng và hơn 100 diễn viên lồng tiếng đã thêm giọng nói cho hơn 400 nhân vật.
Trong không gian của Bethesda, các mod lớn như Fallout: London đã yêu cầu diễn viên lồng tiếng trong nhiều năm. Những dự án này rõ ràng lớn hơn một con búp bê tình dục kỹ thuật số biết nói mà một số anh chàng làm cho Skyrim, nhưng điều này quay trở lại lập luận của Schacht rằng nếu bạn không đủ khả năng thuê một diễn viên hoặc tìm một tình nguyện viên, thì có lẽ bạn không nên làm hỏng màn trình diễn của một diễn viên đã thành danh mà không có sự đồng ý của họ.
Marc Swint, người mà bạn có thể đã nghe nói trong Smite hoặc Street Fighter 5, đã nhắm bắn tại các cơ hội của NSFW:”Có RẤT NHIỀU tài năng lồng tiếng làm việc cụ thể trong bối cảnh NSFW dành cho hoạt hình SFM và Blender, v.v.. Xin vui lòng, nếu bạn đang làm việc trên các hoạt hình gợi cảm, hãy liên hệ với họ và tôn trọng tỷ lệ của họ. Don không sử dụng nhân bản giọng nói A.I. ĐẶC BIỆT không cho mục đích này.”
Nexus Mods trước đây cho biết họ có thể xóa nội dung do AI tạo ra để đáp lại”đơn khiếu nại đáng tin cậy từ một bên cảm thấy [một bản mod] đang gây hại cho họ”, bao gồm cả diễn viên lồng tiếng hoặc chủ sở hữu nội dung. Nó cũng khuyên người dùng”tránh sử dụng những công cụ này trừ khi bạn có quyền rõ ràng để sử dụng tất cả nội dung”, nhưng sự đồng ý của diễn viên lồng tiếng rõ ràng đã bị nhiều người phớt lờ. Nexus Mods thậm chí còn nói thêm rằng”điều này đặc biệt đúng đối với diễn xuất bằng giọng nói do AI tạo ra”, nhưng điều đó không ngăn được xu hướng.
(Tín dụng hình ảnh: Bethesda)
Trang web có có mục tiêu Biểu mẫu DMCA cho các dự án sử dụng nội dung bị coi là ăn cắp hoặc sử dụng không phù hợp, nhưng không rõ mức độ hiệu quả của lộ trình này đối với các diễn viên lồng tiếng với số lượng lớn mod AI để chống lại cũng như băng đỏ hợp pháp mà đi kèm với bản quyền trò chơi điện tử và quyền sở hữu hiệu suất. Tôi đã liên hệ với Nexus Mods để nhận xét về tình huống với Skyrim và cập nhật về lập trường của nó đối với diễn xuất bằng giọng nói AI.
Schacht không lạc quan về các lựa chọn có sẵn cho các diễn viên lồng tiếng đối với các bản mod này:”Tôi nhận ra một điều khủng khiếp là nếu giọng nói của một diễn viên được sử dụng để tạo một khuôn mẫu và khuôn mẫu đó sẽ nói những điều tồi tệ nếu không có sự đồng ý của họ, điều duy nhất có thể ngăn chặn điều đó xảy ra là bắt đầu từ la bàn đạo đức của modder. Và trong vài ngày qua, tôi đã thấy sự dũng cảm về mặt đạo đức của một số modder này và thấy nó thiếu trầm trọng.”
“Nếu bạn thực sự muốn nhìn thấy sự xấu xí của mọi người,”Schacht nói thêm,”hãy xem họ phản ứng thế nào khi bạn nói’Không’. Không, bạn không thể sử dụng giọng nói và sự giống nhau của tôi trái với ý muốn của tôi. Không, bạn không thể bắt tôi nói meme. Mọi người trở nên hoang dã và chiếc mặt nạ sẽ rơi ra.”
Đôi khi tôi nhớ những ngày mà mod còn nhiều hơn thế như cái lắc Skyrim Grimace này, có thể giết chết bạn hoặc không.