每當您談論人工智能主題時，您談論的都是道德灰色且具有潛在破壞性的事物。谷歌在 I/O 期間談到的 Universal Translator 工具也是如此。該公司談到了該工具可能帶來的潛在好處和潛在危害（來自 Techcrunch).
隨著 Bard 的推出，該工具可用於創建代碼並編寫內容和 MusicLM，可用於從文本提示中立即生成音樂的工具，谷歌肯定談到了一些可能造成重大危害的可怕技術。 Universal Translator 也不例外。
這是一項非常創新的技術，可以幫助人們翻譯語音。該技術將拍攝某人說話的視頻，並用不同的語言配音。這將涉及翻譯語音並播放與原始說話者的聲音和語調相匹配的 AI 生成的聲音。最後，Google 將使用 AI 將說話者的嘴唇與新生成的音頻同步。
就好像演講者最初是用另一種語言錄製視頻一樣。
Google 承認通用翻譯工具可用於危害
人工智能正在並且一直在繞過有用和危險之間的界限。 AI 生成的聲音和深度偽造技術的使用正從恐怖谷蔓延到現實主義城市。區分人工智能生成的聲音和真實的聲音變得越來越困難。
這意味著我們正在接近生成任何人說或做任何事情的能力。你討厭名人嗎?你可以製作一段他們說種族主義或反猶太主義言論的假視頻。你是嫉妒的前任嗎?好吧，您可以生成他們欺騙當前情人的虛假視頻或音頻。這正變得越來越不可能。
這就是為什麼 James Manyika 在演講中提到了“大膽和負責任”這句話。這意味著，在向大眾提供這項技術之前，谷歌將盡其所能確保惡意人員無法使用這項技術進行惡意行為。</p>
事實是，它是很難看出該公司將如何實現這一目標。只有一個谷歌，但那裡有數百萬惡意的人。這很容易失控並對無辜者造成真正的傷害。我們只需要看看事情如何發展，並希望 Google 知道它在做什麼。
