Bất cứ khi nào bạn nói về chủ đề trí tuệ nhân tạo, bạn đang nói về một thứ gì đó xám xịt về mặt đạo đức và có khả năng tàn phá. Trường hợp tương tự với công cụ Universal Translator mà Google đã nói đến trong Google I/O. Công ty đã nói về lợi ích tiềm năng mà công cụ này có thể mang lại cùng với tác hại tiềm ẩn (thông qua Techcrunch).
Với việc giới thiệu Bard, công cụ có thể được sử dụng để tạo mã và viết nội dung và MusicLM, công cụ có thể được sử dụng để tạo nhạc ngay lập tức từ lời nhắc văn bản, Google chắc chắn đã nói về một số công nghệ đáng sợ có thể gây ra một số tác hại lớn. Universal Translator cũng không ngoại lệ.
Đây là một công nghệ khá sáng tạo có thể giúp mọi người Dịch lời nói. Công nghệ sẽ quay video ai đó đang nói và lồng tiếng đó bằng một ngôn ngữ khác. Điều này sẽ liên quan đến việc dịch bài phát biểu và phát lại giọng nói do AI tạo ra phù hợp với giọng nói và âm điệu của người nói ban đầu. Cuối cùng, Google sẽ sử dụng trí tuệ nhân tạo để đồng bộ hóa môi của người nói với âm thanh mới được tạo.
Có vẻ như người nói ban đầu đã quay video bằng một ngôn ngữ khác.
Google thừa nhận rằng công cụ Universal Translator có thể gây hại
Trí tuệ nhân tạo đang và đã vượt qua ranh giới giữa hữu ích và nguy hiểm. Việc sử dụng giọng nói do AI tạo ra và công nghệ giả sâu đang lan rộng ra khỏi The Uncanny Valley và tiến vào Realism City. Ngày càng khó phân biệt giữa giọng nói do AI tạo ra và giọng nói thật.
Điều này có nghĩa là chúng tôi đang tiến gần đến khả năng tạo ra bất kỳ người nào nói hoặc làm bất cứ điều gì. Bạn có ghét một người nổi tiếng? Bạn có thể tạo một video giả về việc họ nói những điều phân biệt chủng tộc hoặc bài Do Thái. Bạn có phải là người yêu cũ hay ghen không? Chà, bạn có thể tạo video hoặc âm thanh giả về việc họ lừa dối người yêu hiện tại của họ. Điều đó ngày càng trở nên bất khả thi.
Đây là lý do tại sao trong bài thuyết trình, James Manyika đã lưu ý đến cụm từ “Táo bạo và có trách nhiệm”. Điều này có nghĩa là Google, trước khi cung cấp công nghệ này cho đại chúng, sẽ làm những gì có thể để đảm bảo rằng những kẻ ác ý sẽ không thể sử dụng công nghệ này cho các Hành động ác ý.
Vấn đề là, đó là khó khăn để xem làm thế nào công ty sẽ có thể thực hiện điều này. Chỉ có một Google, nhưng ngoài kia có hàng triệu kẻ độc hại. Điều này có thể dễ dàng vượt khỏi tầm kiểm soát và gây ra một số tác hại thực sự cho những người vô tội. Chúng ta sẽ phải xem mọi thứ diễn ra như thế nào và hy vọng rằng Google biết họ đang làm gì.