Bármikor, amikor a mesterséges intelligencia témájáról beszél, valami erkölcsileg szürke és potenciálisan pusztító dologról beszél. Ugyanez a helyzet a Universal Translator eszközzel, amelyről a Google beszélt a Google I/O során. A vállalat arról beszélt, hogy ez az eszköz milyen előnyökkel járhat a lehetséges károkkal együtt (a Techcrunch).
A Bard bevezetésével, a kód létrehozására és írásra használható eszközével tartalommal, és a MusicLM eszközzel, amellyel azonnal zenét lehet generálni szöveges promptból, a Google határozottan beszélt néhány ijesztő technológiáról, amely komoly károkat okozhat. A Universal Translator sem más.
Ez egy meglehetősen innovatív technológia, amely segíthet az embereknek a beszéd fordításában. A technológia videót készít valakiről, aki beszél, és egy másik nyelven szinkronizálja. Ez magában foglalja a beszéd lefordítását és az AI által generált hang lejátszását, amely megegyezik az eredeti beszélő hangjával és hangszínével. Végül a Google mesterséges intelligencia segítségével szinkronizálja a hangszóró ajkait az újonnan generált hanggal.
Olyan lesz, mintha a beszélő eredetileg egy másik nyelven rögzítette volna a videót.
A Google tudomásul veszi, hogy az Univerzális fordítóeszközt károkozásra lehet használni
A mesterséges intelligencia átlépi a határvonalat a hasznos és a veszélyes között. A mesterséges intelligencia által generált hangok és a mélyhamisítási technológia egyre inkább kikúszik a The Uncanny Valley-ből a Realism Citybe. Egyre nehezebb különbséget tenni a mesterséges intelligencia által generált hangok és a valódi hangok között.
Ez azt jelenti, hogy közeledünk ahhoz a képességhez, hogy bárki bármit mondjon vagy csináljon. Utálsz egy hírességet? Készíthetsz hamis videót arról, hogy rasszista vagy antiszemita dolgokat mondanak. Féltékeny ex vagy? Nos, hamis videókat vagy hangfelvételeket készíthet róluk, amelyek megcsalják jelenlegi szeretőjüket. Ez egyre kevésbé lehetetlen.
Ezért jegyezte meg James Manyika az előadás során a „Bold and Responsible” kifejezést. Ez azt jelenti, hogy a Google, mielőtt ezt a technológiát a tömegek számára elérhetővé tenné, mindent megtesz annak érdekében, hogy a rosszindulatú emberek ne tudják használni ezt a technológiát rosszindulatú cselekményekhez.
Az a helyzet, hogy ez az nehéz látni, hogy a cég hogyan tudja ezt megvalósítani. Csak egy Google van, de rosszindulatú emberek milliói vannak. Ez könnyen kicsúszik az irányítás alól, és valódi károkat okozhat ártatlan embereknek. Csak meg kell néznünk, hogyan alakulnak a dolgok, és reméljük, hogy a Google tudja, mit csinál.
