Aina kun puhut tekoälystä, puhut jostain, joka on moraalisesti harmaata ja mahdollisesti tuhoisaa. Tilanne on sama Universal Translator-työkalun kanssa, josta Google puhui Google I/O:n aikana. Yritys puhui mahdollisesta hyödystä, jonka tämä työkalu voi tuoda, ja mahdollisista haitoista (osoitteen Techcrunch).
Kun otettiin käyttöön Bard, työkalu, jolla voidaan luoda koodia ja kirjoittaa sisältöä ja MusicLM-työkalua, jolla voidaan luoda välittömästi musiikkia tekstikehotteesta, Google puhui ehdottomasti pelottavasta tekniikasta, joka voi aiheuttaa suurta haittaa. Universal Translator ei eroa toisistaan.
Tämä on melko innovatiivinen tekniikka, joka voi auttaa ihmisiä kääntämään puhetta. Tekniikka ottaa videon, jossa joku puhuu, ja kopioi sen eri kielellä. Tämä tarkoittaa puheen kääntämistä ja tekoälyn luoman äänen toistamista, joka vastaa alkuperäisen puhujan ääntä ja sävyä. Lopuksi Google synkronoi tekoälyn avulla kaiuttimen huulet juuri luodun äänen kanssa.
Näyttää siltä, että puhuja olisi alun perin nauhoittanut videon eri kielellä.
Google myöntää, että Universal Translator-työkalua voidaan käyttää vahingoittamiseen
Tekoäly on ja on kiertänyt hyödyllisen ja vaarallisen rajan. Tekoälyn luomien äänien ja syvän väärennösteknologian käyttö hiipii ulos The Uncanny Valleystä Realism Cityyn. Tekoälyn luomien äänien ja todellisen asian erottaminen on yhä vaikeampaa.
Tämä tarkoittaa, että lähestymme kykyä synnyttää kuka tahansa sanova tai tekevä mitä tahansa. Vihaatko julkkista? Voit tehdä valevideon, jossa he sanovat rasistisia tai antisemitistisiä asioita. Oletko mustasukkainen exä? No, voit luoda vääriä videoita tai ääniä, joissa he huijaavat nykyistä rakastajaansa. Siitä on tulossa vähemmän mahdotonta.
Tästä syystä James Manyika huomautti esityksen aikana lauseen”Rohkea ja vastuullinen”. Tämä tarkoittaa, että Google tekee kaikkensa varmistaakseen, että pahantahtoiset ihmiset eivät voi käyttää tätä tekniikkaa haitallisiin toimiin ennen kuin tuo teknologian saataville.
Se on, se on On vaikea nähdä, kuinka yritys pystyy saavuttamaan tämän. On vain yksi Google, mutta siellä on miljoonia pahantahtoisia ihmisiä. Tämä voi helposti riistäytyä hallinnasta ja aiheuttaa todellista vahinkoa viattomille ihmisille. Meidän on vain katsottava, miten asiat etenevät, ja toivoa, että Google tietää, mitä se tekee.
