Dott. Hinton è preoccupato per ChatGPT e altre tecnologie AI
Dr. Geoffrey Hinton si è dimesso dal suo incarico in Google per aumentare la consapevolezza sui pericoli dell’intelligenza artificiale e per sostenere le normative internazionali.
OpenAI, che ha creato ChatGPT e altri strumenti di intelligenza artificiale, ha guadagnato una notevole attenzione negli ultimi tempi. Più potente dei vecchi chatbot di altre aziende, le persone possono utilizzare ChatGPT per generare articoli, aiutare con la ricerca, rispondere a domande e persino agire autonomamente.
Parlando con il New York Times, afferma di essersi dimesso da Google per avvertire le persone dei rischi dell’intelligenza artificiale e una parte di lui rimpiange il lavoro della sua vita.
“Mi consolo con la solita scusa: se non l’avessi fatto io, l’avrebbe fatto qualcun altro”, ha detto il Dr. Hinton.”È difficile vedere come puoi impedire ai cattivi attori di usarlo per cose cattive.”
Hinton non si è unito ad altre persone di spicco nel firmare una lettera aperta per fermare temporaneamente i progressi dell’IA. Invece, voleva evitare di criticare pubblicamente Google e altre società fino a quando non avesse lasciato il lavoro.
Ha comunicato a Google le sue dimissioni ad aprile e giovedì ha parlato al telefono con Sundar Pichai, CEO della società madre di Google, Alphabet.
Ricerca fondamentale nell’IA
Dr. Hinton è un pioniere dell’intelligenza artificiale che ha creato la tecnologia che oggi è diventata la base di molti sistemi di intelligenza artificiale, come gli strumenti per identificare gli oggetti in un’immagine. Nel 1972 guidò la ricerca sulle reti neurali.
È un sistema che apprende abilità analizzando i dati e, sebbene altri ricercatori fossero scettici sull’idea, Hinton ha fatto delle reti neurali il lavoro della sua vita.
Nel 2012 lui e due dei suoi studenti hanno costruito una rete neurale in grado di analizzare migliaia di foto e insegnare da sola a identificare oggetti di uso quotidiano come cani, automobili e fiori. Google ha acquisito una società fondata dal Dr. Hinton e dai suoi studenti e il loro sistema ha portato a tecnologie più potenti, tra cui ChatGPT.
Uno di questi studenti, Ilya Sutskever, è diventato il capo scienziato di OpenAI.
Hinton inizialmente era scettico nei confronti delle reti neurali che imparavano dal testo digitale a comprendere e generare il linguaggio, ma le sue opinioni sono cambiate nel tempo.”Forse quello che sta succedendo in questi sistemi”, ha detto,”è in realtà molto meglio di quello che sta succedendo nel cervello”.
Gli attuali sistemi di intelligenza artificiale non sono potenti quanto il cervello umano per certi aspetti, ma per altri versi potrebbero superare l’intelligenza umana.
“Siamo sistemi biologici e questi sono sistemi digitali. E la grande differenza è che con i sistemi digitali hai molte copie dello stesso set di pesi, lo stesso modello del mondo”, ha detto alla BBC.”E tutte queste copie possono imparare separatamente ma condividere le loro conoscenze all’istante.”
“Quindi è come se avessi 10.000 persone e ogni volta che una persona impara qualcosa, tutti lo sanno automaticamente”, ha continuato Hinton.”Ed è così che questi chatbot possono sapere molto di più di qualsiasi persona.”
Man mano che le aziende migliorano le proprie tecnologie di intelligenza artificiale, possono diventare più pericolose.”Guarda com’era cinque anni fa e com’è adesso”, ha detto Hinton.”Prendi la differenza e propagala in avanti. È spaventoso.”
Dott. Hinton è preoccupato che Internet sarà presto invaso da foto, video e testi falsi e la maggior parte delle persone non sarà in grado di discernere la verità. È anche preoccupato per l’impatto dell’intelligenza artificiale sul mercato del lavoro e che potrebbe portare via più del semplice”lavoro faticoso”.
La concorrenza tra Google, Microsoft e altre società potrebbe intensificarsi in una corsa mondiale, che persisterà fino a quando non ci sarà una qualche forma di regolamentazione globale. Ma potrebbe essere impossibile, ha detto Hinton.
Crede che la migliore speranza dell’umanità sia che i principali scienziati del mondo collaborino per controllare la tecnologia.”Non credo che dovrebbero aumentare ulteriormente la situazione fino a quando non avranno capito se possono controllarla”, ha detto.
Per quanto riguarda Google,”rimaniamo impegnati in un approccio responsabile all’intelligenza artificiale”, ha dichiarato Jeff Dean, capo scienziato dell’azienda, in una dichiarazione.”Stiamo continuamente imparando a comprendere i rischi emergenti e allo stesso tempo innovando con coraggio.”
