Dra. Hinton está preocupado por ChatGPT y otras tecnologías de IA
Dr. Geoffrey Hinton renunció a su cargo en Google para crear conciencia sobre los peligros de la inteligencia artificial y abogar por las regulaciones internacionales.
OpenAI, que creó ChatGPT y otras herramientas de IA, ha ganado una gran cantidad de atención en los últimos tiempos. Más potente que los chatbots más antiguos de otras empresas, las personas pueden usar ChatGPT para generar artículos, ayudar con la investigación, responder preguntas e incluso actuar de forma autónoma.
Hablando con The New York Times, dice que renunció a Google para advertir a las personas sobre los riesgos de la IA y parte de él lamenta el trabajo de su vida.
“Me consuelo con la excusa normal: si no lo hubiera hecho yo, alguien más lo habría hecho”, dijo el Dr. Hinton.”Es difícil ver cómo puedes evitar que los malos actores lo usen para cosas malas”.
Hinton no se unió a otras personas prominentes para firmar una carta abierta para detener temporalmente los avances de la IA. En cambio, quería evitar criticar públicamente a Google y otras empresas hasta que renunciara a su trabajo.
Avisó a Google de su renuncia en abril y el jueves habló por teléfono con Sundar Pichai, director ejecutivo de la empresa matriz de Google, Alphabet.
Investigación fundamental en IA
Dr. Hinton es un pionero en inteligencia artificial que creó tecnología que se convirtió en la base de muchos sistemas de inteligencia artificial en la actualidad, como herramientas para identificar objetos en una imagen. En 1972 impulsó la investigación de las redes neuronales.
Es un sistema que aprende habilidades mediante el análisis de datos, y aunque otros investigadores se mostraron escépticos ante la idea, Hinton hizo de las redes neuronales el trabajo de su vida.
En 2012, él y dos de sus alumnos construyeron una red neuronal que podía analizar miles de fotos y aprender a identificar objetos cotidianos como perros, automóviles y flores. Google adquirió una empresa iniciada por el Dr. Hinton y sus alumnos, y su sistema condujo a tecnologías más poderosas, incluido ChatGPT.
Uno de estos estudiantes, Ilya Sutskever, se convirtió en el científico jefe de OpenAI.
Hinton inicialmente se mostró escéptico acerca de las redes neuronales que aprendían del texto digital para comprender y generar lenguaje, pero sus puntos de vista cambiaron con el tiempo.”Tal vez lo que sucede en estos sistemas”, dijo,”es en realidad mucho mejor que lo que sucede en el cerebro”.
Los sistemas de IA actuales no son tan potentes como el cerebro humano en algunos aspectos, pero en otros podrían superar la inteligencia humana.
“Somos sistemas biológicos y estos son sistemas digitales. Y la gran diferencia es que con los sistemas digitales, tienes muchas copias del mismo conjunto de pesos, el mismo modelo del mundo”, le dijo a la BBC.”Y todas estas copias pueden aprender por separado pero compartir su conocimiento al instante”.
“Así que es como si tuviera 10.000 personas y cada vez que una persona aprendiera algo, todos lo supieran automáticamente”, continuó Hinton.”Y así es como estos chatbots pueden saber mucho más que cualquier persona”.
A medida que las empresas mejoran sus tecnologías de IA, pueden volverse más peligrosas.”Mira cómo era hace cinco años y cómo es ahora”, dijo Hinton.”Toma la diferencia y propágala hacia adelante. Eso da miedo”.
Dra. Hinton está preocupado de que Internet pronto se inunde con fotos, videos y textos falsos, y la mayoría de las personas no podrán discernir la verdad. También le preocupa el impacto de la IA en el mercado laboral y que podría eliminar algo más que el”trabajo pesado”.
La competencia entre Google, Microsoft y otras empresas podría intensificarse en una carrera mundial, que persistirá hasta que haya algún tipo de regulación global. Pero eso podría ser imposible, dijo Hinton.
Él cree que la mejor esperanza de la humanidad es que los principales científicos del mundo colaboren para controlar la tecnología.”No creo que deban escalar esto más hasta que hayan entendido si pueden controlarlo”, dijo.
En cuanto a Google,”seguimos comprometidos con un enfoque responsable de la IA”, dijo el científico jefe de la compañía, Jeff Dean, en un comunicado.”Estamos continuamente aprendiendo a comprender los riesgos emergentes mientras también innovamos audazmente”.
