Cada vez más expertos advierten sobre los riesgos que la IA representa para la sociedad.
La IA (inteligencia artificial) ciertamente ha estado en las noticias últimamente. Si bien las habilidades y el alcance total de la IA son claramente asombrosos, ha habido bastantes obstáculos en el camino. También han surgido informes de rasgos de comportamiento extraños por parte de chatbots impulsados por IA, e incluso insultos y amenazas. Ahora, al parecer, el consenso entre los expertos es que una IA sin restricciones ni regulaciones representa un grave riesgo para la humanidad.
El”padrino de la IA”lamenta el trabajo de su vida
Dr. Geoffrey Hinton, un renombrado científico informático a quien se le atribuye ampliamente el haber sentado las bases de la IA que eventualmente condujo a la creación de chatbots populares como ChatGPT y otros sistemas avanzados, renunció recientemente a su puesto en Google diciendo que ahora puede hablar abiertamente sobre los riesgos del desarrollo desenfrenado de la IA.
En una entrevista reciente, el Dr. Hinton dijo que teme que la IA se vuelva más peligrosa en el futuro con”malos actores”que potencialmente exploten los sistemas avanzados”para cosas malas”que ser difícil de prevenir. El Dr. Hinton continuó diciendo… “Me consuelo con la excusa normal: si no lo hubiera hecho yo, alguien más lo habría hecho” ~ <source>
Elon Musk pide protocolos de seguridad de IA
Elon Musk está instando a una pausa de seis meses en el entrenamiento de modelos avanzados de inteligencia artificial tras el auge de ChatGPT, argumentando que los sistemas podrían plantear”profundos riesgos para la sociedad y la humanidad”. Musk se unió a un grupo de más de mil expertos para firmar una carta abierta pidiendo una moratoria en el desarrollo de IA:
“Los sistemas de IA con inteligencia humana y competitiva pueden plantear riesgos profundos para la sociedad y la humanidad, como lo demuestra una extensa investigación y reconocido por los principales laboratorios de IA. Como se establece en los Principios de IA de Asilomar ampliamente respaldados, la IA avanzada podría representar un cambio profundo en la historia de la vida en la Tierra, y debe planificarse y administrarse con el cuidado y los recursos correspondientes” ~ <fuente>
Steve Wozniac expresa sus preocupaciones
El famoso cofundador de Apple, Steve Wozniak, también se encuentra entre los que firmaron la carta abierta que pide una mayor supervisión del desarrollo de la IA. En una entrevista con la BBC,”Woz”expresó su preocupación de que la tecnología podría ser secuestrada y utilizada con fines maliciosos si cae en las manos equivocadas. Argumentó que A.I. ahora es tan inteligente que facilitará que los”malos actores”engañen a otros sobre quiénes son.
“Un ser humano realmente tiene que asumir la responsabilidad de lo que genera la IA. No podemos detener la tecnología, pero se necesita una regulación para que Big Tech rinda cuentas cuando se trata de lo que sus herramientas de inteligencia artificial son capaces de hacer. Estas empresas sienten que pueden salirse con la suya”. ~ <fuente>
¡Tú lo lees primero en DCT!
En un artículo publicado aquí en DCT a principios de este año, dije lo siguiente:
“Debe haber salvaguardas. Si bien no hay duda de que la tecnología impulsada por IA llegó para quedarse, también debería ser responsabilidad de organizaciones como Microsoft y Google garantizar que la tecnología que introducen esté a la altura y no sea propensa a proporcionar información falsa o engañosa antes del lanzamiento. en masa“.
Sí, me doy una palmadita en la espalda. 🙂
—
