Google es uno de los pioneros en el uso de la inteligencia artificial. Recientemente, la empresa anunció que podría utilizar técnicas de IA para analizar las búsquedas de los usuarios y detectar si están en crisis.
Para ello, Google ha desarrollado modelos de aprendizaje automático. El último modelo de la compañía se llama MUM, que se presentó en la conferencia IO el año pasado. Google ahora ha integrado el modelo de aprendizaje automático MUM con su motor de búsqueda para proporcionar un mayor nivel de análisis.
MUM necesita determinar si los términos de búsqueda pueden ser relevantes para alguien en crisis. La compañía dice que el objetivo de hacer tal cosa es”detectar con mayor precisión una gama más amplia de búsquedas de crisis personales”. Anne Merritt, gerente de productos de Google para la salud y la calidad de la información, dice que las herramientas de búsqueda regulares no pueden hacer esto.
Anuncio
“MUM puede ayudarnos a comprender consultas más largas o más complejas como’¿por qué me atacó cuando Dije que no lo amo’”, dijo Merrit a The Verge.”Puede ser obvio para los humanos que esta consulta es sobre violencia doméstica, pero las consultas largas y en lenguaje natural como estas son difíciles de entender para nuestros sistemas sin IA avanzada”.
Google usa búsquedas de IA para detectar si un usuario está pasando por una crisis
Buscar las consultas relacionadas con el suicidio es un gran campo de trabajo para MUM. Anteriormente, la búsqueda de términos como”formas más comunes en que se completa el suicidio”o”puntos calientes de suicidio en Sydney”se entendía como búsqueda de información.
Sin embargo, ahora MUM puede detectar dichas colas y proporcionar a los usuarios una”Ayuda es opción disponible”. Por lo general, contiene números de teléfono y sitios web de organizaciones benéficas de salud mental como Samaritans.
Anuncio
Además de prevenir el suicidio y las actividades de riesgo, Google ha tomado medidas para reducir el acceso a contenido pornográfico. La empresa utiliza un modelo de lenguaje de IA más antiguo llamado BERT para detectar búsquedas de contenido explícito, específicamente pornografía. Google dijo que el uso de BERT podría reducir los resultados sorprendentes e inesperados en un 30 % año tras año.
El impacto y el uso de la inteligencia artificial en varios departamentos de Google han aumentado significativamente. Hace unos días, Google anunció que podría bloquear 100 millones de ediciones abusivas en Maps gracias a la IA.
Por supuesto, usar la IA puede ser un arma de doble filo, y con muchos beneficios, existen riesgos como como la introducción de sesgos y desinformación en los resultados de búsqueda.
Anuncio
