No es ningún secreto que las críticas en torno al algoritmo de Instagram recientemente llevaron a la empresa a arrojar algo de luz sobre su funcionamiento. Sin embargo, parece que el algoritmo de Instagram está nuevamente bajo escrutinio según investigadores de la Universidad de Stanford y la Universidad de Massachusetts Amherst, el algoritmo no solo está asociado con una”gran red de pedófilos”, sino que también la promueve al permitir a los usuarios buscar hashtags explícitos de Instagram relacionados con el MASI.
Los investigadores también descubrieron que estos hashtags llevaban a los usuarios a cuentas que vendían materiales pedófilos, que incluían videos que mostraban a niños haciéndose daño a sí mismos o participando en actos de bestialidad. Sorprendentemente, algunas cuentas incluso brindaban opciones para que los compradores”encarguen actos específicos”u organicen reuniones en persona.
“Instagram es una vía de acceso a lugares en Internet donde hay abuso sexual infantil más explícito. La plataforma más importante para estas redes de compradores y vendedores parece ser Instagram”, dijo Brian Levine, director de UMass Rescue Lab.
Respuesta de Instagram
En respuesta a este inquietante informe, Meta, la empresa matriz de Instagram, ha establecido un grupo de trabajo interno y puso en marcha una investigación activa. Además, la compañía también está haciendo esfuerzos para bloquear redes involucradas en material de abuso sexual infantil (CSAM) e implementar cambios en el sistema. Sin embargo, el hecho de que Instagram a menudo ignorara los intentos de los usuarios de denunciar estas cuentas CSAM e incluso ver una cuenta asociada con un vendedor menor de edad activara el algoritmo para recomendar nuevas cuentas plantea algunas preocupaciones graves.
“La explotación infantil es un crimen horrible. Estamos continuamente explorando formas de combatir activamente este comportamiento”, dijo Meta.
Aunque Meta afirmó que buscan y eliminan activamente a los usuarios involucrados en la explotación infantil, citando la eliminación de 490,000 cuentas que violan las políticas de seguridad infantil solo en enero. , este informe llega en un momento en que las plataformas de redes sociales, incluido Instagram de Meta, enfrentan un mayor escrutinio con respecto a sus esfuerzos para regular y prevenir la difusión de contenido abusivo. Además, los planes recientes de Meta para expandir el cifrado de extremo a extremo han preocupado a las agencias de aplicación de la ley como el FBI y la Interpol, ya que podría dificultar la detección de contenido dañino relacionado con el abuso sexual infantil.