Não é segredo que as críticas em torno do algoritmo do Instagram recentemente levaram a empresa a lançar alguma luz sobre como ele funciona. No entanto, parece que o algoritmo do Instagram está mais uma vez sob escrutínio, de acordo com Pesquisadores da Universidade de Stanford e da Universidade de Massachusetts Amherst, o algoritmo não está apenas associado a uma”vasta rede de pedofilia”, mas também a promove, permitindo que os usuários pesquisem hashtags explícitas do Instagram relacionadas ao CSAM.
Os pesquisadores também descobriram que essas hashtags levavam os usuários a contas que vendiam materiais pedófilos, que incluíam vídeos mostrando crianças se machucando ou praticando atos de bestialidade. Surpreendentemente, algumas contas até ofereciam opções para os compradores “comissionar atos específicos” ou marcar reuniões pessoais.
“O Instagram é uma rampa para lugares na internet onde há abuso sexual infantil mais explícito. A plataforma mais importante para essas redes de compradores e vendedores parece ser o Instagram”, disse Brian Levine, diretor do UMass Rescue Lab.
Resposta do Instagram
Em resposta a este relatório perturbador, a Meta, empresa controladora do Instagram, criou um força-tarefa interna e lançou uma investigação ativa. Além disso, a empresa também está fazendo esforços para bloquear redes envolvidas em material de abuso sexual infantil (CSAM) e implementar mudanças no sistema. No entanto, o fato de o Instagram frequentemente ignorar as tentativas feitas pelos usuários de denunciar essas contas CSAM e até mesmo visualizar uma conta associada a um vendedor menor de idade acionou o algoritmo para recomendar novas contas, levanta algumas preocupações sérias.
“A exploração infantil é um crime horrível. Estamos continuamente explorando maneiras de combater ativamente esse comportamento”, disse Meta.
Embora a Meta afirme que busca e remove ativamente usuários envolvidos na exploração infantil, citando a remoção de 490.000 contas que violam as políticas de segurança infantil somente em janeiro , este relatório chega em um momento em que as plataformas de mídia social, incluindo o Instagram da Meta, enfrentam maior escrutínio em relação aos seus esforços para regular e prevenir a disseminação de conteúdo abusivo. Além disso, os planos recentes da Meta de expandir a criptografia de ponta a ponta deixaram agências de aplicação da lei, como o FBI e a Interpol, preocupadas, pois isso poderia impedir a detecção de conteúdo nocivo relacionado ao abuso sexual infantil.