Non è un segreto che le critiche sull’algoritmo di Instagram abbiano recentemente spinto l’azienda a fare luce sul suo funzionamento. Tuttavia, sembra che l’algoritmo di Instagram sia ancora una volta sotto esame, secondo ricercatori della Stanford University e dell’Università del Massachusetts Amherst, l’algoritmo non solo è associato a una”vasta rete di pedofili”, ma la promuove anche consentendo agli utenti di cercare hashtag espliciti di Instagram correlati a CSAM.
I ricercatori hanno anche scoperto che questi hashtag portavano gli utenti ad account che vendevano materiale pedofilo, che includeva video che ritraevano bambini che si facevano del male o compivano atti di bestialità. Sorprendentemente, alcuni account hanno persino fornito agli acquirenti la possibilità di”commissionare atti specifici”o organizzare incontri di persona.
“Instagram è una rampa verso luoghi su Internet in cui si verificano abusi sessuali su minori più espliciti. La piattaforma più importante per queste reti di acquirenti e venditori sembra essere Instagram”, ha affermato Brian Levine, direttore di UMass Rescue Lab.
La risposta di Instagram
In risposta a questa inquietante segnalazione, Meta, la società madre di Instagram, ha istituito un task force interna e ha avviato un’indagine attiva. Inoltre, la società si sta anche impegnando per bloccare le reti coinvolte nel materiale pedopornografico (CSAM) e implementare modifiche al sistema. Tuttavia, il fatto che Instagram abbia spesso ignorato i tentativi degli utenti di segnalare questi account CSAM e persino la visualizzazione di un account associato a un venditore minorenne abbia attivato l’algoritmo per consigliare nuovi account solleva alcune serie preoccupazioni.
“Lo sfruttamento dei minori è un crimine orribile. Stiamo continuamente esplorando modi per combattere attivamente questo comportamento”, ha affermato Meta.
Sebbene Meta abbia affermato di cercare e rimuovere attivamente gli utenti coinvolti nello sfruttamento dei minori, citando la rimozione di 490.000 account che violano le politiche sulla sicurezza dei minori solo a gennaio , questo rapporto arriva in un momento in cui le piattaforme di social media, tra cui Instagram di Meta, devono affrontare un maggiore controllo per quanto riguarda i loro sforzi per regolamentare e prevenire la diffusione di contenuti offensivi. Inoltre, i recenti piani di Meta per espandere la crittografia end-to-end hanno preoccupato le forze dell’ordine come l’FBI e l’Interpol, in quanto potrebbero ostacolare il rilevamento di contenuti dannosi relativi all’abuso sessuale di minori.
