Algoritmo do Instagram permitia busca por pornografia infantil

A Meta, ex-Facebook, iniciou uma força-tarefa para investigar como o Instagram facilita a disseminação e venda de pornografia infantil. O esforço da gigante segue um relatório do Stanford Internet Observatory, da Universidade Stanford, que descobriu redes de pedofilia na plataforma.

Os compradores e vendedores desses materiais se comunicavam por meio do recurso de mensagens diretas do Instagram – os algoritmos de recomendação do Instagram tornavam os anúncios dos conteúdos mais eficazes, descobriram os pesquisadores. “Devido ao uso generalizado de hashtags, a falta de remoção das contas e, especialmente, ao eficaz algoritmo de recomendação, o Instagram serve como o principal mecanismo de descoberta para esta comunidade específica de compradores e vendedores”, escreveram os pesquisadores.

Os resultados ilustram mais uma vez como as empresas de internet têm lutado por anos para encontrar e prevenir imagens sexualmente explícitas que violam suas regras de uso. Especialistas destacaram como o abuso de imagens íntimas (a chamada vingança de pornografia) aumentou muito durante a pandemia, levando empresas de tecnologia, sites pornográficos e a sociedade civil a reforçar suas ferramentas de moderação.

Em abril, o Guardian disse que sua investigação de dois anos descobriu que o Facebook e o Instagram se tornaram grandes plataformas para tráfico sexual infantil. O impacto do Instagram sobre crianças e adolescentes tem sido alvo de escrutínio por parte de grupos da sociedade civil e reguladores preocupados com predadores na plataforma, privacidade e os impactos na saúde mental da rede social.

Em 2021, a empresa pausou seus planos de lançar uma versão separada do Instagram especificamente adaptada para crianças menores de 13 anos. Naquele ano, legisladores dos EUA também questionaram o chefe do Instagram, Adam Mosseri, sobre revelações surgidas nos Facebook Papers, documentos vazados pela delatora Frances Haugen. Os relatórios mostravam que o Instagram é prejudicial para uma parcela significativa de jovens usuários, especialmente meninas adolescentes.