A Meta permitiu que 332 anúncios com material de abuso sexual infantil gerado ou manipulado por inteligência artificial passassem por sua revisão e chegassem a milhares de pessoas no Facebook e no Instagram. As campanhas alcançaram mais de 29 mil contas na União Europeia e cerca de 7 mil no Reino Unido, de acordo com uma investigação publicada nesta terça-feira (8) pelo Tech Transparency Project (TTP).
Parte das peças usava fotografias reais de crianças e adolescentes encontradas em redes sociais, sites e bancos de imagens. Ferramentas de IA transformavam esses registros em vídeos de conteúdo sexual ou os empregavam na divulgação de aplicativos capazes de manipular imagens.
O TTP localizou o material na Biblioteca de Anúncios da Meta, base pública que reúne campanhas veiculadas nas plataformas da companhia. Os pesquisadores comunicaram as descobertas à empresa e às autoridades dos Estados Unidos responsáveis por receber denúncias de exploração infantil.
Fotos públicas alimentaram a exploração
A investigação conseguiu rastrear algumas imagens até suas publicações originais. Uma delas havia sido divulgada oficialmente por uma família real europeia, cuja identidade não foi informada para proteger a criança.
Outras peças recorreram a fotografias de adolescentes com perfis públicos em plataformas controladas pela própria Meta. Em pelo menos um caso, os pesquisadores conseguiram associar o rosto usado na campanha à identidade real da jovem.
O mecanismo converte uma fotografia comum em matéria-prima para exploração sexual. A criança não precisa ter produzido, autorizado ou sequer conhecido a imagem manipulada para ser exposta por uma ferramenta vendida dentro das maiores redes sociais do mundo.
Cerca de 300 peças estavam ligadas a aplicativos de geração ou alteração de imagens e vídeos por IA. Muitos desses programas tinham desenvolvedores ou conexões empresariais na China, conforme o levantamento do TTP. A origem das ferramentas, contudo, não elimina a responsabilidade da Meta pela distribuição paga dentro de sua própria infraestrutura.
Os anúncios não apareceram apenas como publicações comuns de usuários. Os responsáveis pagaram para ampliar a circulação, e as peças atravessaram um sistema que, de acordo com a Meta, analisa previamente imagens, vídeos, textos e endereços de destino.
Revisão deixou passar 332 campanhas
A Meta mantém regras contra exploração sexual infantil e contra aplicativos usados para retirar roupas de pessoas em fotografias. Os 332 anúncios identificados pelo TTP passaram pela revisão mesmo diante dessas políticas.
Em 1º de setembro, 149 peças ainda podiam ser consultadas na Biblioteca de Anúncios. A empresa retirou esse conjunto depois de receber as conclusões dos pesquisadores.
A classificação interna também falhou em reconhecer a presença de menores. Em 113 casos, a companhia registrou inicialmente violações relacionadas a conteúdo adulto ou a outras regras, sem indicar material envolvendo crianças. Os registros mudaram depois que o TTP apontou a inconsistência.
A demora ampliou a exposição. Um anúncio denunciado quando havia alcançado quatro contas acumulou mais de 330 visualizações antes da remoção, segundo a investigação.
O problema não se limita ao funcionamento imperfeito de um filtro automático. A Meta vendeu distribuição, submeteu o material à sua estrutura de análise e entregou as peças a usuários de diferentes países antes de interromper as campanhas.
Receita pequena financiou alcance internacional
A empresa informou ter recebido menos de US$ 5 mil pela veiculação dos anúncios identificados. Também afirmou que a maioria ficou abaixo de 200 impressões e que muitas peças já haviam sido removidas quando foi procurada.
O valor reduzido limita o ganho financeiro direto, mas agrava a dimensão da escolha empresarial. Por menos de US$ 5 mil, fotografias reais de menores alimentaram campanhas que alcançaram dezenas de milhares de contas e promoveram uma cadeia comercial de manipulação sexual por IA.
A Biblioteca de Anúncios registrou mais de 29 mil contas alcançadas na União Europeia e aproximadamente 7 mil no Reino Unido. O TTP também encontrou 262 peças veiculadas nos Estados Unidos, 120 na Austrália e 84 na Índia.
Esses números não representam necessariamente todo o público exposto. A ferramenta da Meta oferece informações diferentes conforme o país e não apresenta métricas completas de alcance para todas as regiões.
A investigação divulgada não fornece um total específico para o Brasil. Usuários brasileiros, ainda assim, utilizam a mesma infraestrutura publicitária e as mesmas plataformas examinadas pelo TTP, o que torna central a capacidade da empresa de impedir que fotos de menores sejam convertidas em mercadoria.
Fiscalização externa revelou a falha
A descoberta partiu de pesquisadores que examinaram a biblioteca mantida pela própria companhia. Foi o TTP, e não o processo preventivo da Meta, que reuniu as peças, rastreou fotografias até crianças reais e apontou erros na classificação das violações.
A empresa declarou que não tolera aplicativos de manipulação sexual de imagens nem qualquer forma de exploração infantil. A retirada posterior conteve parte da circulação, mas não apagou o alcance já obtido nem esclareceu quantas campanhas semelhantes escaparam da revisão fora do conjunto analisado.
Também permanece aberta a responsabilidade sobre os aplicativos promovidos e seus operadores. A remoção de 149 anúncios interrompeu peças ainda disponíveis, enquanto a dimensão total da exploração depende de dados que a Biblioteca de Anúncios não revela em todos os mercados.