A Advocacia-Geral da União, por meio da Procuradoria Nacional da União de Defesa da Democracia, obteve a retirada do ar de um site estrangeiro que comercializava deepfakes de pornografia infantil. A remoção ocorreu depois de notificação extrajudicial, atendida pela empresa responsável, sediada fora do Brasil, que reconheceu a irregularidade do conteúdo.
A atuação foi provocada pela Secretaria de Comunicação (Secom) da Presidência da República, com base em uma reportagem investigativa da agência Núcleo, realizada em parceria com a AI Accountability Network do Pulitzer Center. O caso evidencia como redes criminosas utilizam inteligência artificial e o ambiente da dark web para disseminar deepfakes de pornografia infantil, explorando tecnologias de código aberto e comunidades clandestinas.
Segundo a apuração do Núcleo, a produção desse material atinge um nível de “realismo perturbador”, o que amplia o potencial de dano às vítimas, além de dificultar a identificação e a derrubada de conteúdos. A ação da AGU foi amparada pelo Estatuto da Criança e do Adolescente (ECA) e pela Convenção sobre os Direitos da Criança, marcos jurídicos que embasam a proteção integral de crianças e adolescentes e vedam qualquer forma de exploração sexual.
Como a investigação expôs a cadeia de deepfakes de pornografia infantil
A investigação do Núcleo, em colaboração com a AI Accountability Network do Pulitzer Center, descreveu uma trama estruturada para a criação e a distribuição de deepfakes de pornografia infantil. Esses conteúdos, gerados a partir de fotos reais de crianças e adolescentes, eram manipulados com ferramentas de IA de código aberto, ou seja, sistemas sem licenciamento comercial e livremente modificáveis por usuários com conhecimentos técnicos.
O material era então disseminado em fóruns da dark web, onde criminosos trocavam modelos, aplicações e técnicas que facilitavam a produção em escala, permitindo que “pedófilos consigam criar centenas de imagens de exploração e abuso sexual infantil envolvendo crianças reais”, conforme descrevem os elementos da apuração. Esses recursos circulavam em plataformas de compartilhamento de modelos e outros repositórios de tecnologia, alimentando um ecossistema desenhado para ocultar rastros e driblar mecanismos tradicionais de moderação de conteúdo.
Foi um dos sites que alimentava essa cadeia que a AGU conseguiu derrubar, interrompendo, ainda que parcialmente, o fluxo de disponibilização de deepfakes de pornografia infantil e abrindo caminho para futuras medidas de responsabilização.
A estratégia jurídica da AGU, o papel da PNDD e a base legal da ação
A medida coordenada pela PNDD combinou a fundamentação jurídica do ECA e da Convenção sobre os Direitos da Criança com a articulação institucional liderada pela Secom. O objetivo foi remover rapidamente o conteúdo e mitigar o risco de continuidade do dano, enquanto se estabelecem bases para cooperação com provedores e plataformas fora do Brasil.
Ao detalhar a natureza do esquema, o advogado da União Carlos Eduardo de Olivera Lima, da PNDD, afirmou: “A reportagem que embasou nossa atuação apontou para a existência de um mecanismo, com diversos atores, que se aproveitava da abertura de códigos de aplicações de IA para produzir imagens eróticas de crianças e adolescentes. No caso do site em destaque, ele comercializava imagens sintéticas, produzidas através de fotos de crianças reais, que serviam para produzir imagens sexualizadas, as quais, por fim, eram disponibilizadas em fóruns na dark web”.
Após receber a notificação, a empresa responsável pelo site, localizada no exterior, acatou a solicitação: “Após ser notificada, a empresa, sediada fora do Brasil, atendeu à solicitação da AGU, reconhecendo a irregularidade das publicações.” Trata-se de um passo relevante para estabelecer precedentes na cooperação com companhias internacionais diante de conteúdos de deepfakes de pornografia infantil.
Por que a dark web e o código aberto estão no foco do combate
A dark web, parte não indexada e propositalmente escondida da internet, exige softwares específicos para acesso e, com frequência, é explorada por criminosos para ocultar atividades ilegais. Nesse cenário, a flexibilidade de ferramentas de IA de código aberto tem sido instrumentalizada para contornar barreiras, já que permitem ajustes, treinamentos e disseminação de modelos fora dos ambientes de controle de grandes plataformas.
Especialistas alertam que a combinação de IA generativa, repositórios de modelos abertos e comunidades clandestinas favorece o desenvolvimento de conteúdos de deepfakes de pornografia infantil com alto grau de verossimilhança. Isso impõe novos desafios técnicos às autoridades, que precisam conciliar respostas céleres, cooperação transnacional e estratégias de responsabilização de provedores, sempre ancoradas na legislação protetiva e em mecanismos de governança digital.
Ao derrubar o site identificado, a AGU sinaliza uma linha de atuação que integra inteligência jurídica, apoio de investigações jornalísticas e cooperação internacional, com foco em prevenção e remoção ágil de conteúdo ilegal. Ainda que a complexidade da dark web e a natureza descentralizada do ecossistema de IA imponham obstáculos, a combinação de rastreamento, notificações extrajudiciais e parcerias tende a ampliar a efetividade de novas derrubadas e a desestimular a oferta de deepfakes de pornografia infantil.
O caso reforça a importância de respostas coordenadas entre governo, sociedade civil e veículos de imprensa, e sublinha que a proteção integral de crianças e adolescentes, prevista no ECA e na Convenção sobre os Direitos da Criança, deve orientar todas as ações de regulação e combate ao abuso sexual infantil, inclusive quando potencializado por tecnologias emergentes.