A ANPD (Agência Nacional de Proteção de Dados), o MPF (Ministério Público Federal) e a Senacon (Secretaria Nacional do Consumidor) emitiram uma recomendação nesta terça-feira (18) para que a rede social X adote providências urgentes contra a disseminação de imagens sexualizadas de mulheres reais geradas por inteligência artificial. O documento exige a suspensão imediata dos perfis responsáveis pela criação e divulgação de conteúdo íntimo sem consentimento, prática realizada através da ferramenta Grok.

O governo estipulou um prazo máximo de 30 dias para que a plataforma estabeleça procedimentos técnicos e operacionais capazes de identificar e remover materiais sintéticos sexualizados ainda presentes na rede. A determinação inclui a criação de um canal específico para denúncias e a apresentação de um relatório de impacto sobre as medidas adotadas para mitigar os riscos identificados.

A iniciativa das autoridades brasileiras responde a uma série de denúncias encaminhadas por entidades da sociedade civil, como a SaferNet e o Idec (Instituto de Defesa de Consumidores), além da deputada federal Erika Hilton (Psol-SP). Os relatos apontam que o Grok, modelo de inteligência artificial da empresa xAI, também controlada por Elon Musk, estaria sendo utilizado para remover digitalmente as roupas de mulheres e menores de idade em fotos.

O uso da ferramenta para fins de nudez não consentida registrou um aumento expressivo neste ano, após usuários descobrirem a falha nos filtros de segurança da IA. Uma análise divulgada pela Bloomberg, realizada pela pesquisadora Genevieve Oh, identificou que o perfil oficial do Grok gerou cerca de 6.700 imagens sexualmente sugestivas ou de nudez por hora entre os dias 5 e 6 de janeiro.

A xAI comunicou na última quarta-feira (14) a implementação de restrições para impedir a edição de imagens reais que envolvam trajes como biquínis, movimento realizado após ameaças de sanções. O governo brasileiro alerta que multas e até a suspensão dos serviços estão entre as punições previstas caso as recomendações não sejam acatadas ou se mostrem insuficientes.

O entendimento jurídico atual considera que a manipulação de imagens, mesmo sem nudez completa, configura violação. Clarice Tavares, diretora de pesquisa do InternetLab, explica que a geração de figuras em roupas de banho se enquadra na divulgação de fotos íntimas e cita precedentes do STJ (Superior Tribunal de Justiça) sobre vingança pornográfica. “Além da violação do consentimento dessas pessoas, nos casos em que temos visto [no Grok], existe uma intencionalidade de sexualização.”

A especialista reforça que a jurisprudência brasileira já condenou a exposição não autorizada de ex-parceiros em trajes de banho, consolidando a proteção à imagem. “Mesmo que não fosse um caso de nudez total, houve uma intenção de vingança na divulgação daquelas fotos íntimas.”

A repercussão global do caso já motivou bloqueios ao X em países como Indonésia e Malásia, enquanto o Reino Unido iniciou uma investigação formal sobre a criação de deepfakes envolvendo mulheres e crianças. O Idec, responsável por acionar as autoridades nacionais, criticou a ausência de punições imediatas no cenário brasileiro e classificou a resposta governamental como branda diante da gravidade da situação. “A mera expedição de recomendações, sem qualquer medida cautelar ou suspensão, é uma licença para que as violações continuem enquanto a burocracia se arrasta. É como enviar uma carta educada a um incêndio florestal.”