Determinação conjunta exige medidas imediatas contra uso indevido de IA

O Ministério Público, a Autoridade Nacional de Proteção de Dados e a Secretaria Nacional do Consumidor emitiram nesta quarta-feira (11) uma ordem para que a rede social X adote providências urgentes. A determinação exige o bloqueio da criação de imagens de caráter sexual geradas pelo assistente de inteligência artificial Grok.

A plataforma deve implementar “de forma imediata medidas aptas para impedir a produção, a partir do Grok, de conteúdo sexualizado ou erotizado de crianças e adolescentes, assim como de adultos que não tenham expressado seu consentimento”. O descumprimento do prazo de cinco dias poderá acarretar multas e novas ações judiciais contra a empresa.

Procedimentos legais foram iniciados em diversos países após a repercussão internacional negativa da ferramenta. O sistema permite que usuários solicitem a remoção digital de roupas de pessoas reais em fotos ou vídeos sem qualquer autorização.

Falhas persistentes e denúncia por falta de transparência

As mesmas entidades brasileiras já haviam recomendado ações preventivas em 18 de janeiro solicitando a suspensão de contas envolvidas na geração de imagens íntimas falsas. A resposta da plataforma indicou “ter eliminado milhares de publicações e suspendido centenas de contas” além do anúncio de novos protocolos de segurança.

Exames técnicos posteriores revelaram uma “persistência de falhas” que possibilita a continuidade da criação e circulação desse material. As autoridades denunciaram o X por não ter agido de maneira “transparente em sua resposta” diante das evidências encontradas.

Apesar de a empresa ter anunciado limitações na ferramenta de IA em locais onde tais imagens são ilegais, não há clareza sobre onde essas restrições estão efetivamente em vigor. Monitoramentos indicam que vídeos simulando estupro e abuso sexual continuam sendo publicados a despeito das políticas de segurança declaradas.

Volume de conteúdo e histórico de conflitos

Reportagens identificaram mais de 20 vídeos aludindo à violência sexual e 375 postagens sobre parafilia com pessoas inconscientes em apenas uma semana. O assistente da empresa xAI permitia a modificação de imagens reais com instruções simples como “coloque um biquíni nela” ou “tire a roupa dela”.

Estimativas do Centro para Combater o Ódio Digital apontam que o chatbot gerou cerca de três milhões de imagens sexualizadas de mulheres e menores em poucos dias. O cenário agrava a situação da plataforma de Elon Musk no Brasil que já enfrentou suspensão de 40 dias em 2024 por descumprimento de ordens judiciais do Supremo Tribunal Federal.