A Agência Nacional de Proteção de Dados, a Secretaria Nacional do Consumidor e o Ministério Público Federal recomendaram à empresa controladora da plataforma X a adoção de medidas para impedir o uso indevido do Grok na geração e na circulação de conteúdos sexualizados indevidos.

O documento apresentado nessa terça-feira, 20, exige a elaboração, em até 30 dias, de procedimentos técnicos e operacionais que identifiquem, revisem e removam conteúdos sexualizados que tenham sido produzidos pela ferramenta a partir de comandos de usuários.

As instituições solicitaram também a suspensão imediata das contas envolvidas na criação de imagens sexuais ou erotizadas de crianças e adolescentes e de maiores de idade quando não houver autorização das pessoas retratadas.

O texto inclui orientação sobre canais de reclamação destinados às vítimas e titulares de dados e determina a instalação de um mecanismo de atendimento com resposta em prazo razoável, descrito em termos precisos no documento; as instituições pedem um mecanismo “transparente, acessível e eficaz para que titulares de dados possam exercer seus direitos”.

O levantamento que motivou as recomendações reúne denúncias de usuários, reportagens nacionais e internacionais e testes realizados pelas próprias instituições, que apontaram a utilização ilegal da tecnologia por meio de deepfakes para produzir imagens sexualizadas de pessoas reais.

Em seguida o documento apresenta a medida mais incisiva sobre menores de idade e diz “Entre as recomendações conjuntas, está a de que sejam implementadas, de forma imediata, medidas destinadas a impedir que o Grok gere novas imagens, novos vídeos ou novos arquivos de áudio que representem crianças e adolescentes em contextos sexualizados ou erotizados”.

As instituições também buscam bloquear a geração de conteúdos que representem maiores de idade identificáveis em cenas sexualizadas sem seu consentimento, reforçando exigências de detecção e remoção por parte da empresa controladora da plataforma.

O texto argumenta sobre a responsabilidade do provedor ao observar a interação entre usuário e ferramenta e afirma que a produção dessas deepfakes não é exclusivamente obra de terceiros, por isso “o que o torna, portanto, coautor de tais conteúdos, e não seu mero intermediador”.

O documento recorda ainda a recente decisão do Supremo Tribunal Federal que declarou a parcial inconstitucionalidade do artigo 19 do Marco Civil da Internet e assinalou que provedores de aplicação da internet têm especial dever de cuidado para evitar a circulação massiva de crimes especialmente graves, inclusive aqueles praticados contra as mulheres em razão da condição do sexo feminino.

A autoproibição da plataforma também é mencionada no texto, que cita a política interna relacionada à nudez não consensual e a vedação pré-existente à produção e disseminação de imagens sexualizadas por meio do Grok, e conclui que é “insustentável, também sob esse prisma, a disponibilização de uma ferramenta de inteligência artificial, sem filtros rigorosos, que favoreça condutas como essas”.

As instituições alertam que, caso as recomendações não sejam acatadas ou sejam aplicadas de forma insuficiente, poderão ser adotadas outras medidas em esfera administrativa e judicial para garantir a proteção dos cidadãos, em especial mulheres, crianças e adolescentes.