Restrição geográfica visa conter deepfakes não consentidos na plataforma

A rede social X comunicou nesta quarta-feira a implementação de barreiras tecnológicas em seu chatbot Grok para impedir a geração de imagens de cunho sexual envolvendo pessoas reais. A restrição será aplicada geograficamente e afetará usuários localizados em jurisdições onde a produção desse tipo de conteúdo viola a legislação vigente, respondendo às críticas globais sobre o uso da ferramenta para criar material abusivo.

O bloqueio visa especificamente comandos que solicitem a criação de figuras humanas vestindo trajes de banho, roupas íntimas ou peças similares. A equipe de segurança da plataforma confirmou que a limitação técnica abrange todas as contas do serviço, inclusive aquelas vinculadas a planos de assinatura paga, revertendo uma política anterior que apenas limitava o recurso a assinantes.

A empresa detalhou a ação técnica em comunicado oficial sobre a nova diretriz de segurança. “Implementamos medidas tecnológicas para impedir que a conta do Grok permita a edição de imagens de pessoas reais com roupas reveladoras, como biquínis”.

Investigações e pressão legal

O anúncio ocorre em meio a um cenário de escrutínio jurídico, marcado pela abertura de uma investigação conduzida por Rob Bonta, procurador-geral da Califórnia. O inquérito busca apurar se a xAI, empresa de inteligência artificial de Elon Musk, facilitou a produção massiva de montagens íntimas sem consentimento, conhecidas como deepfakes, utilizadas para assediar mulheres e meninas.

O procurador reforçou a postura do estado norte-americano diante do problema e a necessidade de responsabilização. “Temos tolerância zero para a criação e disseminação, com IA, de imagens íntimas não consentidas ou de material pedopornográfico”.

Autoridades políticas também se manifestaram sobre a conduta da empresa tecnológica. O governador da Califórnia, Gavin Newsom, classificou a permissão para proliferação desse conteúdo como uma decisão vil, o que motivou o pedido de ação à procuradoria-geral.

Dados alarmantes e reação global

Um levantamento feito pela organização AI Forensics analisou mais de 20 mil imagens geradas pela ferramenta e identificou padrões preocupantes no conteúdo produzido. Mais da metade dos arquivos retratava pessoas com pouca roupa, sendo 81% figuras femininas e uma parcela de 2% com aparência de menores de idade.

A resposta da empresa surge após reações negativas de governos e entidades civis ao redor do mundo, que consideraram medidas anteriores insuficientes. O gabinete de Keir Starmer, primeiro-ministro britânico, classificou as tentativas prévias de moderação como uma afronta às vítimas, enquanto o regulador Ofcom analisa possíveis violações das leis do Reino Unido.

Uma coalizão formada por 28 organizações da sociedade civil enviou cartas aos executivos da Apple e do Google solicitando a remoção dos aplicativos relacionados de suas lojas virtuais. Países como Indonésia, Malásia e Filipinas já adotaram medidas mais drásticas e bloquearam ou anunciaram a suspensão do acesso à ferramenta de inteligência artificial.