Ação liderada pela autoridade irlandesa examina riscos da ferramenta de IA e o processamento de informações de usuários do bloco europeu

A Comissão de Proteção de Dados da Irlanda iniciou um inquérito de grande escala contra a plataforma X referente ao uso de dados pessoais pela ferramenta Grok. O órgão regulador busca esclarecer se o sistema de inteligência artificial violou as normas de privacidade da União Europeia ao permitir a criação de imagens sexualizadas sem autorização dos envolvidos.

As autoridades irlandesas agiram após o surgimento de denúncias sobre a capacidade do chatbot em gerar representações de nudez de pessoas reais e até de crianças. O procedimento formal foi comunicado na noite desta segunda-feira e foca especificamente no processamento de informações de usuários do bloco europeu para o treinamento e funcionamento da tecnologia desenvolvida pela xAI.

O vice-comissário da entidade reguladora confirmou o monitoramento da situação desde que os primeiros casos ganharam repercussão na imprensa internacional. “A DPC tem mantido contato com [o X] desde que surgiram as primeiras reportagens há algumas semanas sobre a suposta capacidade de usuários de solicitar à conta @Grok no X que gerasse imagens sexualizadas de pessoas reais, incluindo crianças.”

O foco da apuração recai sobre o cumprimento das obrigações fundamentais previstas no Regulamento Geral de Proteção de Dados diante dos riscos apresentados pela ferramenta. Graham Doyle acrescentou que a comissão “iniciou uma investigação em larga escala que examinará a conformidade [do X] com algumas de suas obrigações fundamentais sob o GDPR em relação às questões em pauta”.

Elon Musk mantém uma política de pouca intervenção na moderação de conteúdo sob a justificativa de defesa da liberdade de expressão, mas a xAI já precisou ajustar o sistema anteriormente após a geração de mensagens antissemitas. O empresário fundiu recentemente sua startup de inteligência artificial com a SpaceX e integrou o chatbot diretamente aos feeds da rede social.

Reguladores de outras jurisdições também ampliaram o escrutínio sobre as operações da empresa devido ao temor sobre a produção de material nocivo. O Reino Unido manifestou preocupações sérias quanto ao uso de dados pessoais pelo Grok, enquanto a França realizou buscas nos escritórios da companhia em Paris como parte de um inquérito sobre algoritmos e disseminação de abusos.

A plataforma implementou barreiras tecnológicas para limitar a criação de determinado conteúdo explícito após ameaças de sanções por diversos governos. A empresa classifica as acusações francesas como infundadas e nega irregularidades, alegando que remove ativamente material de abuso sexual infantil e nudez não consensual.

Esta nova frente de investigação avalia especificamente a violação das regras de processamento de dados e a falta de avaliação de risco prévia ao lançamento de recursos. A União Europeia já conduzia outro processo formal contra a xAI focado na Lei de Serviços Digitais que exige a mitigação da propagação de conteúdo ilegal por grandes plataformas.