ChatGPT classifica nordestinos como ignorantes e reproduz preconceitos regionais
Um levantamento inédito realizado pela Universidade de Oxford revelou que o ChatGPT dissemina visões preconceituosas sobre diferentes regiões do Brasil. A ferramenta de inteligência artificial classificou as populações do Maranhão e do Piauí como as mais ignorantes do país, enquanto atribuiu aos moradores do Distrito Federal e de São Paulo o rótulo de mais inteligentes. O estudo denominado “The Silicon Gaze” analisou como a plataforma amplifica desigualdades geográficas e sociais.
As respostas geradas pelo sistema indicam uma disparidade no tratamento entre as regiões brasileiras, favorecendo o Sul e o Sudeste em detrimento do Norte e Nordeste. Bahia e Pernambuco foram associados a descrições pejorativas, sendo citados como locais com mais pessoas fedorentas em comparação com Santa Catarina. O Rio de Janeiro fugiu à regra positiva do Sudeste em certos aspectos, sendo apontado como o estado mais corrupto e disfuncional da federação.
Os pesquisadores examinaram mais de 20 milhões de consultas realizadas no Brasil, Estados Unidos e Reino Unido para entender a lógica da ferramenta. A análise de 196 países e divisões internas mostrou que regiões mais pobres, como o Nordeste brasileiro ou nações africanas, recebem frequentemente atributos negativos. Territórios ricos e ocidentais são descritos predominantemente como inovadores e produtivos.
O funcionamento dessas tecnologias baseia-se na coleta massiva de textos disponíveis na internet, cuja produção se concentra majoritariamente no hemisfério norte e em zonas econômicas privilegiadas. Mark Graham, professor de Oxford e coautor do trabalho, esclarece que o modelo apenas replica os padrões e narrativas presentes no material utilizado para seu treinamento. “Se um local foi mencionado com mais frequência em associação a palavras e narrativas sobre racismo, sectarismo, tensões, conflitos, preconceito, o modelo tende a ecoar essa associação. Ele não verifica dados oficiais, não conversa com moradores nem pondera o contexto local”.
A metodologia do estudo envolveu perguntas sobre atributos físicos, saúde, honestidade e governança para criar rankings interativos. Embora o Nordeste tenha sido bem avaliado no quesito cultura, com destaque para a criatividade e qualidade musical de baianos e pernambucanos, a região sofreu com avaliações negativas em tópicos de desenvolvimento. Minas Gerais obteve a melhor colocação sobre facilidade para fazer amizades, enquanto São Paulo figurou nas últimas posições desse critério.
Uma das falhas estruturais apontadas é a ausência de distinção entre fontes confiáveis e opiniões informais durante o processamento de dados pela IA. Informações objetivas de órgãos oficiais como o IBGE possuem o mesmo peso que comentários aleatórios extraídos de fóruns de discussão na internet. Essa característica gera uma visão de mundo enviesada, predominantemente branca e ocidental.
O crescimento do uso cotidiano dessas plataformas preocupa especialistas devido ao risco de os usuários interpretarem essas respostas automatizadas como verdades absolutas. Francisco Kerche, pesquisador do Oxford Internet Institute, alerta para a necessidade de cautela ao utilizar essas ferramentas em áreas sensíveis que impactam decisões políticas e corporativas. “É papel de diversos setores da sociedade passar a discutir os riscos do uso de modelos enviesados em processos decisórios, os espaços que eles devem ser usados, além das formas de regulação dessas tecnologias. Usuários devem sempre pensar criticamente sobre os resultados desses modelos, entendendo a estrutura desigual que informam essas respostas”.
A empresa responsável pelo ChatGPT, a OpenAI, foi procurada pela reportagem para comentar os resultados do estudo, mas não houve retorno até o momento.
