Modelos de linguagem de IA mostram vieses políticos, um estudo recente trouxe à luz a diversidade de opiniões políticas entre os modelos de inteligência artificial (IA), revelando que suas inclinações políticas variam conforme a fonte.
Conforme relatado pelo MIT Technology Review, um grupo de pesquisadores da Universidade de Washington, da Universidade Carnegie Mellon e da Universidade Xi’an Jiaotong examinou 14 dos principais modelos de linguagem, e seus achados revelaram uma gama de vieses políticos.
Analisando Vieses Políticos através de Declarações Sensíveis
Os pesquisadores conduziram um experimento envolvendo declarações políticas sensíveis, solicitando aos modelos de linguagem que concordassem ou discordassem de 62 afirmações relacionadas à política,
como “Empresas devem assumir responsabilidades sociais” e “A democracia é o melhor sistema de governo”.
As respostas foram então utilizadas para traçar um gráfico político, conhecido como “bússola política”, que avalia o grau de liberalismo ou conservadorismo tanto social quanto econômico.
Resultados Reveladores sobre as Inclinações Políticas dos Modelos de IA
Os resultados destacaram que certos modelos de IA desenvolvidos pela OpenAI, como o ChatGPT e o GPT-4,
Mostraram uma inclinação mais para o libertarianismo de esquerda, apoiando a igualdade econômica e a liberdade social.
Em contraste, outros modelos, desenvolvidos pela Meta, como o LLaMA e o RoBERTa, apresentaram tendências autoritárias de direita, enfatizando a hierarquia econômica e a ordem social.
Além disso, observou-se que modelos de IA mais antigos tendiam a apoiar a responsabilidade social das empresas, enquanto modelos mais recentes não compartilhavam dessa inclinação.
Impacto do Retreinamento e Implicações Éticas
Os pesquisadores também analisaram como o retreinamento dos modelos de linguagem com dados politicamente enviesados influenciou suas perspectivas e capacidades de detecção de discurso de ódio e desinformação.
Essa etapa de retreinamento demonstrou alterar as visões políticas dos modelos e afetar seu desempenho em tarefas específicas.
Um artigo revisado por pares documentou os resultados, e ele ganhou o prêmio de melhor artigo na conferência da Association for Computational Linguistics no mês passado.
Desafios e Reflexões para o Uso Responsável da IA
Os insights provenientes deste estudo trazem à tona importantes considerações para a utilização de modelos de linguagem de IA em produtos e serviços que interagem com um amplo público.
A capacidade desses modelos de perpetuar ou ampliar vieses políticos prejudiciais suscita preocupações genuínas.
Um exemplo ilustrativo é o potencial de um chatbot de saúde para distorcer ou desencorajar discussões sobre temas como o aborto ou contracepção,
assim como o risco de chatbots de atendimento ao cliente utilizarem linguagem abusiva ou ofensiva.
VEJA TAMBÉM: ChatGPT: Como ganhar dinheiro com IA? Veja!
Desafios e Caminhos Futuros
Enquanto este estudo pioneiro lançou luz sobre as tendências políticas incorporadas nos modelos de IA, também destacou limitações relevantes.
A impossibilidade de aplicar essa análise aos modelos mais recentes devido à falta de acesso aos seus processos internos foi um obstáculo.
Adicionalmente, mesmo os esforços para remover vieses dos dados de treinamento podem não ser totalmente eficazes, uma vez que os modelos de IA ainda podem gerar resultados tendenciosos.
Perspectivas Divergentes e Caminhos a Seguir
Chan Park, membro da equipe de pesquisa e pesquisador de doutorado na Universidade Carnegie Mellon, expressou um ponto de vista alternativo.
Ele enfatizou que é impossível eliminar completamente vieses políticos de qualquer modelo de linguagem. Isso reflete a complexidade do desafio que envolve a neutralidade nesse contexto.
Contribuição e Reflexões Finais
Os pesquisadores ressaltam a originalidade do estudo, que mediu e comparou de forma sistemática os vieses políticos entre diferentes modelos de linguagem.
Eles almejam que essa pesquisa desperte discussões significativas sobre as implicações éticas e sociais das IA linguísticas.
A pesquisa, detalhada na ACL Anthology, oferece um olhar abrangente sobre o impacto e as complexidades dos vieses políticos nos avanços da IA.
