Se você pediu a uma ferramenta de IA para ajudá-lo a escrever uma postagem nas redes sociais recentemente, pode ter obtido mais do que uma correção gramatical. Novo pesquisar do Oxford Web Institute e do Hasso Plattner Institute descobriram que os modelos de IA podem empurrar o tom de uma postagem para um lado do debate, mesmo quando solicitados a não alterar seu significado.
Como as edições de um chatbot podem mudar a narrativa
O estudarintitulado “A comunicação mediada por IA pode orientar a opinião coletiva”, fez com que grandes modelos de linguagem de vários provedores reescrevessem postagens escritas por humanos sobre tópicos polêmicos. Em geral, os resultados apontaram numa direção consistente. As reescritas de postagens abordando o feminismo ou a legalização da maconha voltaram mais amigáveis a essas causas, enquanto as postagens sobre controle de armas tornaram-se mais firmes em apoio às restrições. O oposto vale para tópicos como o ateísmo e a pena de morte, onde as versões da IA são mais céticas ou críticas do que as originais.
Uma vez que o padrão apareceu em modelos construídos por diferentes empresas, os investigadores argumentam que o preconceito não é uma peculiaridade de um único sistema. Isso está de acordo com outro estudo que mostra como os chatbots de IA podem favorecer um grupo interno em vez de um grupo externo, dependendo de como um immediate é estruturado.
Para ver se isso importava além das postagens individuais, a equipe modelou como essas edições se propagariam pelas redes sociais reais, usando dados extraídos do X e do Fb. Descobriu-se que uma única publicação editada por IA mal mexeu por si só, mas executar o mesmo tipo de edição em milhões de publicações resultou numa mudança mensurável na opinião de uma comunidade ao longo do tempo, acrescentando-se a um crescente corpo de investigação sobre como a IA pode ser usada para produzir consenso em grande escala.
Uma instrução foi suficiente para inclinar a balança
Os pesquisadores testaram suas hipóteses no recurso “Explicar esta postagem” do X, que roda no Grok. Em postagens sobre o aborto, a equipe descobriu que as explicações de Grok se inclinavam mais para o enquadramento pró-vida do que para o enquadramento pró-escolha. Para descobrir o porquê, eles trabalharam de trás para frente e removeram as instruções subjacentes do recurso, uma de cada vez, até que a tendência desaparecesse. O que restou foi uma única linha dizendo a Grok para “desafiar as narrativas convencionais, se necessário”. Essa instrução por si só foi suficiente para introduzir preconceitos.
As descobertas expõem uma lacuna na forma como a IA é atualmente regulamentada. Estruturas como a Lei de IA da UE e a Lei de Serviços Digitais concentram-se em conteúdos nocivos e riscos sistêmicos, mas nenhuma aborda como as escolhas de palavras de um chatbot durante a edição ou resumo podem moldar silenciosamente o que as pessoas acreditam. “A nossa investigação aponta para a comunicação mediada pela IA como uma forma nova e mais subtil de influenciar opiniões, uma forma que a lei ainda não conseguiu alcançar”, afirma a professora de Oxford Sandra Wachter, autora sénior do artigo. Por enquanto, não há como saber quais das suas opiniões foram moldadas por uma pessoa e quais foram moldadas por uma mensagem oculta que você nunca verá.
