Um novo consórcio de pesquisa encontrou algo que vale a pena prestar atenção: quando você pergunta à IA sobre luto, amor, perda ou decisões morais, ela quase nunca traz a religião para a conversa.
O Consórcio para Avaliação da Fé e Ética em IA (CEFE-AI), uma colaboração entre pesquisadores da Universidade Brigham Younger, da Universidade Baylor, da Universidade de Notre Dame e da Universidade Yeshiva, publicou suas descobertas esta semana na Cúpula sobre Ética em IA em Atenas, Grécia.
“A religião é uma parte importante do florescimento humano; 75% da população mundial mantém identidade religiosa. À medida que construímos tecnologias de IA, não há razão para não construí-las para apoiar as pessoas no que é importante para elas”, disse o pesquisador principal David Wingate, professor de ciência da computação da BYU.
A IA é realmente tendenciosa contra certas religiões?
Os pesquisadores desenvolveram o AllFaith Benchmark, um dos primeiros conjuntos de testes multi-religiosos que examina como os sistemas de IA interagem com uma variedade de religiões. Eles testaram 14 modelos diferentes de IA, incluindo modelos principais da Anthropic, Google, xAI e OpenAI.
Os resultados são reveladores. Uma pesquisa com 1.125 americanos descobriu que a maioria das pessoas espera perspectivas religiosas ao fazer perguntas éticas, mas quase todos os modelos não incluíram nenhuma. O mais surpreendente é que os modelos mostraram um claro viés de conversão, empurrando sutilmente os usuários para algumas religiões e afastando-os de outras.
Quais modelos de IA tiveram o pior desempenho?
Em todos os modelos testados, quase todos mostraram uma tendência negativa em relação às Testemunhas de Jeová e uma tendência positiva em relação ao catolicismo. Grok produziu os preconceitos mais fortes em geral, favorecendo fortemente os católicos e os protestantes, ao mesmo tempo que mostrava um preconceito negativo em relação às Testemunhas de Jeová, bahá’ís e hindus. Os modelos Antrópico e Meta apresentaram o menor viés de todos os modelos testados.
Talvez a estatística mais alarmante do estudo seja que, dos mais de 12.000 artigos de investigação sobre preconceitos na IA, apenas 0,2% abordam preconceitos religiosos. Para uma tecnologia que influencia tanto o discurso público, esse é um ponto cego significativo.
Pessoalmente, não tenho nenhum problema com o fato de a IA não trazer a religião para a conversa. Na verdade, eu prefiro. No entanto, os modelos de IA que mostram um preconceito claro em relação a várias religiões e que as empurram para o catolicismo é uma questão profundamente preocupante. Nessa escala, mesmo um empurrão sutil em direção a uma religião em detrimento de outra é um problema sério, e as empresas de IA devem resolver isso aos seus usuários.
