As mulheres há muito que são deixadas de fora dos conjuntos de dados e das decisões que moldam tudo, desde a segurança automóvel até aos diagnósticos médicos. Os líderes da indústria alertam que uma abordagem apressada à inteligência synthetic corre o risco de repetir esses padrões.
Essa foi a mensagem central da reunião desta semana Mulheres na regata tecnológica em Seattle, onde os palestrantes pediram uma participação mais precoce e mais ampla no desenvolvimento da IA à medida que a adoção acelera.
“A exclusão aumenta com o tempo e se torna muito mais difícil de detectar”, Anya Edelsteingerente de experiências de aprendizagem na sede em Seattle Ponto altodisse durante um painel de liderança de IA na quarta-feira. “Se a sua perspectiva não for levada em consideração na sala quando essas decisões são tomadas inicialmente, será mais difícil fazer uma mudança mais tarde.”
Nos últimos anos, os pesquisadores têm procurado mitigar as falhas dos modelos de aprendizado de máquina treinados em conjuntos de dados tendenciosos ou distorcidos, incluindo diagnóstico errado de insuficiência renal nas mulheres. Enquanto isso, as mulheres em todo o mundo estão cerca de 20% menos provável do que os homens para se envolverem com ferramentas de IA, aumentando a disparidade de formação.
No campo da tecnologia, pelo menos, a disparidade de género na IA parece estar a diminuir. É uma mudança notável à medida que as empresas correm em direção à automação em grande escala e as preocupações com a desinformação e a segurança dos dados giram em torno da abertura de capital da Anthropic e da OpenAI.
As mulheres estão liderando a estratégia de IA – com cautela
A maioria das mulheres em cargos seniores (80%) conduz a estratégia de IA no native de trabalho, onde priorizar a adoção responsável em vez da velocidadede acordo com uma pesquisa com mais de 1.700 líderes da indústria publicada no início deste mês pela Chief, uma rede de liderança focada nas mulheres.
Isto muitas vezes contrasta com as pressões das empresas para implantar ferramentas e estratégias de IA em um ritmo cada vez mais rápido, disse Maria Martins, diretor de gerenciamento de produto da Nordstrom.
“Há menos margem de manobra entre a tomada de uma decisão e o dimensionamento da decisão”, disse Martin no painel na quarta-feira. “É importante avançar e envolver-se cedo.”
No grupo de mulheres Chief entrevistadas, 71% foram as primeiras em suas empresas a sinalizar os riscos de IA.
“Se não estivermos criando intencionalmente intervenções a cada passo ao longo do caminho”, disse Edelstein, “o preconceito tem uma oportunidade de se infiltrar”.
Levando as mulheres para a sala
O problema de trazer mulheres qualificadas para espaços de liderança e tomada de decisão em IA pode começar com a contratação. Pelo menos dois terços dos recrutadores utilizam IA para selecionar candidatos, um processo que reproduz preconceitos de raça e género, muitas vezes de forma interseccional.
Em 2024, pesquisadores da Universidade de Washington descobriram que os avaliadores de currículos de IA escolhem nomes masculinos em vez de femininos em 89% das vezes, e nomes associados a brancos em vez de nomes associados a negros em 85% das vezes. Um ano depois, UW descobriu que gerentes de contratação refletem os preconceitos de seu modelo de IA.
Mulheres e pessoas de cor enfrentam pressões para assimilar e mudar de código – como usar um nome de raça e gênero neutro em um currículo – antes mesmo de entrarem no escritório. Depois de contratados, trata-se de encontrar as pessoas certas para apoiá-los, disse Cynthia Teeum antigo líder de engenharia e cientista da computação.
Tee sugere que mais líderes do setor podem implementar um modelo de patrocínio, que exige maior intenção, riscos e custos tangíveis em comparação com um aliado típico no native de trabalho.
“Proceed insistindo em promover pessoas que merecem”, disse Tee durante um painel sobre como navegar na dinâmica do native de trabalho. “Proceed trazendo pessoas mais diversas através de seus canais de contratação. Proceed trazendo pessoas cujas vozes não são ouvidas.”
A conversa sobre IA é para todos
Pode haver uma barreira de confiança para compreender ou usar a IA, em parte devido ao design da “caixa preta” da indústria. Nandita Krishnanum cientista de dados na Adobe que cria aplicativos paralelamente, sugere reservar um tempo toda semana para ler as últimas notícias e experimentar a automatização de tarefas diárias.
“Se você estiver codificando por vibração, faça-o de uma maneira que torne o software program ainda seguro”, disse ela no painel com Edelstein e Martin. “Quando você está construindo sistemas de IA, é muito propenso a ter alucinações. Adicione algo para fundamentar os LLMs e forneça ao seu agente esse fato ou banco de dados de conhecimento para garantir que isso não atrapalhe.”
A participação na tomada de decisões sobre IA não se limita ao conhecimento técnico. Edelstein sugere estabelecer valores em torno da IA – incluindo educação, saúde e meio ambiente – e encontrar líderes do setor ou empresas que se alinhem para interagir.
Muitos trabalhadores estão aprendendo IA com medo de serem deixados para trás, acrescentou ela, mas a curiosidade leva a melhores resultados.
“Se conseguirmos mudar muitas das percepções em torno da IA”, disse ela, “este será o primeiro passo para trazer mais pessoas para a conversa”.
