A Meta rastreará as teclas digitadas, cliques e movimentos do mouse de seus funcionários – e até mesmo capturará capturas de tela do que está nas telas de seus computadores – para ajudar a treinar os modelos de IA da empresa. Isso é de acordo com uma Reuters relatório na terça-feira, citando um memorando interno enviado aos trabalhadores.
De acordo com o memorando, a Meta instalará um novo programa de software program chamado Mannequin Functionality Initiative nos computadores de funcionários e prestadores de serviços baseados nos EUA. O software program de rastreamento operará em aplicativos e websites relacionados ao trabalho e faz parte do plano da Meta para construir agentes de IA que possam realizar tarefas de forma autônoma.
O anúncio, publicado na íntegra do Enterprise Insider, disse que os aplicativos e URLs monitorados incluiriam Gmail, GChat e Metamate, um assistente de IA para funcionários. Os telefones dos trabalhadores não seriam incluídos no rastreamento.
Enterprise Insider relatou que funcionários da Meta estavam “em pé de guerra” sobre o plano de usar software program de rastreamento.
Em um website de comunicação interna visto pelo meio de comunicação, um funcionário escreveu: “Isso me deixa muito desconfortável.
O CTO da Meta, Andrew Bosworth, respondeu: “Não há como cancelar seu laptop computer de trabalho”, levando a equipe a reagir com emojis de choque, choro e raiva, de acordo com o Enterprise Insider.
À medida que investe no desenvolvimento de IA – mais de US$ 135 bilhões este ano — Meta continua a reduzir o número de funcionários. A empresa planeja demitir cerca de 8.000 funcionários10% de sua força de trabalho de 79.000 pessoas, a partir de 20 de maio. cortou 25 mil empregos desde 2022.
Vigilância de IA da Meta
A Meta quer treinar sua IA em tarefas que ainda não consegue replicar, concentrando-se em como as pessoas realmente usam seus computadores. Isso inclui ações como selecionar opções em menus suspensos e usar atalhos de teclado.
“É aqui que todos os funcionários da Meta podem ajudar nossos modelos a melhorar simplesmente fazendo seu trabalho diário”, dizia o memorando.
A Reuters disse que o memorando foi postado por um cientista pesquisador de IA não identificado na terça-feira em um canal da equipe do Superintelligence Labs da empresa.
De acordo com a Reuters, Bosworth disse aos funcionários que a visão de longo prazo period que os agentes de IA “fizessem o trabalho” enquanto os funcionários os dirigissem e os ajudassem a melhorar. Ele não disse especificamente como os agentes seriam treinados com os dados, mas disse que a Meta coletaria dados rigorosamente “para todos os tipos de interações que temos enquanto realizamos nosso trabalho”.
Eric Null, diretor do Projeto de Privacidade e Dados da organização de direitos digitais Centro para Democracia e Tecnologiadisse que o plano da Meta para rastrear as interações dos funcionários com os computadores é uma das formas mais “invasivas” de vigilância no native de trabalho.
“Essa invasividade ressalta a necessidade de proteções de privacidade claras e proteções de IA”, disse Null à CNET. “Este tipo de vigilância pode causar danos reais às pessoas com deficiência e aos trabalhadores em geral irritar-se com esse tipo de rastreamento. Usar esses dados para treinamento em IA, em specific, tem o potencial de replicar preconceitos estruturais”.
Em comunicado dado à CNET, um porta-voz da Meta disse que o rastreamento de funcionários tem como objetivo dar aos modelos de IA “exemplos reais” de como as pessoas interagem com seus computadores.
“Para ajudar, estamos lançando uma ferramenta interna que irá capturar esses tipos de informações em determinadas aplicações para nos ajudar a treinar nossos modelos”, disse o porta-voz. “Existem salvaguardas para proteger conteúdo confidencial e os dados não são usados para qualquer outra finalidade.”
A Meta disse que não usaria os dados coletados em avaliações de desempenho e que os gestores não seriam capazes de vê-los.
O Enterprise Insider citou uma fonte não identificada dizendo que, quando contratados, os funcionários são informados de que seus dispositivos de trabalho podem ser monitorados pelo Meta.
Óptica ruim
Invoice Howe, professor associado da Escola de Informação da Universidade de Washington, disse que, apesar da má ótica, a Meta presume que pode extrair muito valor da coleta de dados das interações computacionais dos funcionários.
“Funcionários de todo o mundo estão ajudando a treinar os sistemas que ocuparão seus empregos”, disse Howe à CNET.
Meta parecia aumentar sua posição na corrida de IA no início deste mês quando revelou Muse Sparko primeiro modelo de IA desenvolvido por seus Laboratórios de Superinteligência. Esta semana, Meta também inovou em seu data center planejado em Tulsa, Oklahomaque, quando concluído, será o 28º da empresa nos EUA.
Howe disse que o governo federal deveria aprovar novas leis fiscais para “contrabalançar a desigualdade galopante que está surgindo”, à medida que as empresas de tecnologia multibilionárias continuam a aumentar os lucros dos investidores, ao mesmo tempo que reduzem o pessoal.
“Como a Meta está demonstrando, as empresas, em última análise, não são incentivadas a se preocupar com os trabalhadores, por isso precisamos de soluções a nível federal”, disse Howe.
