Antrópico não pode manipular seu modelo generativo de IA, Claude, assim que os militares dos EUA o colocarem em funcionamento, escreveu um executivo em um processo judicial na sexta-feira. A declaração foi feita em resposta às acusações da administração Trump sobre a possibilidade de a empresa adulterar suas ferramentas de IA durante a guerra.
“A Antrópico nunca teve a capacidade de fazer com que Claude parasse de trabalhar, alterasse sua funcionalidade, fechasse o acesso ou de outra forma influenciasse ou colocasse em perigo as operações militares”, Thiyagu Ramasamy, chefe do setor público da Antrópico, escreveu. “A Anthropic não tem o acesso necessário para desativar a tecnologia ou alterar o comportamento do modelo antes ou durante as operações em andamento.”
O Pentágono tem discutido com o principal laboratório de IA há meses sobre como a sua tecnologia pode ser usada para a segurança nacional – e quais deveriam ser os limites desse uso. Este mês, o secretário de Defesa Pete Hegseth classificou a Antrópica como um risco para a cadeia de suprimentos, uma designação que impedirá o Departamento de Defesa de usar o software program da empresa, inclusive por meio de empreiteiros, nos próximos meses. Outras agências federais também estão abandonando Claude.
A Antrópica ajuizou duas ações questionando a constitucionalidade da proibição e busca medida emergencial para revertê-la. No entanto, os clientes já começaram a cancelar negócios. A audiência de um dos casos está marcada para 24 de março no tribunal distrital federal de São Francisco. O juiz poderá decidir sobre uma reversão temporária brand depois.
Num documento apresentado no início desta semana, os procuradores do governo escreveram que o Departamento de Defesa “não é obrigado a tolerar o risco de sistemas militares críticos serem comprometidos em momentos cruciais para a defesa nacional e operações militares activas”.
O Pentágono tem usado Claude para analisar dados, escrever memorandos e ajudar a gerar planos de batalha, informou a WIRED. O argumento do governo é que a Anthropic poderia interromper as operações militares ativas, bloqueando o acesso a Claude ou promovendo atualizações prejudiciais se a empresa desaprovar certos usos.
Ramasamy rejeitou essa possibilidade. “A Anthropic não mantém nenhuma porta dos fundos ou ‘interruptor de desligamento’ remoto”, escreveu ele. “O pessoal da Antrópico não pode, por exemplo, entrar em um sistema DoW para modificar ou desabilitar os modelos durante uma operação; a tecnologia simplesmente não funciona dessa maneira.”
Ele prosseguiu dizendo que a Anthropic só poderia fornecer atualizações com a aprovação do governo e de seu provedor de nuvem, neste caso a Amazon Internet Companies, embora não tenha especificado o nome. Ramasamy acrescentou que a Anthropic não pode acessar os prompts ou outros dados que os usuários militares inserem em Claude.
Os executivos da Antrópico sustentam em documentos judiciais que a empresa não quer poder de veto sobre decisões táticas militares. Sarah Heck, chefe de política, escreveu em um processo judicial na sexta-feira que a Anthropic estava disposta a garantir o mesmo em um contrato proposto em 4 de março. [Anthropic] entende que esta licença não concede ou confere qualquer direito de controlar ou vetar a tomada de decisões operacionais legais do Departamento de Guerra”, afirmava a proposta, de acordo com o documento, que se referia a um nome alternativo para o Pentágono.
A empresa também estava pronta para aceitar uma linguagem que abordasse suas preocupações sobre o uso de Claude para ajudar a realizar ataques mortais sem supervisão humana, afirmou Heck. Mas as negociações acabaram fracassando.
Por enquanto, o Departamento de Defesa disse em processos judiciais que “está tomando medidas adicionais para mitigar o risco da cadeia de suprimentos” apresentado pela empresa ao “trabalhar com provedores de serviços de nuvem terceirizados para garantir que a liderança da Antrópica não possa fazer alterações unilaterais” nos sistemas Claude atualmente em vigor.
