A empresa contestou as declarações do Pentágono de que ainda pode, de alguma forma, controlar Claude AI implantado em redes militares
O desenvolvedor de IA Anthropic insiste que não tem backdoor ou “interruptor de matar” para seu Claude AI, uma vez implantado em redes militares confidenciais do Pentágono, de acordo com um novo processo judicial.
Os militares dos EUA e a empresa de tecnologia encontraram-se envolvidos numa disputa política no início deste ano, com o Pentágono insistindo em usar o sistema para “todos os fins militares legais”, enquanto a empresa manteve as suas salvaguardas de IA relacionadas com a vigilância em massa e a utilização de armas totalmente autónomas.
O Pentágono finalmente encerrou sua parceria com a Anthropic, designando a empresa de tecnologia como “risco da cadeia de suprimentos”, um rótulo raro normalmente reservado a entidades ligadas aos adversários estrangeiros de Washington. A designação impede a empresa não apenas de trabalhar diretamente com o governo dos EUA, mas também de qualquer outro contratante usar seus produtos.
Em um novo processo apresentado a um tribunal federal de apelações em Washington, DC, a Anthropic contestou a principal alegação da administração dos EUA de que a empresa ainda mantinha algum grau de controle sobre Claude AI depois que ela foi implantada em sistemas classificados e efetivamente concedeu a si mesma um “veto operacional”. A empresa disse que tem “sem porta dos fundos ou interruptor de desligamento remoto”, enquanto é “o pessoal não pode fazer login em um sistema de departamento para modificar ou desabilitar um modelo em execução.”
O sistema de IA fornecido ao Pentágono surge como um “estático” modelo, argumentou a empresa. Uma vez implantado, ele “não se degrada ou muda por si só, e a Anthropic não pode enviar alterações não divulgadas ou não sancionadas a um modelo depois que o departamento o implantou.”
Antrópico foi formalmente designado como “Risco da cadeia de abastecimento para a segurança nacional” em 27 de fevereiro, enquanto o presidente dos EUA, Donald Trump, o acusava de ser dirigido por “empregos malucos de esquerda”. A empresa contestou o rótulo em tribunal, com a batalha authorized a produzir até agora resultados mistos.
No início deste mês, o tribunal de DC rejeitou o pedido da Antrópico para uma pausa na designação de risco da cadeia de abastecimento. Num caso paralelo na Califórnia, porém, um tribunal ficou do lado da empresa, bloqueando temporariamente a decisão da administração. Com a decisão dividida, a Anthropic continua impedida de trabalhar com o Pentágono, mas ainda pode continuar as suas parcerias com outras agências enquanto a batalha authorized continua.
Você pode compartilhar esta história nas redes sociais:
