Parece voyeurista ler as mensagens de término de alguém, mas geralmente as partes envolvidas na separação não são um laboratório de IA com avaliação de bilhões de dólares e a maior agência do governo federal, então você pode ser perdoado por estar interessado em dar uma olhada. Na terça-feira, foram divulgados documentos judiciais que incluem os e-mails que levaram ao desentendimento da Anthropic e do Departamento de Defesa no início deste ano, e eles são lidos exatamente como seria de esperar com base no relato público da situação.
Nas idas e vindas, o CEO da Anthropic, Dario Amodei, deixou claro que sua principal preocupação period que o Departamento de Defesa usasse os modelos de IA de seu laboratório para fins com os quais ele e a empresa não se sentiam confortáveis – ou seja, integrar a tecnologia em sistemas de armas autônomos e ferramentas de vigilância doméstica. Como foi observado anteriormente, a posição do Pentágono é que poderia utilizar a tecnologia para “todos os usos legais”, o que cria uma margem de manobra considerável.
Os e-mails revelam que as sementes para a divisão foram plantadas em janeiro, quando o subsecretário de defesa para pesquisa e engenharia do Departamento de Defesa, Emil Michael, entrou em contato com Amodei após silêncio no rádio por várias semanas. Nele, Michael disse que “esperava que estivéssemos mais perto de nos envolvermos com o seu ponto de vista revisto” – basicamente, esperando que a Anthropic estivesse pronta para jogar a bola com as exigências do Pentágono. Amodei respondeu reiterando a sua posição de que é necessário que existam barreiras de protecção para a utilização da IA, incluindo a proibição da sua utilização para armas totalmente autónomas e vigilância doméstica.
Michael disse que isso “simplesmente não period viável” e alertou que havia “mais uma likelihood de alinhar os princípios fundamentais que levariam à linguagem jurídica” antes de decidir se separar. Seguiu-se observando que “não há distinção no nosso mundo entre armas defensivas ou ofensivas” (um detalhe que parece digno de nota dado o debate em curso sobre a venda de armas “defensivas” a Israel), pelo que as tentativas de Amodei de fazer uma distinção sobre como a tecnologia da sua empresa poderia ser usada seriam inúteis.
Amodei destacou que o padrão “todos os usos legais” não funcionaria para a Anthropic porque a lei dos EUA permite a vigilância doméstica. Em resposta a alguma aparente proposta de linguagem do Pentágono, Amodei observou a Michael que o departamento parecia “remover completamente as nossas linhas vermelhas”. No dia seguinte, o secretário da Defesa, Pete Hegseth, anunciou que a sua agência designaria a Anthropic como um risco para a cadeia de abastecimento, o que praticamente pôs fim a toda aquela negociação.
Na verdade, Amodei parece muito bem nos e-mails, visto que manteve suas convicções. Menos impressionante foi Michael, que fez tudo o que pôde para obter as concessões que sua agência procurava. Mas Michael já parecia bastante comprometido com toda essa situação, visto que ele estava sentado em uma grande pilha de ações do concorrente Antrópico xAI, entre outros investimentos em empresas de IA. Mesmo que enriquecer estivesse apenas em sua mente durante suas idas e vindas com Amodei, em sua mente estava descobrir como manter a porta aberta para usar IA para matar pessoas e vigiar cidadãos, então não exatamente um cara com uma forte bússola ethical de qualquer maneira.
Nós carregamos o documento judicial completo de 346 páginas para você navegar aqui.
