A Anthropic recentemente retirou do ar seus dois mais novos modelos de IA devido a uma ordem de controle de exportação da administração Trump, gerando amplos debates sobre a política de IA e a soberania digital.
No último episódio do podcast Fairness do TechCrunch, Sean O’Kane, Rebecca Bellan e eu discutimos o que realmente motivou os movimentos do governo contra a Antrópico e o que isso pode significar para o ecossistema mais amplo de IA.
Como disse Sean, “a Anthropic não teve o melhor relacionamento com a administração Trump de uma forma que se destacasse dos outros laboratórios líderes de IA”, então talvez outros rivais da Anthropic não precisem se preocupar com uma repressão semelhante.
Mas Rebecca também observou que os principais especialistas em segurança cibernética “assinaram uma carta aberta para pedir a Trump que revogasse a ordem, e dizem que é realmente perigoso ter que retirar essas capacidades avançadas de segurança cibernética dos defensores da rede nos EUA”.
E nos perguntamos se tudo isso poderia acabar sendo uma boa publicidade para a Anthropic, especialmente porque – nas palavras de Rebecca – “todo mundo adora um dangerous boy”.
Proceed lendo para uma prévia de nossa conversa, editada para maior extensão e clareza.
Rebeca Bellan: Como tenho certeza que muitos de nossos ouvintes sabem, o governo dos EUA basicamente forçou a Anthropic a colocar seus dois modelos mais novos offline – Fable 5, e também houve o Mythos 5, que estava disponível para os usuários atuais do Mythos, [whereas] Fable 5 estava mais disponível ao público.
Eles enviaram uma carta [last] Sexta-feira que citou “preocupações com a segurança nacional”. Ninguém sabe quais são essas preocupações. Esse relatório não foi twister público, eles não deram detalhes e disseram [Anthropic] que eles tinham que garantir que esses modelos não pudessem ser usados por nenhum cidadão estrangeiro. Então a Anthropic disse: “Okay, acho que temos que usar os modelos inteiramente, porque não sabemos quando alguém é estrangeiro. Muitos de nossos funcionários são estrangeiros”.
Mas realmente, [reports said] a Casa Branca foi avisada disso por causa de alguns pesquisadores da Amazon que supostamente encontraram uma maneira de contornar as grades de proteção do Fable 5. O CEO da Amazon, Andy Jassy, levantou essas preocupações com a Casa Branca, e a partir daí a situação cresceu.
Sean O’Kane: Tudo isso aconteceu muito rápido, especialmente de uma tarde de sexta-feira para um fim de semana. E é ao mesmo tempo que a administração tentava ostensivamente negociar algum tipo de tratado para a guerra que iniciou no Irão.
Rebeca: Sexta à noite para nós em Nova York. Eles adoram uma distração.
Sean: Vamos recuar um pouco por um momento. A Anthropic não teve o melhor relacionamento com a administração Trump de uma forma que se destacasse dos outros laboratórios líderes de IA – acho que há um elemento, pelo menos, disso em jogo aqui.
Então você acha que isso terá implicações para essas outras empresas? Você acha que a administração Trump estaria menos inclinada a fechar a torneira de um desses concorrentes?
Antônio Ha: Parte do contexto aqui é que tanto os relatórios quanto uma análise de especialistas em segurança independentes sugerem que o risco actual de segurança da Antrópico não é tão único. Muito disso parece resultar de partes da administração Trump e da Anthropic apenas [not getting] indo muito bem. Quaisquer que sejam os riscos, essas coisas vão explodir desproporcionalmente só porque parece que eles não podem ter um telefonema civil um com o outro.
Se você é outra empresa, por um lado, talvez isso seja vantajoso para você, porque você pode dizer: “Bem, simplesmente não deixamos esses caras bravos conosco e podemos fazer o que quisermos”. Mas esse também não é um grande cenário regulatório apenas para [say]“Rapaz, espero que eles não fiquem bravos conosco.”
Rebeca: Por um lado, definitivamente parece uma retaliação – depois que o governo classificou a Antrópico como um risco para a cadeia de suprimentos, há um grande processo acontecendo entre eles, realmente parece que a Casa Branca está apenas procurando por qualquer desculpa para atacar a Antrópico. E me sinto assim não só porque essa foi minha reação inicial, mas também por causa do que muitos pesquisadores de segurança cibernética disseram. Dizem que isto nunca deveria ter desencadeado um controlo de exportação [order]. Todos assinaram uma carta aberta para pedir a Trump que revogasse a ordem, e dizem que é realmente perigoso ter que retirar essas capacidades avançadas de segurança cibernética dos defensores da rede nos EUA. A própria Anthropic disse que alguns dos mesmos jailbreaks poderiam ter sido encontrados em vários outros modelos de IA.
Cinicamente, é como: Okay, você está apenas pausando o Anthropic para que outros possam acompanhar onde o Anthropic estava?
Mas, ao mesmo tempo, também vi reações que [say]: Antrópico meio que merecia isso. Eles dizem: “Isso é muito perigoso para qualquer um usar, mas nós não, somos os mocinhos”. Eles estão falando pelos dois lados da boca. Uma semana antes do lançamento de Fable, eles estavam [saying]”Ei, precisamos desacelerar a IA, pessoal. Está ficando muito perigoso.” Mas então bum, “Aqui está nosso modelo mais insano e superpoderoso de todos os tempos, vá embora.”
Antônio: De certa forma, isso parece um microcosmo de grande parte da discussão em torno da IA, onde pessoas como Sam Altman e Jensen Huang estão [saying]”Ei, vamos tentar baixar a temperatura. Por que todo mundo está bravo conosco?” Bem, você passou os últimos anos basicamente dizendo que construiu essa máquina divina que tirará empregos de todos. Não é exatamente um choque que as pessoas não se sintam bem com isso.
E há algo na maneira como a Anthropic fala sobre Mythos em specific, onde eles dizem: “Este é o modelo mais incrivelmente poderoso de todos os tempos, é muito perigoso para ser divulgado ao público”. E então, em algum nível, [you say,] “Bem, okay, digamos que levamos isso a sério. Isso significa que haverá um nível incrível de escrutínio em torno disso.”
E eu me pergunto – parece que a Anthropic não está feliz com isso. Quero ter cuidado para não exagerar como isso pode ser benéfico para eles. Mas também publicamos algumas matérias sobre a análise de Rampa para destacar o fato de que a última grande explosão entre a Anthropic e a administração Trump foi boa para a empresa, pelo menos em alguns aspectos. Os downloads de Claude dispararam. Acho que muitas pessoas que talvez tenham pensado no ChatGPT como o chatbot, o Assistente de IA antes, de repente eles estavam olhando para Claude como talvez o mais responsável, o mais “resistente”.
E da mesma forma, [while] A Anthropic está muito estressada com isso, o que poderia, novamente, fazer seus modelos parecerem ainda mais poderosos.
Rebeca: Definitivamente. “Somos tão perigosos.” Todo mundo adora um dangerous boy, certo? Todo mundo pensa: “É o modelo mais poderoso, até Trump diz isso. É claro que preciso colocar as mãos nele”.
Quando você compra por meio de hyperlinks em nossos artigos, podemos ganhar uma pequena comissão. Isso não afeta nossa independência editorial.
