A Antrópico passou últimos cinco anos alertando o mundo sobre como a inteligência synthetic avançada poderia permitir a destruição em massa, desestabilizar a sociedade e causar uma série de outros danos graves. Mas, ao mesmo tempo, tornou-se uma das forças mais poderosas que impulsionam as capacidades de IA. A empresa está agora entre os principais desenvolvedores e distribuidores de modelos de IA de ponta e corteja clientes como os militares dos EUA. Recentemente foi avaliado em quase US$ 1 trilhão.
À primeira vista, a mensagem e as ações da Anthropic parecem fundamentalmente divergentes.
Mas dentro da empresa muitas pessoas não veem contradição. Para entender o porquê, primeiro você precisa entender que a Antrópica opera com base em duas crenças fundamentais. A primeira é que a inteligência synthetic é a tecnologia mais transformadora da história da humanidade e a sua chegada é inevitável. A única questão actual é se isso leva à catástrofe ou à prosperidade extraordinária.
A segunda é que a Anthropic acredita que o mundo ficará melhor se permanecer na fronteira da corrida da IA, de acordo com vários ex-funcionários que falaram com a WIRED sob condição de anonimato. Internamente, os líderes e funcionários da empresa muitas vezes se referem a si mesmos como os “mocinhos”, ou seja, aqueles que são administradores responsáveis da tecnologia de IA, disseram duas das fontes. A empresa vê a acumulação de poder – seja na forma de capital, computação, talento em pesquisa ou influência política – não como um fim em si mesmo, mas como o preço para cumprir seus objetivos. missão: “para garantir que o mundo faça a transição com segurança por meio da IA transformadora”.
Helen Toner, diretora executiva do Centro de Segurança e Tecnologia Emergente de Georgetown e ex-membro do conselho da OpenAI, usa um analogia para descrever a visão de mundo da Antrópica. Ela compara a IA poderosa a uma floresta cheia de tesouros mágicos e monstros perigosos. Todos os aldeões próximos estão entrando correndo, atraídos pelo tesouro. Segundo ela, a Anthropic quer se aventurar mais longe na floresta do que qualquer outra pessoa, ao mesmo tempo que investe pesadamente na domesticação dos monstros – isto é, captura os benefícios da IA e ao mesmo tempo contém seus riscos catastróficos.
“O que distingue o Anthropic é que eles dizem: ‘As pessoas vão para a floresta de qualquer maneira, temos que fazer isso primeiro.’ Esta é uma estratégia muito explícita: construir uma IA de ponta para ser um jogador sério na mesa, que possa falar sobre como são os sistemas de IA de ponta, quais os riscos que representam e pressionar por salvaguardas razoáveis”, diz-me Toner. “Eles são muito diretos sobre isso. É uma estratégia estranha o suficiente para que as pessoas tenham dificuldade em ouvi-la.”
O CEO da Anthropic, Dario Amodei, descreveu essa abordagem claramente em um conversa com seus cofundadores postou na página de carreiras da empresa: “Você precisa encontrar uma maneira de realmente ser competitivo, de realmente liderar o setor em alguns casos e ainda assim conseguir fazer as coisas com segurança”, diz ele. “Se você conseguir fazer isso, a atração gravitacional que você exerce será muito grande.”
A Anthropic foi fundada em 2021 por um grupo de ex-funcionários da OpenAI que desertaram após perderem a fé na capacidade da liderança da empresa – especialmente do CEO Sam Altman – de trazer com segurança a IA transformacional ao mundo. Esse sentimento ainda molda a empresa hoje. Dois dos ex-funcionários com quem conversei dizem que, em discussões internas, os executivos da Anthropic frequentemente descrevem Altman e OpenAI – e, em menor grau, Meta e xAI de Elon Musk – como exemplos preventivos que ajudam a definir o próprio senso de responsabilidade da Anthropic.
Em muitos aspectos, a Anthropic é como qualquer outra empresa do Vale do Silício. Muitas startups se apresentam como David lutando contra os obsoletos e entrincheirados Golias dos setores que desejam perturbar. Google, Fb e Apple foram todos fundados sobre princípios idealistas, que mais tarde ficaram confusos ou foram totalmente abandonados à medida que se tornaram mais ricos, maiores e mais influentes.
