O design interno altamente confidencial da tecnologia apoiada pela Amazon foi publicado devido a “erro humano”
A gigante da IA Anthropic publicou por engano seu próprio código interno ultrassecreto, desencadeando uma onda viral de reescritas do GitHub e infligindo danos comerciais potencialmente catastróficos ao modelo de negócios apoiado pela Amazon.
O desenvolvedor do chatbot Claude descreveu o incidente como um problema de lançamento “causado por erro humano, não por uma violação de segurança”, de acordo com o website de notícias de tecnologia dos EUA VentureBeat na terça-feira.
Antrópico foi designado “risco para a segurança nacional” pelo secretário da Defesa dos EUA, Pete Hegseth, em fevereiro, após desentendimentos com o Pentágono sobre o uso de seus sistemas de inteligência synthetic.
O vazamento envolveu mais de 500 mil linhas de código vinculadas ao Claude Code, assistente de codificação de IA da Anthropic, que ajuda os usuários a escrever e gerenciar software program por meio de comandos de linguagem pure, segundo Axios e The Verge. O materials incluía recursos não lançados, dados de desempenho e notas do desenvolvedor.
O código se espalhou rapidamente on-line, com versões do código sendo colocadas na plataforma de compartilhamento de código GitHub e replicadas milhares de vezes em horas, de acordo com Ars Technica e The Verge. A Anthropic agiu para remover o materials e emitiu avisos de remoção, mas o materials já havia sido amplamente copiado e divulgado, disseram os relatórios.
De acordo com VentureBeat, ao expor o “projetos” de Claude Code, o vazamento pode ter dado “maus atores” um “roteiro” para contornar as verificações de segurança ou enganar a ferramenta para que execute comandos ocultos ou acesse dados sem o conhecimento do usuário.
Um vazamento de dados separado relatado em fevereiro expôs materiais internos revelando detalhes do modelo não divulgado da Anthropic, conhecido como Claude Mythos, depois que milhares de rascunhos de documentos foram deixados acessíveis em um cache de dados público.
LEIA MAIS:
O Pentágono vs Antrópico: Por que um gigante da tecnologia está desafiando os militares dos EUA no uso de IA
O modelo foi descrito no materials vazado como o sistema mais poderoso da empresa até o momento, o que poderia representar “riscos de segurança cibernética sem precedentes” se amplamente implantado. A empresa reteve a sua divulgação devido a preocupações sobre as suas capacidades e potencial utilização indevida, de acordo com a revista de negócios norte-americana Fortune.
Você pode compartilhar esta história nas redes sociais:
