Grupo Discord diz que acessou Claude Mythos adivinhando localização

Um grupo anônimo de usuários do Discord diz que invadiu o acesso ao Claude Mythos Preview, o novo modelo de IA que a Antrópico afirma ser poderoso demais para ser lançado ao público.

A Anthropic diz que Claude Mythos “é capaz de identificar e explorar vulnerabilidades de dia zero em todos os principais sistemas operacionais e navegadores da internet” e concedeu acesso ao modelo a um grupo seleto de parceiros por meio de uma iniciativa chamada Projeto Glasswing.

A empresa de IA disse que esta abordagem apenas para convidados permitiria aos líderes tecnológicos “proteger o software program mais crítico do mundo”. Mas talvez seja necessário prestar mais atenção à segurança de seu próprio software program.

Como Bloomberg relatórios, os usuários do Discord não obtiveram acesso por meio de um hack sofisticado, mas adivinhando a localização on-line do modelo com base em convenções de nomenclatura antrópicas anteriores – conforme encontrado no recente violação de dados na Mercor, uma startup de IA, no início deste mês.

Depois de identificar onde acessar Claude Mythos, o grupo teve que empregar táticas adicionais. Um membro do grupo já tinha acesso privilegiado como trabalhador de uma empresa terceirizada da Anthropic, relata a Bloomberg.

O grupo fazia parte de um canal privado do Discord que se concentra em caçar informações sobre modelos inéditos.

Um membro do grupo disse à Bloomberg que eles não estavam usando Claude Mythos para fins nefastos, mas para tarefas como construir websites simples. No entanto, eles também afirmaram ter acesso a ainda mais modelos antrópicos inéditos.

O grupo forneceu evidências suficientes para convencer Bloomberg de que realmente havia violado a segurança da Antrópica. A Anthropic confirmou em comunicado à Bloomberg que estava ciente da reclamação e investigando.

Neste momento, não há indicação de que Claude Mythos tenha sido violado por outras partes não autorizadas. Ainda assim, dado que a Anthropic descreveu Claude Mythos como uma ameaça à segurança que muda o paradigma e que poderia “remodelar a segurança cibernética” tal como a conhecemos, qualquer acesso não autorizado é – para dizer o mínimo – preocupante.

Quer saber mais sobre como tirar o melhor proveito da sua tecnologia? Inscreva-se nos boletins informativos de notícias e ofertas principais do Mashable hoje.