Membros de alto escalão do governo e do setor bancário britânicos estão supostamente lutando para descobrir o que fazer com as falhas de segurança cibernética encontradas pelo Claude Mythos Preview, o novo sistema automatizado da Anthropic para fazer com que as elites tecnológicas – e agora as elites financeiras – molhem as calças.
Caso você não saiba, na semana passada a Anthropic declarou seu modelo inédito, Claude Mythos Preview, assustador como o inferno e simplesmente poderoso demais para ser liberado no mundo.
Além de afirmar que Claude Mythos Preview é um idiota sorrateiro, uma postagem no weblog da equipe vermelha da fronteira da Anthropic o descreve como essencialmente o super-hacker mais perigoso do mundo. A passagem abaixo resume muito bem o aparente perigo de hacking. (Observe que “vulnerabilidades de dia zero” são vulnerabilidades em código conhecidas apenas pela pessoa ou agente de IA que as encontrou):
Durante nossos testes, descobrimos que o Mythos Preview é capaz de identificar e explorar vulnerabilidades de dia zero em todos os principais sistemas operacionais e navegadores da net quando orientado por um usuário para fazê-lo. As vulnerabilidades encontradas são muitas vezes sutis ou difíceis de detectar. Muitos deles têm dez ou vinte anos, sendo o mais antigo que encontrámos até agora um agora corrigido Bug de 27 anos no OpenBSD – um sistema operacional conhecido principalmente por sua segurança.
Agora, de acordo com o Monetary Occasions, o Banco de Inglaterra e os reguladores da Autoridade de Conduta Financeira e do Tesouro do Reino Unido manterão “discussões urgentes” com o Centro Nacional de Segurança Cibernética daquele país para definir um curso de acção. Fontes anónimas que falaram com o Monetary Occasions disseram (de forma bastante britânica) que uma reunião de planeamento será realizada “na próxima quinzena”.
Quão assustado está o Reino Unido? Esta questão é também a próxima grande prioridade do “Grupo de Resiliência Operacional de Mercado Cruzado” do Reino Unido, de acordo com o Monetary Occasions. Esse grupo inclui membros do Centro Nacional de Segurança Cibernética do Reino Unido, da Autoridade de Conduta Financeira (seu equivalente à SEC) e do Tesouro de Sua Majestade. É co-presidido, diz o Monetary Occasions, por alguém do Banco de Inglaterra com o título de “diretor executivo para risco de supervisão”.
Um pouco de palavreado do Monetary Occasions é notável. Ele descreve discussões sobre “os riscos representados pelo mais recente modelo de IA da Anthropic”. A Anthropic pode questionar um pouco, já que enquadrou o lançamento secreto do Claude Mythos Preview apenas por meio de seu “Projeto Glasswing”iniciativa como uma forma de alertar as partes interessadas sobre perigos futuros, e não como uma espécie de situação international de reféns de segurança cibernética.
Alguns, como o blogueiro racionalista Zvi Mowshowitz expressaram preocupação com o fato de as reivindicações da Anthropic estarem sendo mal comunicadas. Mowshowitz escreveu que a Anthropic está “misturando pontos válidos e análises úteis com exageros e exageros”.
Por sua vez, Yann LeCun, ex-pesquisador-chefe de IA da Meta, foi repostando X postagens alegar que Mythos grande e ruim não é grande coisa.
E deve-se notar que, tanto quanto se sabe, ninguém fora da Anthropic teve até agora o tipo de acesso irrestrito ao modelo que seria necessário para tentar uma forma de análise mais objetiva.
