A Anthropic limita o acesso à IA que encontra falhas de segurança, percebendo que os hackers podem usá-la exatamente para isso

A história é assim: a Anthropic cria Claude Mythos, um modelo de IA excelente para identificar falhas de segurança em software program. Devido a problemas de segurança no software program do sistema de gerenciamento de conteúdo da Anthropic, detalhes sobre o Mythos vazam para o público com antecedência. Depois de pensar um pouco, a Anthropic determine não divulgar o Mythos ao público devido a preocupações de que hackers possam usá-lo para fins nefastos.

Sim, essa foi provavelmente a decisão certa.

Na terça-feira, Anthropic anunciou a prévia de Claude Mythos, um modelo de IA ainda não lançado que poderia “remodelar a segurança cibernética”. Segundo a empresa, já foram encontradas “milhares de vulnerabilidades de alta gravidade, incluindo algumas em todos os principais sistemas operacionais e navegadores da internet”. Embora isso seja uma coisa boa, a Anthropic também disse que os maus atores podem usar o Mythos para o mal, com consequências potencialmente “graves” para “economias, segurança pública e segurança nacional”.

Este Tweet não está disponível no momento. Pode estar carregando ou foi removido.

Portanto, em vez de apenas lançar o Mythos como faria com outros modelos, a Anthropic decidiu dar acesso apenas a um pequeno número de empresas selecionadas: Amazon Internet Providers, Anthropic, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Basis, Microsoft, NVIDIA e Palo Alto Networks. A Anthropic chama isso de “Projeto Glasswing”, uma iniciativa para fortalecer a infraestrutura crítica de software program com a ajuda da IA. A empresa também estendeu o acesso a um grupo de mais de 40 organizações adicionais que “constroem ou mantêm infraestruturas críticas de software program”.

Em um entrevista à CNBC na terça-feira, Dianne Penn, chefe de gerenciamento de produtos de pesquisa da Anthropic, disse que a mudança ocorreu depois de muita “deliberação interna” e que se tratava de dar “uma vantagem inicial a muitos defensores cibernéticos”.

Enquanto isso, no X, o CEO da Anthropic, Dario Amodei escreveu em uma postagem“Em vez de liberar o Mythos Preview para disponibilidade geral, estamos dando aos defensores acesso controlado antecipado para encontrar e corrigir vulnerabilidades antes que os modelos da classe Mythos proliferem em todo o ecossistema.”

Este Tweet não está disponível no momento. Pode estar carregando ou foi removido.

“Os perigos de errar são óbvios, mas se acertarmos, há uma oportunidade actual de criar uma Web e um mundo fundamentalmente mais seguros do que tínhamos antes do advento das capacidades cibernéticas alimentadas pela IA”, acrescentou.

Embora o Claude Mythos Preview seja particularmente bom em encontrar falhas de segurança cibernética, na verdade é um modelo de uso geral. Mas a empresa atualmente não planeja disponibilizá-lo amplamente; em vez disso, tentará descobrir como pode implantar com segurança modelos da classe Mythos para todos.