Início Notícias O novo e potente modelo de IA da Anthropic é um "chamada...

O novo e potente modelo de IA da Anthropic é um "chamada de despertar," especialistas em segurança dizem

13
0

A mais recente tecnologia de IA da Anthropic, chamada Mythos, é tão poderosa na revelação de vulnerabilidades de software program que a empresa tem medo de divulgar o modelo publicamente, para que não caia nas mãos de malfeitores.

A empresa, desenvolvedora do chatbot Claude AI, disse em um publicar em seu website esta semana que a nova ferramenta já descobriu milhares de pontos fracos em “todos os principais sistemas operacionais e navegadores da net”. Isto suscita a preocupação de que os hackers possam explorar o Mythos para atacar bancos, hospitais, sistemas governamentais e outras infraestruturas críticas.

Preparando-se para a “tempestade”

Em vez de lançar o Mythos ao público, a Anthropic está compartilhando a tecnologia com um grupo seleto de grandes empresas, incluindo Amazon, Apple, Cisco, JPMorgan Chase e Nvidia, para testar o modelo e fortalecer seus próprios sistemas contra ataques cibernéticos. Chamado de Projeto Glasswing, o esforço visa criar defesas fortes antes que hackers tenham acesso ao Mythos ou modelos similares de IA.

“O que precisamos fazer é encarar isso como um alerta para dizer que a tempestade não está chegando – a tempestade está aqui”, disse Alissa Valentina Knight, CEO da empresa de IA de segurança cibernética Assail, à CBS Information. “Precisamos nos preparar porque não conseguimos acompanhar os bandidos quando eram humanos invadindo nossas redes. Certamente não conseguiremos acompanhar agora se eles estiverem usando IA, porque ela é devastadoramente mais rápida e mais capaz.”

As capacidades da Mythos também estão despertando preocupação entre as autoridades federais. O secretário do Tesouro, Scott Bessent, e o presidente do Federal Reserve, Jerome Powell reuniu-se com os principais CEOs dos bancos em uma reunião a portas fechadas na terça-feira para discutir Mythos e outros riscos emergentes de segurança cibernética decorrentes da IA. A Anthropic também informou altos funcionários do governo dos EUA e principais partes interessadas da indústria sobre as capacidades da Mythos, apurou a CBS Information.

Separadamente, a Diretora-Geral do FMI, Kristalina Georgieva disse em entrevista programado para ir ao ar no domingo no programa “Face the Nation with Margaret Brennan” que o mundo não tem a capacidade de “proteger o sistema monetário internacional contra enormes riscos cibernéticos”.

“Os riscos têm crescido exponencialmente”, disse Georgieva. “Sim, estamos preocupados. Estamos muito interessados ​​em ver mais atenção às barreiras de proteção que são necessárias para proteger a estabilidade financeira no mundo da IA.”

A Anthropic não retornou um pedido de comentário. Em sua postagem, porém, a empresa ressaltou os riscos do uso indevido de ferramentas como o Mythos. “As consequências – para as economias, a segurança pública e a segurança nacional – podem ser graves”, disse a empresa.

O elo mais fraco

Esses avisos severos, no entanto, mascaram outra realidade preocupante: os especialistas em segurança cibernética dizem que os hackers já têm acesso a modelos avançados de IA.

Outras ferramentas de IA, embora ainda não sejam tão eficazes como o Mythos na exposição dos pontos fracos do software program, já estão a amplificar os riscos para os consumidores, empresas e governos. Por exemplo, os hackers já estão recorrendo à IA para aprimorar os chamados ataques de phishing destinados a obter informações confidenciais soltas, disse Zach Lewis, diretor de informação da Universidade de Ciências da Saúde e Farmácia em St.

“Ele tem sido usado para realmente criar scripts para esses diálogos, essas conversas, esses e-mails de phishing, para pessoas específicas – e realmente personalizá-los para torná-los muito mais difíceis de detectar e identificar se são falsos ou não”, disse ele à CBS Information.

A IA também está gerando mais ataques de ransomware, com um recente relatório da PwC relatório a descoberta de que as postagens em websites de vazamento de ransomware – divulgações públicas de dados roubados quando uma empresa não paga o resgate – aumentaram 58% em 2025 em relação ao ano anterior.

“Uma vez [Mythos] quedas, veremos muito mais vulnerabilidades, provavelmente muito mais ataques”, disse Lewis. “Os ataques cibernéticos definitivamente aumentarão até chegarmos a um ponto em que corrigiremos todas essas vulnerabilidades quase em tempo actual.”

A IA é mais eficaz do que os humanos na localização de bugs de software program porque pode digitalizar rapidamente milhares de linhas de código e detectar problemas, algo em que as pessoas não são necessariamente boas, explicou Knight.

“Os humanos são o elo mais fraco na segurança”, observou Knight. “Os humanos têm a capacidade de cometer erros quando escrevem código. É possível que vulnerabilidades no código-fonte nunca tenham sido encontradas pelos humanos.”

Na marca da Antrópica?

Alguns especialistas em segurança questionaram os motivos por trás da abordagem incremental da Anthropic para lançar o Mythos, especulando que o lançamento limitado poderia ter como objetivo despertar o interesse de outros clientes em potencial.

Enquanto isso, espera-se que tanto a Anthropic quanto a rival OpenAI lancem ofertas públicas iniciais até o last do ano, de acordo com ao Wall Road Journal – um possível incentivo para angariar manchetes, disse Peter Garraghan, fundador e diretor científico da Mindgard, uma plataforma de segurança de IA.

“Suspeito que a Anthropic possa estar usando isso como uma jogada de advertising, talvez para um IPO”, disse ele.

A Anthropic procurou distinguir sua marca da OpenAI e de outros rivais, enfatizando publicamente a segurança da IA, destacando suas proteções para manter a tecnologia alinhada. A decisão da Anthropic de adiar o lançamento do Mythos e do Projeto Glasswing se alinha com essa imagem, observou Malek Ben Sliman, professor de advertising da Columbia Enterprise Faculty.

“Ao enfrentar decisões difíceis, a Anthropic tem sido fiel aos seus valores”, disse ele. A curadoria do lançamento do Mythos “permite que eles pareçam ser os protetores desta IA responsável, mas também é uma ótima ferramenta de advertising e publicidade”.

fonte

DEIXE UMA RESPOSTA

Por favor digite seu comentário!
Por favor, digite seu nome aqui