À medida que os modelos de IA continuam a ficar mais poderosos, não é de surpreender que algumas pessoas estejam tentando usá-los para o crime.
O Google Menace Intelligence Group disse na segunda-feira que identificou, pela primeira vez, um grupo de crimes cibernéticos usando uma exploração de dia zero que a empresa acredita ter sido descoberta com a ajuda de IA. Uma vulnerabilidade de dia zero refere-se a uma grande falha de segurança em software program ou {hardware} que é desconhecida por seus desenvolvedores, deixando-os com “dia zero” para corrigi-la antes que os invasores possam explorá-la.
O ator da ameaça, que o Google não nomeou, mas descreveu como um grupo “proeminente” do crime cibernético, supostamente planejava usar a falha em uma campanha de exploração em massa. O Google acredita que evitou que a exploração fosse usada.
De acordo com o Relatório GTIGa análise do Google sobre explorações vinculadas à campanha encontrou uma vulnerabilidade de dia zero incorporada em um script Python. A exploração teria permitido que hackers ignorassem a autenticação de dois fatores em uma ferramenta de administração de sistema baseada na Net, de código aberto, sem nome, mas well-liked. O Google observou que os hackers ainda precisariam de credenciais de usuário válidas para que a exploração funcionasse.
GTIG disse que trabalhou com o fornecedor afetado para divulgar e resolver a falha de segurança.
O relatório prossegue dizendo que o Google tem “alta confiança”, com base na estrutura e no conteúdo das explorações, de que os hackers provavelmente usaram um modelo de IA para ajudar a descobrir e transformar a falha em arma.
“Por exemplo, o script contém uma abundância de doutrinas educacionais, incluindo uma pontuação CVSS alucinada, e usa um formato Pythonic de livro didático estruturado altamente característico dos dados de treinamento de LLMs (por exemplo, menus de ajuda detalhados e a classe de cores limpa _C ANSI)”, diz o relatório.
O Google também observa que não acredita que seu próprio modelo Gemini tenha sido usado.
A notícia surge em meio ao crescente escrutínio sobre as ameaças à segurança cibernética representadas por modelos avançados de IA, especialmente após o lançamento limitado do modelo Mythos da Anthropic. A Anthropic disponibilizou a Mythos apenas para um grupo seleto de empresas, organizações e governos por meio de um programa destinado a ajudá-los a testar e fortalecer sua segurança cibernética.
A liberação limitada causou tanto rebuliço que levou a administração Trump a considerar abandonar sua briga com a Anthropic e acordos seguros com mais empresas de IA para permitir que o governo revise seus modelos antes da divulgação pública.
Ainda assim, nem todos estão convencidos de que Mythos seja tão importante quanto parece.
Em um postagem no blog na segunda-feira, o desenvolvedor líder do Curl, Daniel Stenberg, caracterizou o entusiasmo em torno do Mythos principalmente como um “golpe de advertising and marketing de sucesso”.
Stenberg escreveu que participou do Projeto Glasswing da Anthropic, que permite que as empresas enviem seu código à Anthropic para ser analisado pela Mythos em busca de falhas de segurança.
O desenvolvedor finalmente recebeu um relatório da Anthropic que listava cinco “vulnerabilidades de segurança confirmadas”. Mas após uma inspeção mais minuciosa, Stenberg e sua equipe determinaram que apenas um deles period um problema de segurança legítimo e desconhecido.
“No entanto, a minha conclusão pessoal não pode terminar em outra coisa senão que o grande hype em torno deste modelo até agora foi principalmente de advertising and marketing”, escreveu Stenberg. “Não vejo nenhuma evidência de que esta configuração encontre problemas em um grau específico mais alto ou mais avançado do que as outras ferramentas antes do Mythos.”
