Anthropic está investigando uma possível violação do Mythos, novo modelo da empresa de inteligência synthetic lançado a um pequeno grupo de empresas no início deste mês para ajudá-las a detectar vulnerabilidades de software program.
A empresa de IA por trás do chatbot Claude está investigando um relato de acesso não autorizado ao Mythos de um de seus ambientes de fornecedores terceirizados, disse um porta-voz da Anthropic à CBS Information por e-mail.
A Anthropic trabalha com um pequeno número de fornecedores terceirizados para desenvolver seus modelos de IA. Até o momento, a empresa não detectou nenhuma violação fora do ambiente de seu fornecedor ou qualquer comprometimento dos sistemas Antrópicos.
A Anthropic confirmou sua investigação sobre a possível violação do Mythos na quarta-feira, um dia depois Bloomberg relatou que um pequeno grupo de usuários não autorizados obteve acesso à ferramenta, citando uma pessoa familiarizada com o assunto.
A Anthropic lançou o Mythos para um grupo limitado em abril como parte de um esforço chamado Projeto Glasswing, classificando o novo modelo como mais eficaz do que os sistemas de IA concorrentes na detecção de vulnerabilidades de software program.
Na época, a Anthropic compartilhava a ferramenta apenas com um pequeno grupo de grandes empresas, incluindo Amazon, Apple, Cisco, JPMorgan Chase e Nvidia, em meio a preocupações de que o novo modelo pudesse ser explorado por hackers. O objetivo period ajudar essas empresas a fortalecer suas defesas antes que atores mal-intencionados pudessem obter acesso ao Mythos ou a modelos similares de IA.
Autoridades federais, especialistas em segurança e líderes de instituições globais como o Fundo Monetário Internacional levantaram preocupações sobre o que poderá acontecer se o Mythos cair em mãos erradas. Embora o Undertaking Glasswing se destine a ajudar as empresas a isolarem-se das ameaças à segurança cibernética, alguns especialistas estão preocupados que o Mythos também possa ser usado para explorar infra-estruturas de TI em bancos, hospitais, sistemas governamentais e outras organizações.
“Precisamos nos preparar, porque não conseguimos acompanhar os bandidos quando eram humanos invadindo nossas redes”, Alissa Valentina Knight, CEO da empresa de IA de segurança cibernética Assail, anteriormente disse à CBS News.” Certamente não conseguiremos acompanhar agora se eles estiverem usando IA porque ela é devastadoramente mais rápida e capaz.
