Início Tecnologia ‘Dawn’: Chegou a resposta da OpenAI ao projeto Glasswing da Anthropic

‘Dawn’: Chegou a resposta da OpenAI ao projeto Glasswing da Anthropic

19
0

Na segunda-feira, a OpenAI anunciou algo chamado “Dawn”, um projeto que o CEO Sam Altman diz ter como objetivo “acelerar a defesa cibernética e software program continuamente seguro”.

O Postagem do blog OpenAI anunciar Dawn não menciona a palavra “projeto”, talvez para tornar os leitores um pouco menos propensos a compará-lo ao Projeto Glasswing da Anthropic, mas observe isto: isso parece muito semelhante ao Projeto Glasswing da Anthropic. Assim como o Projeto Glasswing, é um programa no qual uma empresa de IA de ponta busca fazer parceria com entidades corporativas e governamentais para erradicar vulnerabilidades de segurança usando os modelos mais avançados da OpenAI na esperança de “ver o risco mais cedo, agir mais cedo e ajudar a tornar o software program resiliente desde o design”.

Glasswing foi lançado no mês passado junto com o anúncio da Anthropic de seu modelo Claude Mythos Preview, notoriamente o modelo tão capaz – pelo menos de acordo com seus criadores – que representava um perigo para o mundo. Como Antrópico placa de sistema para o modeloexplicou:

O grande aumento de recursos do Claude Mythos Preview nos levou a decidir não disponibilizá-lo ao público em geral. Em vez disso, estamos a utilizá-lo como parte de um programa defensivo de cibersegurança com um conjunto limitado de parceiros.

Em outras palavras, por ser “o modelo com maior capacidade cibernética” que a Anthropic já construiu, ele precisa ser trancado por enquanto, a menos que você seja um VIP. Desenvolvedor de software program influente Daniel Stenberg chamou isso um “golpe de advertising incrivelmente bem-sucedido, com certeza”.

Dois dias após esse anúncio, começaram a surgir relatórios sobre um projeto semelhante na OpenAI. Uma fonte anônima História do Axios descreveu-o como “um produto com capacidades avançadas de segurança cibernética que planeja lançar para um pequeno conjunto de parceiros”.

O anúncio do Dawn é muito mais público do que isso e parece significativamente menos ameaçador e secreto do que o Projeto Glasswing. A parte superior da página possui dois botões: “Solicitar uma verificação de vulnerabilidade” e “Entre em contato com o departamento de vendas”. Ao clicar em “Solicitar uma verificação de vulnerabilidade”, você obtém um formulário breve e incontestável:

© OpenAI

Altman disse em seu publish X que a OpenAI “gostaria de começar a trabalhar com o maior número possível de empresas agora” e, para ser justo, é assim que o esforço aparece. Comparado à forma como o Projeto Glasswing foi implementado, com governos assustados correndo pelos bastidores como formigas agitadas, é revigorante.

O anúncio diz que Dawn faz uso do Codex Safety, que foi anunciado como uma prévia da pesquisa em marçopara criar um “modelo de ameaça” de um determinado sistema que descreva suas funções, em quem o sistema confia e quais são, portanto, as vulnerabilidades. Tendo isso como contexto, ele então se aprofunda em sua base de código actual para explorações do mundo actual.

Então, em teoria, o Dawn os corrige.



fonte

DEIXE UMA RESPOSTA

Por favor digite seu comentário!
Por favor, digite seu nome aqui