As ferramentas de codificação de IA deveriam tornar o desenvolvimento de software program mais rápido e fácil. Eles fizeram, mas talvez um pouco bem demais. As pessoas estão escrevendo códigos mais rápido do que nunca e isso criou todo um novo conjunto de problemas para as empresas.
De acordo com o The New York Timesuma empresa de serviços financeiros começou a usar o Cursor, uma ferramenta de codificação de IA, e passou de produzir de 25 mil para 250 mil linhas de código por mês. Parece uma vitória, mas criou um acúmulo de um milhão de linhas de código não revisado.
“A grande quantidade de código entregue e o aumento das vulnerabilidades são algo que eles não conseguem acompanhar”, disse Joni Klippert, CEO da StackHawk, uma startup de segurança que trabalha com a empresa.
O problema se espalhou pelo Vale do Silício. As empresas estão agora produzindo mais código do que as pessoas que têm para revisar, e essa lacuna está se tornando um risco de segurança.
Então, qual é o problema?
A função responsável por detectar erros no código gerado por IA é chamada de engenheiro de segurança de aplicativos. Não há um número suficiente deles. “Não há engenheiros de segurança de aplicações suficientes no planeta para satisfazer o que apenas as empresas americanas precisam”, disse Joe Sullivan, consultor da Costanoa Ventures.
Não é apenas um problema de pessoal. As ferramentas de codificação de IA funcionam melhor em laptops pessoais do que em servidores corporativos seguros, o que significa que os engenheiros estão baixando bases de código inteiras em dispositivos pessoais. Se um laptop computer desaparecer, muitos dados confidenciais também desaparecerão.
Mais IA é realmente a resposta?
Previsivelmente, o Vale do Silício pensa assim. Empresas como Anthropic, OpenAI e Cursor já estão construindo ferramentas de revisão baseadas em IA para ajudar a detectar erros em códigos gerados por IA. A Cursor até adquiriu uma startup de revisão de código para incorporar isso em seu produto.
Como disse o chefe de engenharia da Cursor: “A fábrica de desenvolvimento de software program quebrou. Estamos tentando reorganizar as peças de alguma forma.”
Eu tenho minhas dúvidas. Sim, a IA eventualmente será capaz de detectar erros no código, mas a revisão humana ainda será necessária antes de liberar a produção closing. Recentemente, um código de IA causou uma interrupção na Amazon, resultando em mais de 100.000 pedidos perdidos e 1,6 milhão de erros.
Nenhuma empresa quer que isso aconteça, e não tenho certeza se os revisores de código de IA são a resposta.
