Quando uma empresa de serviços financeiros trocou práticas de desenvolvimento tradicionais pela ferramenta de codificação de IA Cursor, sua produção de código explodiu. As linhas de código mensais saltaram de aproximadamente 25.000 para 250.000, um aumento de dez vezes que inicialmente parecia um triunfo. Em semanas, a empresa enfrentou um backlog de cerca de um milhão de linhas de código que nunca haviam sido revisadas para bugs ou falhas de segurança.

"A quantidade enorme de código sendo entregue, e o aumento de vulnerabilidades, é algo que eles não conseguem acompanhar", disse Joni Klippert, CEO da StackHawk, uma startup de segurança que assiste a empresa. O rápido aumento de código não verificado se transformou em um risco sistêmico em todo o Vale do Silício, onde muitas organizações agora estão gerando mais software do que suas equipes de segurança podem examinar.

Engenheiros de segurança de aplicativos - profissionais responsáveis por capturar erros em código gerado por IA - estão em curto fornecimento. "Não há engenheiros de segurança de aplicativos suficientes no planeta para atender às necessidades das empresas americanas", alertou Joe Sullivan, um consultor da Costanoa Ventures. A falta de talentos significa que, mesmo à medida que os volumes de código aumentam, a força de trabalho capaz de protegê-los permanece estagnada.

Além do problema de pessoal, a forma como as ferramentas de IA são implantadas cria perigos adicionais. Os desenvolvedores frequentemente executam os modelos em laptops pessoais em vez de servidores corporativos seguros, baixando inteiras bases de código em dispositivos que podem ser perdidos ou roubados. Um único laptop perdido poderia expor dados sensíveis ao lado do código recém-gerado.

Reconhecendo a ameaça iminente, várias empresas de IA começaram a incorporar capacidades de revisão de código diretamente em suas plataformas. Anthropic, OpenAI e Cursor estão trabalhando em verificações de segurança automatizadas. A Cursor recentemente adquiriu uma startup especializada em revisão de código para incorporar essas funções em sua suíte de produtos. "A fábrica de desenvolvimento de software quebrou. Estamos tentando reorganizar as peças", disse o chefe de engenharia da Cursor.

No entanto, especialistas alertam que os revisores impulsionados por IA não são uma panaceia. A supervisão humana ainda é crítica antes que qualquer código alcance a produção. As apostas foram sublinhadas quando um script escrito por IA causou uma interrupção na Amazon, resultando em mais de 100.000 pedidos perdidos e 1,6 milhão de erros. Nenhuma empresa deseja uma repetição desse cenário, e a indústria ainda está lutando para equilibrar velocidade e segurança.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas