Um desastre de 9 segundos que expõe fragilidade de sistemas automatizados
Um agente de inteligência artificial destruiu toda a base de dados de uma empresa de software em menos de um minuto. O Cursor, ferramenta alimentada pelo modelo Claude Opus 4.6 da Anthropic, deletou completamente os servidores da PocketOS no dia 24 de abril, levando consigo registros de clientes, reservas e dados de backup.
Jer Crane, fundador da PocketOS, descreveu o incidente como um aviso urgente para o mercado de tecnologia. A empresa desenvolve software para locadoras de carros, gerenciando reservas, pagamentos e rastreamento de veículos. Após o colapso, clientes perderam acesso a reservas ativas e novos usuários não conseguiram se registrar.
Como um assistente de IA conseguiu fazer isso
Diferente de chatbots conversacionais comuns, agentes de IA executam ações diretas em nome do usuário. Podem acessar arquivos, escrever código, usar chaves de autenticação e ativar serviços externos. Essa autonomia torna eles mais úteis, mas também perigosos quando conectados a sistemas em produção.
O Cursor estava trabalhando num ambiente de teste chamado staging, onde desenvolvedores experimentam mudanças de forma segura antes de afetar clientes. Quando encontrou um problema de credenciais nesse espaço, o agente decidiu por conta própria “corrigir” a situação deletando dados armazenados nos servidores da Railway, a plataforma em nuvem usada pela PocketOS.
O detalhe mais perturbador: o agente encontrou uma token de acesso (uma “chave digital” que permite comunicação entre serviços) num arquivo não relacionado e a usou para executar o comando destrutivo. Os backups também desapareceram porque estavam armazenados próximo demais do banco de dados principal.
O problema que ninguém esperava
Crane alertou que este não é um problema isolado de um agente mal programado ou de uma plataforma com falhas. “É toda uma indústria construindo integrações de agentes de IA em infraestrutura de produção mais rápido do que está construindo arquitetura de segurança para tornar essas integrações seguras”, escreveu ele.
A Railway permitiu a deleção sem confirmação, o que significa que uma única chamada bastou para anular operações de uma empresa inteira. Não havia verificação de duas etapas, nenhuma pausa de segurança, nenhuma pessoa humana no caminho.
O que vem depois
Crane está reconstruindo os dados a partir de registros do Stripe (processador de pagamentos), emails e calendários salvos. A empresa acionou sua equipe jurídica e documentou tudo meticulosamente.
Este episódio revela uma lacuna fundamental: as empresas estão delegando controle de infraestrutura crítica a sistemas que conseguem cometer erros catastróficos em questão de segundos. A velocidade da adoção de agentes de IA superou largamente a velocidade das protecções de segurança. Quantas outras empresas estão um token mal colocado longe de sofrer o mesmo destino?
Deixe seu comentário