Um massacre no Canadá que deixou múltiplas vítimas fatais poderia ter sido evitado. Segundo sete processos judiciais apresentados esta quarta-feira em tribunal californiano, a OpenAI recebeu alertas de sua própria equipe de segurança oito meses antes do ataque, identificando uma conta ChatGPT do autor como risco credível de violência armada.
A negligência da OpenAI em alertar a polícia
Especialistas treinados internamente sinalizaram a conta do atirador. Normalmente, a empresa deveria notificar as autoridades — em especial neste caso, pois a polícia local já tinha um dossiê sobre o indivíduo e havia removido armas de sua casa anteriormente. Não foi o que aconteceu.
Documentos internos revelados a jornalistas mostram que líderes da OpenAI rejeitaram as recomendações da equipe de segurança. A decisão? Priorizar a privacidade do usuário e evitar o “estresse” de uma abordagem policial. Em vez de informar a polícia, a empresa simplesmente desativou a conta.
Pior ainda: a OpenAI forneceu ao atirador instruções sobre como contornar o bloqueio, criando uma nova conta de email para voltar a acessar a plataforma.
O que Sam Altman disse depois
Sam Altman, CEO da OpenAI, afirmou posteriormente que a decisão foi um erro. Numa mensagem ao vivo para Tumbler Ridge, a pequena comunidade mineira de 2 mil habitantes destruída pelo ataque, o executivo prometeu mudanças futuras.
“Lamento profundamente não termos alertado a aplicação da lei sobre a conta que foi bloqueada em junho”, escreveu Altman. O CEO afirmou que a empresa trabalhará para “prevenir tragédias como esta no futuro” e colaborará com todos os níveis do governo.
Por que isso importa para quem usa IA?
Este caso expõe uma tensão crítica no desenvolvimento de sistemas de IA: quando a segurança pública conflita com a privacidade individual, quem decide? A OpenAI optou pela privacidade e perdeu, oito meses depois, pessoas morreram.
O episódio levanta questões sobre responsabilidade corporativa. Uma empresa que treinou algoritmos para detectar riscos tem obrigação de agir quando os identifica? A resposta parece óbvia quando vidas estão em jogo, mas claramente não era para os executivos que rejeitaram o aviso.
Um padrão perigoso na indústria
O que aconteceu em Tumbler Ridge não é isolado. Whistleblowers reportaram à imprensa que a OpenAI priorizou questões comerciais, incluindo considerações sobre uma possível oferta pública de ações, acima de sinais de alerta de sua própria equipe de segurança. Quando uma empresa cria ferramentas capazes de rastrear riscos, ignorá-los sistematicamente não é negligência, é escolha.
A comunidade de Tumbler Ridge agora convive com o custo dessa escolha. Sam Altman pode oferecer desculpas públicas e promessas de melhoria. Mas nenhuma mensagem devolve as vidas perdidas ou repara o trauma coletivo deixado por um ataque que era previsível e evitável.
Matéria original: https://arstechnica.com/tech-policy/2026/04/school-shooting-lawsuits-accuse-openai-of-hiding-violent-chatgpt-users/
Deixe seu comentário