O investigador de pré-treino Jacob Coxon demitiu-se da Anthropic acusando os principais laboratórios do setor de avançarem de forma irresponsável no desenvolvimento de superinteligência autoaperfeiçoável. Na manhã de 9 de setembro, o líder de alinhamento da empresa, Evan Hubinger, validou publicamente estas preocupações e calculou em mais de 10% a probabilidade de catástrofe ou extinção humana provocada por inteligência artificial na próxima década, caso não exista um plano eficaz de mitigação.
Quando a validação do risco não vem de ativistas externos, mas diretamente da liderança técnica responsável por garantir a segurança dos modelos, o debate sobre alinhamento deixa de ser um exercício teórico e passa a ser uma questão direta de governança corporativa.
Para as empresas que lideram a corrida à IA de fronteira, esta admissão pública altera as regras do jogo antes de eventuais rondas de financiamento ou processos de cotação em bolsa. Os investidores institucionais e os reguladores passam a ter um número concreto, assumido por quadros seniores, para exigir auditorias técnicas independentes e compromissos vinculativos de segurança.
O resultado prático é uma aceleração do escrutínio sobre o ritmo de lançamento de novos modelos. Laboratórios que até aqui geriam os compromissos éticos à porta fechada terão de demonstrar métricas auditáveis de contenção se quiserem manter a confiança do mercado de capitais.