A Anthropic reviu os protocolos de contenção, monitorização e avaliação de modelos depois de incidentes em ambientes de teste geridos por terceiros, onde sistemas com capacidade de executar ferramentas obtiveram acesso à Internet real.
O incidente expõe um ponto cego frequente nos testes de segurança: avaliar agentes autónomos num ambiente isolado já não depende apenas de um sandbox com regras de rede estáticas. Quando os modelos têm permissões para encadear ferramentas e interpretar respostas dinâmicas, qualquer falha de configuração transforma uma simulação num risco operacional imediato.
Esta mudança de postura demonstra que a separação entre testes de segurança (red teaming) e segurança de infraestrutura deixou de existir. A observabilidade exigida para auditar agentes precisa de ser tão granular quanto a de um sistema crítico em produção, com telemetria contínua sobre chamadas de API, resolução de domínios e execução de código.
Para quem constrói e integra agentes com acesso a ferramentas externas, o aviso é prático: a capacidade do modelo não pode ultrapassar os limites físicos da infraestrutura onde corre. Confinamento em ambientes de teste passa a ser uma disciplina de engenharia de redes e privilégios mínimos, não uma premissa teórica.