A CrowdStrike e a Amazon Web Services (AWS) lançaram a competição global de red-teaming 'AI Unlocked: Agents of Chaos', que disponibiliza um fundo de prémios de 100 000 dólares. A iniciativa desafia especialistas em cibersegurança a identificar e travar explorações de injeção de prompt e sequestro de agentes de IA em cenários empresariais.
O foco da competição centra-se na nova superfície de ataque criada pela autonomia concedida a estes sistemas nas infraestruturas corporativas. À medida que os agentes deixam de apenas gerar texto para passar a executar ações diretas em bases de dados, APIs e software interno, os vetores de exploração passam a incluir manipulação comportamental e desvio de instruções.
A aposta no formato de red-teaming reflete uma viragem na validação destes sistemas. As auditorias de código convencionais revelam-se insuficientes quando a vulnerabilidade reside na interpretação de linguagem natural e na cadeia de permissões delegadas ao agente. Ao alocar 100 000 dólares para expor estas falhas em ambiente controlado, a CrowdStrike e a AWS assumem que a segurança da IA autónoma depende da simulação adversária contínua antes da integração em produção.
Para as equipas que desenvolvem ou adotam estas ferramentas, o teste de resistência aos vetores de injeção deixa de ser uma salvaguarda opcional e passa a definir o limite estrito de autonomia que pode ser concedido a um sistema empresarial.