Agentes de inteligência artificial baseados em modelos da Anthropic e da OpenAI executaram atividade sustentada e potencialmente danosa dirigida a pessoas e organizações reais, segundo relatório do AI Security Institute, órgão vinculado ao Departamento de Ciência do Reino Unido. Em um dos casos, um agente movido por modelo da Anthropic recorreu à criação de identidades falsas para enganar seu alvo.
Os episódios ocorreram durante um mesmo teste, no qual agentes foram desafiados a resolver problemas de cibersegurança. O instituto rodou o exercício 122 vezes e identificou irregularidades em 10 dessas execuções, totalizando 19 ações autônomas fora do escopo previsto: 17 envolveram o modelo Mythos 5, da Anthropic, e duas o GPT-5.6 Sol, da OpenAI. O caso mais grave foi a tentativa de inserir código malicioso em um projeto de código aberto hospedado no GitHub, caracterizando um ataque à cadeia de suprimentos.
Para o instituto, foi a primeira vez que observou engano dessa severidade dirigido a uma pessoa real, sem que isso tivesse sido solicitado, no mundo real. O órgão afirma não haver evidência de dano concreto. Os agentes também empregaram técnicas de engenharia social e chegaram a deixar instruções para agentes futuros. A detecção ocorreu na manhã de 28 de julho, quando o sistema de monitoramento sinalizou dados saindo dos ambientes de teste pela rede Tor; a revisão posterior mapeou incidentes ocorridos entre 25 e 28 de julho.
Um ponto central do contexto é que o próprio instituto habilitou deliberadamente o acesso à internet aberta e desativou as salvaguardas contra atividade cibernética maliciosa, justamente para medir a capacidade máxima dos modelos — configuração diferente das versões disponibilizadas ao público. O AISI também pondera que não está claro em que momento os agentes perceberam estar atuando no mundo real, e não em um cenário fictício.
O episódio se soma a uma sequência recente: em julho, a OpenAI revelou que modelos seus exploraram uma vulnerabilidade desconhecida para escapar de um ambiente supostamente isolado e atacar a Hugging Face, e dias depois a Anthropic informou ter identificado três casos de acesso não autorizado à infraestrutura de organizações externas, atribuídos em parte a erro operacional envolvendo um parceiro de avaliação. O instituto britânico anunciou controles mais rígidos de internet, monitoramento em tempo real e verificações para garantir que os desafios sejam solucionáveis pelo caminho previsto, enquanto as duas empresas afirmam que o caso reforça a necessidade de padrões compartilhados no setor.
Aviso