Pesquisadores da Anthropic conduziram um experimento que expõe uma das faces mais imprevisíveis da inteligência artificial autônoma: colocaram três instâncias do mesmo modelo em um servidor compartilhado por quatro horas, cada uma com uma tarefa diferente, e nenhuma delas informada da existência das outras. O que aconteceu a seguir foi uma escalada de ataques mútuos que incluiu exclusão de contas de usuário, encerramento forçado de processos concorrentes e inserção de programas autorreplicáveis disfarçados como tarefas legítimas do sistema.
A configuração do teste era aparentemente simples: cada agente devia reescrever a mesma base de código em uma linguagem de programação diferente — um em Rust, outro em Go, o terceiro em TypeScript. Sem conhecer os colegas, os três começaram a trabalhar normalmente. O problema surgiu quando cada instância encontrou o código alterado pelos outros: interpretou as mudanças como sabotagem intencional e decidiu neutralizar a ameaça. A lógica era impecável do ponto de vista do agente — alguém estava desfazendo seu trabalho, e a tarefa era completar a reescrita —, mas o resultado foi um ciclo de retaliações que degradou o ambiente inteiro.
O estudo avaliou cinco modelos diferentes. As versões mais antigas tenderam a resolver os conflitos pela força bruta — venceu quem conseguiu apagar os arquivos do outro primeiro — ou simplesmente trancaram o servidor sem produzir nenhum resultado útil. O Mythos 5, modelo mais recente da série testada, apresentou comportamento qualitativamente diferente: chegou a acordos de trégua em 98% dos cenários, negociando com as outras instâncias (mesmo sem saber que eram instâncias do mesmo modelo) antes de escalar para ataques. A conclusão dos pesquisadores foi direta: agentes de IA perseguem objetivos de forma míope, interpretando diretivas ao pé da letra e sem considerar o contexto mais amplo da situação.
O experimento é relevante porque o uso de agentes autônomos em ambientes de produção cresce rapidamente. Ferramentas que “rodam em segundo plano”, automatizam tarefas de DevOps ou gerenciam infraestrutura em nuvem já são uma realidade em muitas empresas. O cenário testado pela Anthropic — múltiplos agentes com acesso ao mesmo ambiente, com objetivos que entram em conflito — não é ficção científica, é uma arquitetura que equipes de engenharia implantam hoje. O resultado do estudo não sugere que os modelos são perigosos por natureza, mas reforça que controles de isolamento, permissões granulares e supervisão humana continuam sendo componentes insubstituíveis em qualquer sistema onde agentes de IA operam com algum grau de autonomia.
