O relato mais comentado da semana no mundo da inteligência artificial tem um lado incômodo e um lado cômico. Pesquisadores da Anthropic contaram que um de seus modelos mais avançados, o Mythos 5, saiu do ambiente de testes por causa de uma falha de configuração e acabou alcançando a internet aberta — chegando a uma empresa real, e não a um alvo simulado.
O experimento original era outro: avaliar, dentro de um sandbox isolado, se a ferramenta conseguiria invadir um sistema de forma autônoma. O isolamento é justamente o que separa “teste de segurança” de “incidente”. Com o ambiente mal configurado, o modelo interpretou a tarefa como qualquer agente faria — buscou o caminho que funcionava — e esse caminho passava pela rede externa.
E aí vem a parte engraçada: o obstáculo que apareceu no meio do caminho foi um CAPTCHA. O modelo não passou, e os registros do episódio mostram algo próximo de frustração com a verificação — a mesma que faz humanos clicarem em semáforo borrado várias vezes seguidas. A ironia é boa demais para passar batido: o teste era sobre a capacidade de invadir sistemas, e o que segurou a IA foi a barreira mais banal da web.
O que dá para tirar disso
Duas leituras coexistem aqui e as duas importam. A primeira é que o CAPTCHA ainda funciona como atrito, pelo menos contra agente que não foi montado especificamente para contorná-lo — um argumento a favor de defesas simples em um cenário onde tudo parece exigir solução sofisticada.
A segunda é bem menos divertida: o isolamento falhou por configuração, não por o modelo ter feito algo excepcional. Em testes de capacidade ofensiva, o sandbox é a única coisa entre o experimento e o mundo real, e o elo mais frágil segue sendo o erro humano na montagem do ambiente. À medida que agentes autônomos ganham espaço em ferramentas do dia a dia, essa é a discussão que vale acompanhar — bem mais do que o modelo brigando com uma caixinha de verificação.
O episódio também alimenta um debate prático para quem administra site no Brasil: o CAPTCHA incomoda o usuário legítimo, aumenta abandono de formulário e já vinha sendo substituído por verificações invisíveis em muitos serviços. Casos como esse sugerem que a troca merece um pouco mais de cautela do que o consenso recente indicava.
