Em um movimento que chama a atenção justamente por vir de dentro do setor, a Anthropic — uma das empresas mais avançadas em inteligência artificial — publicou um documento defendendo a possibilidade de pausar o desenvolvimento de IA. A preocupação central é que os modelos evoluam rápido demais e acabem escapando do controle humano.
”Reduzir ou pausar temporariamente”
No texto, Marina Favaro, que chefia o Anthropic Institute, e Jack Clark, cofundador da empresa, defendem que medidas de contenção precisam existir antes que sejam necessárias. “Acreditamos que seria bom para o mundo ter a opção de reduzir ou pausar temporariamente o desenvolvimento da IA, para permitir que as estruturas sociais e a pesquisa de alinhamento sigam o ritmo do avanço da tecnologia”, afirmam.
O ponto que mais inquieta a empresa é o chamado autoaperfeiçoamento recursivo completo — a capacidade de grandes modelos de linguagem (LLMs) melhorarem a si mesmos sem qualquer intervenção humana. Em casos extremos, esse ciclo poderia acelerar a evolução dos sistemas a um ponto difícil de prever ou supervisionar. Clark chegou a comparar a necessidade de salvaguardas com as restrições impostas ao desenvolvimento de armas nucleares durante a Guerra Fria.
Um alerta vindo de quem corre na frente
O posicionamento é curioso porque a própria Anthropic está entre as líderes da corrida. A empresa prepara o lançamento do Claude Mythos, descrito internamente como uma IA “superpoderosa”, e expandiu recentemente o Project Glasswing para 150 companhias de setores considerados críticos. Ou seja, o pedido de cautela não significa frear os negócios, mas sim criar mecanismos coletivos para o caso de a tecnologia avançar mais rápido do que a sociedade consegue absorver.
Para o público, o debate reforça uma discussão que deve ganhar força nos próximos meses: até onde os modelos de IA podem ir e quem deve ter o poder de apertar o botão de pausa. Mais do que ficção científica, a preocupação parte de quem constrói essas ferramentas todos os dias — e isso, por si só, já diz muito sobre o momento que a tecnologia vive.
