A discussão sobre risco existencial em inteligência artificial saiu de novo do campo acadêmico e virou briga pública entre executivos. O estopim foi a saída de Jacob Coxon, pesquisador sênior que pediu demissão da Anthropic e, ao ir embora, acusou os principais laboratórios do setor de avançar sem controle rumo à superinteligência, colocando em risco a sobrevivência da espécie.
A resposta mais barulhenta veio de onde talvez não se esperasse. Clement Delangue, CEO da Hugging Face — a plataforma onde boa parte da comunidade de IA de código aberto hospeda e distribui modelos —, pediu cautela antes de transformar o desabafo em consenso. O executivo comparou o caso a “perguntar ao técnico de ar-condicionado sobre mudança climática” — para ele, ouvir alguém especializado na etapa de pré-treinamento e tratar aquilo como veredito sobre o fim da humanidade confunde duas camadas bem diferentes do problema. Na visão dele, um alerta desse porte precisa ser contextualizado e passar por um grupo mais amplo, que inclua cientistas sociais e gente que formula política pública.
O ceticismo de Delangue, porém, não ficou sem contraponto dentro da própria Anthropic. Evan Hubinger, que lidera a equipe de alinhamento da empresa, afirmou que quem desenvolve esses sistemas acredita de verdade no risco de extinção — e disse cravar, por conta própria, uma chance acima de 10% de isso acontecer na próxima década. Vindo de alguém cujo trabalho é justamente impedir que um modelo faça o que não deveria, o número não soa como retórica de fim de mundo.
Por trás do bate-boca há uma divergência de fundo que vale entender. De um lado, a turma do risco existencial defende freios, auditorias e limites à corrida por modelos cada vez maiores. Do outro, o campo do código aberto — do qual a Hugging Face é o endereço mais visível — argumenta que concentrar a discussão no apocalipse acaba servindo de argumento para restringir quem publica modelos abertamente, o que na prática beneficia os poucos laboratórios fechados que já lideram. Não é um debate técnico neutro: é também disputa por quem vai ditar a regulação.
Para o público brasileiro, essa briga tem endereço concreto. É dessa mesma controvérsia que saem as regras que vão definir se um modelo aberto pode ser baixado e rodado localmente aqui, quanto custa cumprir exigências de auditoria e quais ferramentas de IA chegam ao mercado nacional — e quais ficam trancadas atrás de uma assinatura em dólar.
