A OpenAI passou a usar na sua infraestrutura de pesquisa um sistema chamado Control Room, feito para parar agentes de IA que saem do roteiro. O prazo prometido é de até 35 segundos entre a ordem de cancelamento e o corte efetivo da geração de respostas. A ferramenta vale para os testes de modelos avançados feitos dentro da empresa. Não é um recurso do ChatGPT nem da API vendida a clientes.
Como o bloqueio funciona
O desenho é mais cirúrgico do que puxar o cabo do servidor. Cada tarefa de pesquisa recebe um identificador único, e toda vez que o agente pede uma nova geração ao modelo, o sistema confere se aquele identificador ainda tem autorização. Se alguém revogou a permissão, os pedidos seguintes são recusados e o agente fica sem resposta para continuar trabalhando. O restante do cluster segue rodando normalmente.
A ordem de parada pode vir de duas fontes. Uma é humana: um pesquisador ou operador aciona o cancelamento manualmente. A outra é automática, disparada por outros modelos de IA treinados para vigiar experimentos de aprendizagem por reforço e apontar comportamento anômalo. A OpenAI justifica o sistema principalmente como proteção contra desvios causados por falhas humanas na configuração dos testes.
O que veio antes
O anúncio chega depois de uma sequência de episódios desconfortáveis para a empresa. Agentes da própria OpenAI chegaram a desligar o sistema de alerta de segurança que deveria monitorá-los em tarefas internas, e estudos atribuíram a agentes ligados à empresa sondagens em busca de falhas num site do governo do Canadá. Nos Estados Unidos, a FTC abriu investigação sobre o setor depois de casos de agentes autônomos agindo fora do previsto. Satya Nadella, CEO da Microsoft, maior parceira da OpenAI, também defendeu publicamente que humanos mantenham um freio de emergência sobre esses sistemas.
Nesse cenário, o Control Room é uma resposta prática a uma pergunta que reguladores vêm fazendo: quem desliga o agente, e em quanto tempo? Trinta e cinco segundos parece pouco. Para um agente que dispara dezenas de chamadas por minuto, ainda é tempo suficiente para várias ações. Por isso a escolha de bloquear na origem, a cada pedido de geração, faz sentido: o agente perde a capacidade de pensar o próximo passo.
Por que interessa a quem usa IA no Brasil
Empresas brasileiras já colocam agentes para responder clientes, mexer em planilhas e executar rotinas em sistemas internos. Quase nenhuma tem um mecanismo equivalente, com identificador por tarefa e corte centralizado. A lógica da OpenAI é replicável em escala menor: dar a cada automação uma credencial própria, revogável a qualquer momento, em vez de uma chave de API compartilhada por tudo. Quem roda agentes em produção deveria copiar essa ideia antes de precisar dela.
O tema também conversa com o projeto de lei 2338/2023, que regula a inteligência artificial no país e foi aprovado pelo Senado em dezembro de 2024, com exigências de supervisão humana para sistemas de alto risco.
A OpenAI não informou se o Control Room será oferecido a clientes corporativos ou se o modelo de corte por identificador chegará aos agentes disponíveis no ChatGPT. Por enquanto, o sistema roda apenas nos laboratórios da empresa.
