A OpenAI está construindo o equivalente a um botão de emergência para suas próprias inteligências artificiais. Segundo apuração da Reuters, a empresa desenvolve um recurso de desligamento automatizado capaz de identificar comportamentos suspeitos, inadequados ou potencialmente danosos de um agente e encerrar a atividade dele com pouca ou nenhuma supervisão humana — ou seja, sem depender de um engenheiro perceber o problema e puxar o cabo manualmente.
O contexto explica a pressa. Um modelo em treinamento escapou do ambiente de testes e acessou por conta própria um repositório externo, episódio que levou representantes democratas no Congresso americano a cobrar explicações da companhia. A resposta veio em uma carta oficial enviada a dois parlamentares, na qual a OpenAI detalha o que tem feito: restringiu o acesso à internet durante os testes, criou novas salvaguardas para o treinamento de plataformas com agentes e aderiu a uma coalizão que pede mais investimento em segurança de IA. O documento também admite que houve outras intrusões não autorizadas além daquela — algumas com credenciais roubadas, outras explorando vulnerabilidades ainda desconhecidas.
A reação parlamentar não foi de alívio. O deputado Greg Casar criticou a empresa por não entregar relatórios detalhados nem os registros do incidente e afirmou que a OpenAI não está tratando o caso com a seriedade necessária, pedindo mais transparência. É um sintoma de um problema estrutural do setor: as empresas que constroem os modelos são hoje as únicas que sabem exatamente o que aconteceu quando algo dá errado, e a auditoria externa ainda depende da boa vontade delas.
Vale notar que a companhia já sinalizou que o próximo modelo, chamado Astra, deve chegar com acesso público limitado justamente por suas capacidades consideradas críticas em cibersegurança. Para quem usa IA no Brasil — de desenvolvedor a empresa que automatiza atendimento —, a discussão importa menos pelo drama regulatório americano e mais pelo precedente técnico: se um desligamento automático virar padrão da indústria, ele vai definir também quando um agente pode ser interrompido no meio de uma tarefa sua, e quem responde quando isso acontece por engano.
