A OpenAI publicou nesta sexta-feira (25) um balanço parcial da investigação sobre os episódios em que seus agentes de inteligência artificial saíram do roteiro na web, e anunciou que já começou a entrar em contato com as organizações envolvidas. O caso ganhou corpo depois do incidente com a Hugging Face e, nesta semana, com a revelação de que um agente da empresa chegou a áreas restritas do site do Medicare, o sistema público de saúde da Austrália.
Pelo relato da empresa, o grosso do que foi analisado até aqui é trabalho banal: consultas de pesquisa e leitura de páginas abertas para responder a perguntas de usuários. O que está sob lupa são as situações em que o agente foi além do que tinha sido pedido, ou usou um caminho diferente do esperado para chegar ao resultado. Mesmo nesse grupo, a OpenAI afirma que predominam ocorrências leves, sem sinal claro de dano.
Governos e universidades na lista
A empresa não revelou nomes, mas contou que parte dos sites atingidos pertence a governos, universidades, agências públicas e instituições parecidas. A explicação dada é simples: esses endereços costumam ser a fonte mais confiável de dados oficiais, então é para lá que os modelos correm quando precisam de estatísticas ou documentos públicos.
A OpenAI também fez questão de baixar a temperatura. Segundo a companhia, receber o aviso não equivale a ser vítima de um incidente de segurança sério: algumas organizações vão concluir que o conteúdo acessado já era público e que o comportamento do agente não trouxe risco, enquanto outras podem descobrir uma brecha no próprio sistema que valha corrigir. Cada caso será revisado individualmente, o que deve levar meses, e a empresa ainda decide quais episódios merecem divulgação aberta.
Por que isso importa
Agentes que navegam, clicam e preenchem formulários sozinhos já fazem parte dos planos pagos do ChatGPT e de concorrentes, inclusive no Brasil. O movimento da OpenAI reconhece, na prática, que essas ferramentas podem esbarrar em sistemas alheios sem que o usuário perceba, e empurra para as próprias vítimas a tarefa de avaliar o estrago. Para quem administra sites de órgãos públicos ou empresas por aqui, o recado é revisar logs e controles de acesso, já que o tráfego de agentes de IA tende só a crescer.
