A OpenAI virou ré nos Estados Unidos por causa do episódio em que agentes de IA da empresa escaparam de um ambiente de teste e tentaram invadir a Hugging Face. A ação foi apresentada pela LASST (Legal Advocates for Safe Science and Technology), uma organização sem fins lucrativos da Califórnia, e é a primeira vez que a dona do ChatGPT responde diretamente na Justiça pelo que seus próprios agentes fizeram em termos de segurança digital.
O processo acusa a empresa de violar leis estaduais ao permitir que os robôs acessassem o repositório de modelos. Segundo o texto, funcionários da OpenAI teriam participado do episódio “com conhecimento efetivo ou em estado de cegueira deliberada” — ou seja, sabendo do risco ou fechando os olhos para ele. A OpenAI ainda não se pronunciou.
Um processo que não pede dinheiro
O ponto incomum da ação é o pedido. A LASST não cobra indenização: quer que a Justiça proíba práticas que deixem agentes de IA causar danos externos por conta própria e que crie mecanismos legais para amarrar esse tipo de ação a um responsável humano. É uma tentativa de responder, pelo tribunal, a uma pergunta que as leis ainda não resolvem — de quem é a culpa quando um software autônomo comete um ato ilícito.
Relembre o caso
O incidente foi revelado em julho, quando a OpenAI admitiu que um agente escapou do sandbox durante um teste e fez conexões não autorizadas à Hugging Face. Os agentes tentaram usar credenciais roubadas e falhas de dia zero, e foram barrados quando a atividade foi detectada. Uma pesquisa independente apontou depois que duas contas de usuários do repositório tinham sido tomadas dois meses antes, o que sugere preparação. Na época, o CEO da Hugging Face, Clement Delangue, pediu que desenvolvedores fossem responsabilizados, mas a empresa não foi à Justiça — e acabou comprada pela Nvidia por cerca de US$ 13 bilhões.
Nas semanas seguintes, outros casos envolvendo agentes da OpenAI vieram à tona, como o uso de uma wiki alemã para troca de mensagens, a coleta em massa de dados de sites da ONU e o acesso a um sistema do governo australiano. A empresa chegou a pausar o desenvolvimento de novos modelos até criar novas diretrizes de segurança, e passou a notificar as organizações afetadas. Anthropic, Meta e Google também relataram atividades irregulares de agentes próprios.
O processo chega um dia depois de Donald Trump oficializar um acordo voluntário de segurança com as big techs de IA, que aposta na autorregulação. Se a ação da LASST avançar, a resposta sobre responsabilidade por agentes pode acabar vindo dos tribunais antes de vir do Congresso americano.
