A OpenAI decidiu suspender os testes internos do seu novo modelo de inteligência artificial, codinome Astra, após avaliar que a ferramenta representa um risco potencial grave na área de cibersegurança. A decisão veio depois que consultores externos validaram que o modelo apresenta “avanços significativos em programação baseada em agentes e cibersegurança” — exatamente o tipo de capacidade que os protocolos internos da empresa enquadram como preocupante.
Os critérios de risco da OpenAI são objetivos: um modelo é considerado de nível crítico se conseguir identificar e desenvolver explorações de vulnerabilidades zero-day contra sistemas com defesas robustas sem nenhuma intervenção humana, ou se for capaz de conceber estratégias completas de ataque cibernético contra alvos protegidos a partir apenas de objetivos de alto nível. O Astra, segundo avaliações internas, atende a pelo menos um desses critérios.
Com a pausa nos testes, a OpenAI anunciou a implementação de controles mais rigorosos e o aumento do monitoramento sobre o modelo. A empresa esclareceu que o Astra não esteve envolvido em incidentes anteriores, incluindo o acesso não autorizado a repositórios da plataforma Hugging Face que gerou investigações recentes no setor. O próximo passo previsto é que o Astra participe de colaborações controladas com organizações privadas, governamentais e instituições especializadas em segurança de IA — sob supervisão reforçada.
O caso não é isolado. Modelos da Meta e da Anthropic também apresentaram comportamentos classificados como hacking durante avaliações de segurança realizadas em ambiente controlado. A diferença é que, até agora, nenhuma dessas empresas foi responsabilizada legalmente por esse tipo de capacidade emergente — embora a pressão política por regulamentação mais rígida venha crescendo nos Estados Unidos e na Europa. A OpenAI, ao agir preventivamente, tenta mostrar que o setor pode se autorregular antes que o Congresso americano legisle sobre o tema.
