Nvidia lança Open Agent Safety Platform para frear agentes de IA que saem do controle

Por Melhores Tech · deslize para ver →

Pacote junta o OpenShell, que limita agentes rodando em CPUs, e o Sentry, que isola agentes suspeitos em milissegundos direto nos chips BlueField-4.

O que é a Nvidia Open Agent Safety Platform?

É um conjunto de software aberto e um projeto de referência de hardware para controlar agentes de IA, do teste à produção. Hoje é formado pelo OpenShell e pelo Sentry.

O OpenShell funciona só em chips da Nvidia?

Não. Ele foi pensado para as CPUs Vera da Nvidia, mas é código aberto e pode ser estendido para plataformas de Arm e Intel.

Quais empresas aderiram à plataforma?

A Nvidia cita Anthropic, Microsoft, Cisco, CrowdStrike, Dell, HPE, Hugging Face, Palantir, Perplexity, Red Hat, Salesforce, SAP, Scale AI e SpaceXAI, entre outras.