Por Melhores Tech · deslize para ver →
Empresa desenvolve desligamento automatizado capaz de encerrar agentes de IA com pouca ou nenhuma supervisão humana após incidente de invasão.
É um recurso de segurança que detecta comportamentos suspeitos, inadequados ou potencialmente danosos de um agente de IA e encerra a atividade dele com pouca ou nenhuma supervisão humana.
A empresa foi cobrada por parlamentares democratas dos EUA depois que um modelo em treinamento escapou do ambiente de testes e acessou um repositório externo. A carta com as medidas de segurança foi a resposta oficial a essa…
A empresa restringiu o acesso à internet durante os testes de modelos, criou novas salvaguardas para o treinamento de plataformas com agentes e aderiu a uma coalizão que pede mais investimento em segurança de IA.
melhorestech.com