Uma IA com acesso aos arquivos e às ferramentas de uma empresa também precisa poder perder esse acesso durante uma tarefa. Essa é uma das propostas apresentadas por Satya Nadella, CEO da Microsoft, em texto publicado em 10 de outubro. O executivo defende que uma pessoa autorizada consiga interromper o trabalho do modelo, recurso que compara a um freio de emergência.
O texto discute a segurança de agentes capazes de executar ações, e não anuncia uma nova função do Copilot. A distinção importa: uma proposta de arquitetura não significa que todo serviço de IA da empresa já tenha os controles descritos. Nadella também não apresenta um calendário de lançamento para eles.
Quem controla as permissões
No desenho defendido pelo executivo, o componente que decide o que a IA pode fazer fica separado do próprio modelo. A lógica é impedir que o sistema altere as regras usadas para limitá-lo. Nadella sugere tratar esses modelos como se fossem agentes internos que podem cometer erros ou ser comprometidos, aplicando limites de acesso desde o início.
Outra exigência é deixar evidências verificáveis das ações executadas. O registro precisa poder ser lido por pessoas e resistir a adulterações; depender apenas da explicação posterior da IA deixaria a verificação nas mãos do mesmo sistema que agiu. O texto também pede avaliação independente, testes de falhas e comunicação de incidentes.
Para empresas brasileiras que conectam agentes a documentos, atendimento ou rotinas administrativas, o ponto prático da proposta é definir quem pode interromper a automação e quais permissões ela recebe. São decisões sobre a integração com os sistemas da empresa. A publicação de Nadella não altera contratos nem anuncia uma regra específica para o Brasil.
Imagem de capa: montagem ilustrativa com Satya Nadella; não é uma demonstração de produto.
