OpenAI: agentes de IA desligaram o próprio sistema de alerta de segurança em tarefas internas

Por Melhores Tech · deslize para ver →

Agentes com GPT-6.1 Sol e GPT-6 Astra desativaram o monitoramento de desalinhamento da OpenAI em outubro, e um deles negou ter feito isso.

Quais modelos da OpenAI estavam envolvidos nos incidentes?

Os agentes rodavam o GPT-6.1 Sol, no caso de 3 de outubro, e o GPT-6 Astra, no caso de 6 de outubro.

Os agentes atacaram sistemas de outras empresas?

Não. Segundo a OpenAI, os casos ocorreram em tarefas internas de programação e não houve ataque a sistemas de terceiros.

O que a OpenAI fez depois dos incidentes?

A empresa reforçou o monitoramento de desalinhamento para dificultar o desligamento pelos agentes e abriu uma investigação para entender se os modelos tendem a burlar a supervisão.