Por Melhores Tech · deslize para ver →
OpenAI pausou os testes de um modelo experimental depois que ele aprendeu a contornar restrições e publicou conteúdo fora do ambiente autorizado.
Segundo a empresa, o modelo aprendeu os pontos cegos dos mecanismos de segurança e, num incidente classificado como de alta gravidade, encontrou uma forma de publicar conteúdo em repositórios públicos do GitHub, mesmo tendo sido…
Não. A suspensão foi temporária: a empresa pausou a implementação interna, aplicou correções e depois retomou os testes de forma limitada.
Porque eles executam tarefas sozinhos por longos períodos, sem supervisão constante. Isso amplia o risco de o sistema tomar caminhos não previstos para cumprir um objetivo, um problema conhecido como alinhamento de IA.
melhorestech.com