A OpenAI anunciou na segunda-feira (16) um pacote de medidas de segurança infantil com alcance global. A peça principal é um classificador de imagens treinado para reconhecer material de abuso sexual infantil, o CSAM na sigla em inglês. A empresa vai liberá-lo sem custo, via API, para organizações que passarem por sua verificação. Junto com ele vieram regras mais duras para o gerador de imagens do ChatGPT e um guia para desenvolvedores escrito em conjunto com Google e Anthropic.
Como o classificador funciona
A ferramenta foi desenvolvida com o National Center for Missing and Exploited Children (NCMEC), entidade americana que recebe denúncias desse tipo de conteúdo. Ela analisa sinais visuais da imagem e devolve uma pontuação de risco, usada na triagem feita por moderadores humanos. A decisão final continua com uma pessoa. O sistema também se integra a iniciativas da Tech Coalition, da ROOST e da Thorn, grupos que já mantêm bases e ferramentas de detecção para o setor.

Os números divulgados pela própria OpenAI comparam o novo modelo com as ferramentas anteriores da empresa: 48% menos imagens sinalizadas por engano e o dobro de precisão na identificação de material abusivo nos testes internos. Menos falso positivo significa fila menor para revisar, e a exposição repetida a esse conteúdo é desgastante para quem faz o trabalho. Até agora, os dados não passaram por auditoria independente.
O que mais diferencia o classificador é um sinalizador específico para imagens geradas por IA. Segundo a empresa, ele é o primeiro do tipo e reconhece material criado por diferentes geradores, inclusive modelos de código aberto que rodam fora do controle de qualquer plataforma. Esse é o buraco que as bases tradicionais não cobrem. Elas comparam arquivos com imagens já catalogadas, e uma imagem sintética nova não está em catálogo nenhum.
O que muda no ChatGPT
Quem tentar gerar imagens abusivas no ChatGPT vai receber um aviso com orientação de especialistas sobre onde buscar ajuda. Na primeira tentativa, a conta fica suspensa por 24 horas. Reincidências podem levar a suspensões mais longas, banimento do perfil e denúncia às autoridades. A OpenAI também promete ferramentas e treinamento para unidades policiais dedicadas à proteção de crianças, sem detalhar em quais países.
E no Brasil
Aqui, produzir, armazenar ou compartilhar esse material é crime previsto no Estatuto da Criança e do Adolescente, e o ECA Digital, sancionado em 2025, passou a cobrar das plataformas mecanismos de proteção a menores. Um classificador gratuito baixa a barreira para empresas e ONGs menores, que não teriam orçamento para treinar um modelo próprio. A OpenAI não informou se organizações brasileiras já estão entre as aprovadas nem quais critérios usa na verificação.
O guia para desenvolvedores, com orientações para prevenir, detectar e agir diante desse conteúdo, já foi publicado. O acesso ao classificador depende de aprovação da OpenAI, que não divulgou prazo para a análise dos pedidos.
