Um teste do Tech Transparency Project (TTP), grupo americano que monitora grandes empresas de tecnologia, mostrou que contas de adolescentes de 13 anos conseguiram baixar 135 aplicativos de nudez gerada por IA na App Store e na Google Play nos Estados Unidos. Parte deles foi instalada até em perfis com controle parental ligado. O relatório saiu na segunda-feira (19), e Apple e Google tiraram parte dos apps do ar depois de receber os resultados.
Como foi o teste
Os pesquisadores criaram quatro perfis fictícios, dois em cada loja, todos com 13 anos. Em cada plataforma, um perfil tinha controle parental ativo e o outro não. Os apps encontrados prometiam tirar a roupa de mulheres em fotos, por completo ou em parte, trocar a roupa por biquíni ou lingerie, ou colar rostos em corpos nus. Para não envolver ninguém de verdade, o TTP usou só imagens de mulheres criadas por IA. O estudo não prova que crianças usaram esses programas. Prova que nada as impedia.
Somados, os 135 apps têm cerca de US$ 3,9 bilhões em faturamento e 5,5 bilhões de instalações no mundo, segundo estimativa da AppMagic usada pelo TTP. Esses números valem para a base inteira de usuários, não apenas para menores.
Onde o filtro falhou
O problema central é a classificação indicativa. Nas duas lojas, quem informa a faixa etária é o próprio desenvolvedor, e o TTP achou apps desse tipo marcados como adequados para 4 ou 9 anos. Num deles, liberado a partir de 9 anos, a tela inicial já mostrava uma mulher de topless e uma função para despir digitalmente qualquer pessoa. Com o controle parental ligado, os pesquisadores, no papel dos pais, aprovaram a instalação de 24 apps na conta Apple e 51 na conta Google. Aprovaram porque a loja apresentava cada um como compatível com a idade configurada.
Nas contas sem controle, bastou confirmar ter 17 anos ou mais num aviso da App Store para liberar conteúdo adulto. Assinaturas foram pagas com cartão-presente sem que nenhum responsável recebesse alerta; a Apple disse que vai investigar, e o Google não comentou esse ponto. Buscas por termos explícitos estavam bloqueadas, mas pesquisas genéricas como edição de fotos e troca de rosto levavam aos mesmos apps. As contas de teste ainda receberam anúncios deles: 13 do lado da Apple e 5 do lado do Google.
O TTP testou só as lojas americanas, e não há levantamento equivalente feito no Brasil. Mesmo assim, o resultado diz algo a quem configura o celular de um filho aqui: o controle parental aprova o que o desenvolvedor declarou, não o que o app faz. Se o seu filho pede para instalar um editor de fotos ou de rosto desconhecido, abrir o app antes de autorizar é mais seguro que confiar na etiqueta de idade.
O que Apple e Google fizeram
Até 28 de setembro, a Apple havia removido 25 programas e o Google, 6. Quem já tinha instalado continuou usando, porque os apps retirados seguiam funcionando nos aparelhos. Em 16 de outubro, três dias depois de ser procurada pelo TTP, a Apple mudou as regras para desenvolvedores: agora veta de forma explícita apps que geram ou espalham nudes falsos sem consentimento e apps que escondem recursos na revisão para ativá-los depois.
Ao jornal The Guardian, o porta-voz da Apple, Adam Dema, disse que parte da lista do TTP é formada por editores de foto e vídeo comuns, sem função de nudez, e que a loja já proíbe apps desse tipo. Dan Jackson, porta-voz do Google, afirmou que a empresa suspendeu os apps infratores e restringiu termos de busca. Nenhuma das duas informou se revisou a classificação etária dos programas apontados.
