As duas maiores lojas de aplicativos do mundo foram formalmente cobradas a agir contra um tipo de serviço que virou praga na era da IA generativa. O procurador municipal de San Francisco, David Chiu, notificou Apple e Google exigindo a remoção imediata de 13 aplicativos que criam imagens sexualizadas de pessoas reais sem consentimento — os chamados apps de “nudificação”. São 8 na App Store e 5 no Google Play.
A resposta veio desigual. O Google afirmou já ter derrubado “centenas” de aplicativos do gênero por violação das políticas da plataforma e confirmou a retirada dos cinco citados na notificação. A Apple, até a publicação, não havia se manifestado. Na declaração que acompanha a intimação, Chiu foi direto ao ponto: gerar imagens íntimas sem consentimento é, segundo ele, ilegal, prejudicial e completamente inaceitável.
O caso expõe uma falha estrutural que vai além desses 13 nomes. Ferramentas de nudificação raramente se apresentam pelo que são: chegam às lojas disfarçadas de editores de foto, aplicativos de “troca de rosto” ou filtros de beleza, e só revelam a função real depois da instalação ou por meio de compras dentro do app. Como a moderação das lojas depende bastante de denúncia e de varredura automatizada, cada remoção costuma ser seguida por uma nova leva de clones com outro nome.
Para o leitor brasileiro, o assunto está longe de ser distante. O país já criminalizou a divulgação de imagens íntimas sem consentimento e, desde a atualização do Estatuto da Criança e do Adolescente, também trata a produção de material sexualizado gerado por IA envolvendo menores como crime. Na prática, usar um desses aplicativos contra alguém aqui pode configurar delito — e a discussão sobre a responsabilidade das lojas que hospedam essas ferramentas, ainda em aberto no Brasil e nos EUA, é o próximo capítulo que vale acompanhar. Neste caso, uma pressão local em San Francisco valeu mais do que anos de política de conteúdo mal aplicada.
