Aplicativos de inteligência artificial que simulam amizade, companheirismo ou namoro entraram no radar do governo federal por causa do uso por crianças e adolescentes. Uma nota técnica sobre esses serviços foi publicada na terça-feira (22) pelo Ministério da Justiça e Segurança Pública (MJSP). O documento foi elaborado pela Secretaria Nacional de Direitos Digitais (Sedigi) e encaminhado à Autoridade Nacional de Proteção de Dados (ANPD), que fiscaliza o cumprimento do ECA Digital.
Doze apps na lista
A análise foi coordenada pelo professor George Augusto Valença Santos, da Universidade Federal Rural de Pernambuco (UFRPE), e examinou doze plataformas: Anima, Candy.ai, Chai, Character.AI, Crushon.ai, Eva AI, Kindroid, Nomi, Paradot, Replika, Swipey e Talkie.
O diagnóstico é que produtos desenhados para criar vínculo afetivo representam risco maior para quem ainda está em formação, porque crianças e adolescentes têm mais dificuldade de separar uma relação simulada de uma real. Entre os problemas listados estão apego excessivo, uso compulsivo, substituição de amizades de verdade e contato com conteúdo sexualizado. Os efeitos práticos também aparecem no documento: noites mal dormidas, queda no rendimento escolar, abandono de atividades e afastamento da convivência presencial.
Sem checagem de idade e com foco em vender
Duas falhas técnicas pesam no relatório. A primeira é que nenhum desses serviços oferece um mecanismo confiável de verificação de idade. A segunda é o perfilamento de dados: as conversas podem alimentar anúncios direcionados e estratégias para convencer o usuário a pagar por recursos extras — algo sensível quando o interlocutor é menor de idade.
O Character.AI, um dos nomes da lista, já responde a processos nos Estados Unidos ligados a casos de jovens em sofrimento psíquico que usavam o serviço intensamente.
O que acontece agora
A nota não proíbe nada. Ela é um mapeamento preliminar que vai servir de base para um guia em elaboração pela Sedigi e entrega à ANPD e à Secretaria Nacional do Consumidor (Senacon) material para abrir apurações formais, se entenderem que há irregularidade. É o mesmo caminho que o governo vem seguindo com lojas de aplicativos e redes sociais desde a entrada em vigor do ECA Digital, como no caso das mudanças na Google Play.
Por que importa
Chatbots de companhia são um dos usos de IA que mais crescem entre adolescentes, e diferente de uma rede social, a conversa acontece em privado e é moldada para agradar. Para pais e responsáveis, a lista do governo funciona como um alerta prático do que observar no celular dos filhos; para as empresas, é sinal de que exigências de verificação de idade devem chegar em breve ao Brasil.
As imagens deste post são ilustrações conceituais geradas por IA.
