As ferramentas de inteligência artificial já fazem parte da rotina escolar de milhões de crianças e adolescentes — e é justamente aí que mora a preocupação. Um estudo da Common Sense Media, organização americana especializada em avaliar tecnologia para o público jovem, classificou as respostas de IA do Google como um “risco inaceitável” para menores. O relatório, divulgado em 14 de julho, reacende um debate que interessa diretamente a pais e escolas: até que ponto dá para confiar nessas respostas automáticas quando quem está do outro lado é uma criança?
Para chegar à conclusão, os pesquisadores configuraram contas simulando usuários de 11 a 15 anos, com o SafeSearch ativado, e analisaram mais de 2.600 buscas e cerca de 2 mil respostas geradas por IA. O primeiro problema apareceu nas tarefas escolares: a ferramenta respondeu praticamente a tudo, mas parte das respostas era, segundo o estudo, “inconsistente ou completamente inventada”. Como boa parte dos estudantes já usa resumos de IA para estudar, o risco de absorver informação errada como se fosse verdade cresce na mesma proporção.
O ponto mais delicado do relatório trata das situações de crise emocional. De acordo com a Common Sense Media, o sistema identificou sinais de sofrimento em uma parcela dos casos bem abaixo do limite considerado aceitável pela organização, e em alguns testes chegou a indicar serviços de apoio que já não existem mais. Para um público em formação, que muitas vezes recorre à internet em momentos de vulnerabilidade, a falha deixa de ser um detalhe técnico e passa a ser uma questão de segurança — o tipo de erro que reforça a importância da supervisão de um adulto.
Procurado, o Google rebateu as conclusões. A empresa afirmou que a metodologia é “ambígua e artificial”, que não reflete como as ferramentas são de fato usadas no dia a dia, e destacou os investimentos em camadas de proteção, como o SafeSearch e mecanismos específicos para contas de menores. O embate expõe uma tensão que vai muito além do Google: a corrida para colocar IA em todo lugar avança mais rápido do que os mecanismos capazes de proteger quem ainda não tem repertório para questionar o que a máquina responde. Para as famílias brasileiras, a lição prática é acompanhar de perto o uso dessas ferramentas e tratar cada resposta automática como ponto de partida, nunca como palavra final.
Se você ou alguém que conhece está passando por um momento difícil, o CVV (Centro de Valorização da Vida) oferece apoio emocional gratuito e sigiloso pelo telefone 188, 24 horas por dia.
