A criança de oito anos começou assistindo vídeos de Minecraft no YouTube. O algoritmo, que observa quanto tempo ela passa em cada vídeo, começou a sugerir vídeos mais intensos, mais ação, mais barulho, mais drama. Em alguns dias, ela estava assistindo vídeos de youtubers gritando, depois vídeos de disputas e conflitos entre criadores, depois conteúdo que ela mesma não sabia bem o que era. Tudo dentro do YouTube. Tudo recomendado.
A mãe não sabia o que ela estava assistindo. Achava que era Minecraft.
Esse percurso, de conteúdo inócuo para conteúdo problemático via recomendações automáticas, tem um nome no vocabulário de pesquisadores de tecnologia: rabbit hole. E acontece porque os algoritmos de recomendação das grandes plataformas não foram projetados para proteger crianças. Foram projetados para maximizar o tempo de visualização. E esses dois objetivos frequentemente entram em conflito.
Este artigo explica como os algoritmos de recomendação funcionam, por que são especialmente problemáticos para crianças, quais são os riscos documentados e o que famílias, educadores e organizações sociais podem fazer.
O que é um algoritmo de recomendação
Um algoritmo de recomendação é um sistema computacional que analisa dados de comportamento, o que você assistiu, por quanto tempo, o que pausou, o que pulou, o que voltou a assistir, e usa esses dados para prever o que você vai querer ver a seguir. O objetivo explícito é manter o usuário na plataforma o maior tempo possível.
Esses sistemas são extremamente sofisticados: aprendem rápido, personalizam em tempo real e ficam melhores à medida que têm mais dados. Um algoritmo do YouTube sabe, com altíssima precisão, qual vídeo vai fazer você continuar no site por mais trinta segundos e usa esse conhecimento repetidamente, a cada decisão de autoplay.
Para adultos, essa sofisticação já levanta questões sérias sobre autonomia e sobre câmaras de eco. Para crianças, que têm capacidade crítica em desenvolvimento, que têm vulnerabilidade emocional específica e que frequentemente estão sozinhas com a tela, o problema é de outra escala.
Um algoritmo de recomendação não tem agenda moral. Não decide que quer prejudicar uma criança. Decide, milhares de vezes por segundo, o que vai fazer ela continuar assistindo. E conteúdo que gera emoções intensas (medo, excitação, choque) frequentemente vence essa disputa. Não porque é bom para a criança. Porque é bom para a métrica.
Por que maximizar engajamento e proteger crianças conflitam
A lógica dos algoritmos de recomendação é simples: o conteúdo que mantém o usuário mais tempo na plataforma é servido com mais frequência. E o conteúdo que mantém usuários mais tempo é, frequentemente, o que gera emoções intensas: surpresa, raiva, choque, medo, excitação. Conteúdo moderado, educativo ou tranquilo compete em desvantagem.
Para crianças, isso cria um vetor de problema específico: o algoritmo aprende que vídeos com gritos, drama e conflito mantêm mais atenção do que vídeos calmos. Aprende que conteúdo que evoca insegurança (“você não é suficientemente bonita”, “seus pais não entendem você”) retém mais do que conteúdo afirmativo. Aprende, para adolescentes com tendência à ansiedade, que conteúdo sobre saúde mental perturbador retém mais do que conteúdo sobre bem-estar.
E serve esse conteúdo, não por malícia, mas por otimização de métrica. O dano a crianças é um efeito colateral de um sistema que não foi projetado pensando nelas.
Como diferentes plataformas funcionam para crianças
A tabela abaixo organiza as principais plataformas que crianças brasileiras usam, como seus algoritmos funcionam e os riscos específicos para crianças:
| Plataforma | Como o algoritmo funciona | Riscos específicos para crianças |
| YouTube / YouTube Kids | Maximiza tempo de visualização via autoplay e recomendações baseadas em histórico | Conteúdo inadequado que passa por filtros; criadores que exploram palavras-chave infantis para atrair cliques; rabbit holes de conteúdo extremo |
| TikTok / Reels | Aprende preferências muito rapidamente via tempo de visualização; serve conteúdo de alta performance | Aceleração rápida para conteúdo de dieta extrema, automutilação ou violência quando algoritmo detecta interesse; câmara de eco de inseguranças |
| Prioriza conteúdo que gera engajamento; mostra comparações sociais | Exposição a padrões de corpo irreais; comparação social intensa; filtros de beleza que distorcem autoimagem | |
| Jogos com recomendação | Sugere conteúdo e itens que maximizam compras e tempo jogado | Compras dentro do jogo (loot boxes); pressão de FOMO social; progressão que cria dependência |
| Google / buscadores | Serve resultados mais relevantes e clicados; não filtra por faixa etária automaticamente | Acesso fácil a conteúdo adulto via busca inocente; desinformação que parece oficial |
Uma observação importante: todas essas plataformas têm sistemas de controle parental e filtros de conteúdo. Na prática, esses filtros são imperfeitos, frequentemente desatualizados e facilmente contornados por crianças mais velhas. A presença de controles não substitui o entendimento de como os algoritmos funcionam.
Os riscos documentados
Câmaras de eco e radicalização
Quando o algoritmo observa que um usuário consome determinado tipo de conteúdo, começa a servir cada vez mais daquele tipo, criando uma câmara de eco em que a perspectiva é repetida e amplificada sem contraponto. Para crianças e adolescentes em processo de formação de identidade e de visão de mundo, essa uniformidade de perspectiva pode ter efeito formativo significativo.
Pesquisadores documentaram trajetórias de radicalização ideológica via recomendações de conteúdo moderado para conteúdo extremista via sugestões automáticas. Embora a maioria das crianças não siga essa trajetória, a estrutura do algoritmo a torna possível para qualquer usuário.
Conteúdo prejudicial disfarçado
Criadores que querem alcançar públicos infantis aprendem a usar palavras-chave e elementos visuais que os algoritmos associam a conteúdo infantil (títulos com personagens conhecidos, miniaturas coloridas) para atrair cliques de crianças para conteúdo que não é adequado para elas. O fenômeno ficou conhecido como “Elsagate” quando foi documentado no YouTube em 2017, mas continua acontecendo em formas mais sofisticadas.
Espiral de insegurança e conteúdo de dieta/corpo
Para adolescentes, especialmente meninas, o algoritmo pode criar espirais de conteúdo sobre corpo e dieta que amplificam inseguranças. Uma busca inocente sobre alimentação saudável pode levar, via recomendações progressivas, a conteúdo sobre restrição extrema, que leva a conteúdo de comunidades de transtorno alimentar. Pesquisadores da Universidade de Vermont documentaram essa trajetória no TikTok e no Instagram.
Exploração comercial via jogos
Jogos com recomendações internas promovem compras de itens virtuais (loot boxes, skins, personagens) de forma que usa os mesmos mecanismos dos algoritmos de recomendação: apresenta o item no momento em que a criança está mais engajada, usa escassez artificial e pressão de grupo para criar urgência. Crianças têm menor capacidade de resistir a essas técnicas do que adultos.
A criança invisível para o algoritmo
Há um problema estrutural específico para crianças: os algoritmos de recomendação não sabem que estão servindo conteúdo para uma criança. Quando uma criança usa a conta dos pais (prática comum), o algoritmo não tem como saber que o usuário tem oito anos. Quando usa a própria conta, muitas plataformas não verificam a idade declarada de forma eficaz.
Isso significa que crianças frequentemente recebem recomendações calibradas para adultos, seja porque estão usando conta de adulto, seja porque o algoritmo não tem restrição de faixa etária bem implementada. A personalização que o algoritmo faz é, para crianças, uma personalização inadequada por definição.
O que a regulação está fazendo
O debate regulatório sobre algoritmos e crianças está em aceleração no Brasil e no mundo:
- No Brasil, a Lei 14.811/2024 (conhecida como Lei das Redes Sociais ou Lei do Menino Miguel) estabelece responsabilidades das plataformas em relação ao conteúdo servido a crianças e adolescentes e obriga as plataformas a criar mecanismos específicos de proteção
- O Marco Civil da Internet e a LGPD já estabelecem proteções gerais, mas a implementação específica para crianças avança lentamente
- Na Europa, o Digital Services Act (DSA) proíbe sistemas de recomendação baseados em perfilamento para menores
- Nos Estados Unidos, o Children’s Online Privacy Protection Act (COPPA) regula coleta de dados de menores, mas sua aplicação a algoritmos de recomendação é objeto de debate
A regulação avança, mas mais lentamente do que a tecnologia. Para famílias e educadores, isso significa que não é possível depender apenas de obrigações legais das plataformas para proteger crianças hoje.
O que famílias e educadores podem fazer: letramento algorítmico
A resposta mais eficaz e mais duradoura é o letramento algorítmico, ensinar crianças e adolescentes a entender como os algoritmos funcionam, o que fazem com sua atenção e como exercer algum controle sobre o que consomem.
Para crianças mais novas (até 10 anos)
- Mediação ativa: assistir junto e conversar sobre o que está sendo visto
- Usar listas de reprodução em vez de autoplay, que interrompe o ciclo de recomendação
- Preferir plataformas com curadoria humana em vez de algorítmica para essa faixa etária
- Limitar o uso a horários em que um adulto pode estar próximo
Para adolescentes
Com adolescentes, a abordagem mais eficaz é a conversa sobre como o algoritmo funciona, que transfere ao jovem a capacidade de ser crítico em relação ao que está consumindo.
Como falar com adolescentes sobre algoritmos
- ‘Você sabe que o TikTok sabe que você assistiu esse vídeo até o fim? E usa isso para decidir o próximo?’
- ‘Por que você acha que esse vídeo apareceu para você? O que o algoritmo aprendeu sobre você para sugerir isso?’
- ‘Você já percebeu quando está assistindo algo que não queria mais assistir mas continuou? O que aconteceu?’
- ‘Como você acha que seria diferente se você tivesse escolhido manualmente o que assistir hoje?’
O que adultos podem fazer para reduzir a exposição problemática ao algoritmo
- Desativar o autoplay nas plataformas que permitem, é uma das mudanças de maior impacto
- Limpar o histórico de visualização periodicamente, que reseta parte do perfil do algoritmo
- Criar contas separadas para crianças nas plataformas que permitem, com filtros de conteúdo ativados
- Usar plataformas com curadoria editorial para crianças menores, em vez de plataformas algorítmicas
- Assistir junto com regularidade, para perceber para onde as recomendações estão indo
O que educadores e OSCs podem incluir em atividades de letramento digital
- Mostrar como o autoplay funciona e o que acontece se você deixa rodar por 20 minutos a partir de um vídeo específico
- Pedir que crianças descrevam o que o algoritmo ‘acha’ que elas gostam e se concordam
- Discutir a diferença entre o que você escolheu assistir e o que o algoritmo decidiu que você ia assistir
- Explorar como criadores aprendem a ‘enganar’ o algoritmo com títulos e miniaturas, letramento sobre clickbait
- Conectar com privacidade: o algoritmo funciona com dados. Quais dados você está dando sem perceber?
Conclusão
Algoritmos de recomendação são uma das forças mais influentes na formação de crianças e adolescentes hoje, mais influentes, em muitos casos, do que professores, pais e amigos, em termos de horas de exposição e de intensidade de influência. E operam de forma invisível para a maioria das pessoas que os usam.
Torná-los visíveis, para crianças, para adolescentes, para pais e para educadores, é o primeiro passo para que a relação com a tecnologia seja mais consciente e mais agentiva. Não para criar medo das telas, mas para criar cidadãos digitais que entendem o ambiente em que vivem e têm ferramentas para navegar nele com mais autonomia.
Para a Associação Querubins, que trabalha com crianças em contextos onde o celular é frequentemente o principal recurso de entretenimento e de conexão e onde a mediação adulta é mais escassa, o letramento algorítmico é parte essencial da educação para o século em que essas crianças vão viver. Não saber como o algoritmo funciona, no mundo atual, é como não saber ler: uma vulnerabilidade que tem consequências reais.
