Nota ao leitor
Este artigo aborda formas de abuso e exploração de crianças mediadas por tecnologia. O objetivo é informar pais, educadores e profissionais que trabalham com crianças para que possam protegê-las. Se você suspeita que uma criança está sendo vítima de qualquer forma de abuso digital, acione o Disque 100 (gratuito, 24h) ou o Conselho Tutelar do território.
Uma mãe em São Paulo recebeu uma mensagem no WhatsApp com uma imagem que parecia ser sua filha de treze anos em situação sexual. A imagem era completamente falsa, gerada por inteligência artificial a partir de fotos inocentes que a menina postava no Instagram. O remetente exigia dinheiro para não divulgar o material para os colegas da escola.
Esse caso, que poderia parecer ficção científica há cinco anos, é hoje uma realidade documentada em países do mundo inteiro, inclusive no Brasil. A tecnologia de deepfake, que usa inteligência artificial para criar imagens e vídeos falsos hiperrealistas de pessoas reais, chegou ao alcance de qualquer smartphone com conexão à internet. E uma de suas aplicações mais perturbadoras é a criação de material falso envolvendo crianças e adolescentes.
Este artigo não é para criar pânico. É para informar: o que são deepfakes, como funcionam, de que formas podem ser usados contra crianças, o que diz a legislação brasileira e o que pais, educadores e organizações sociais podem fazer para proteger os jovens que acompanham.
O que são deepfakes: desmistificando a tecnologia
Deepfake é um termo que combina “deep learning” (aprendizado profundo, um tipo de IA) e “fake” (falso). Refere-se a conteúdo de vídeo, imagem ou áudio gerado ou manipulado por inteligência artificial de forma tão realista que é difícil distinguir do conteúdo genuíno.
A tecnologia existe há anos em contextos legítimos: efeitos especiais em filmes, dublagem automatizada, restauração de imagens históricas. O problema é que ferramentas cada vez mais acessíveis, algumas disponíveis como aplicativos gratuitos, democratizaram a capacidade de criar conteúdo falso convincente sem nenhum conhecimento técnico especializado. O que antes exigia estúdios de efeitos especiais e semanas de trabalho pode hoje ser feito em minutos num celular.
Deepfake não é mais um problema de laboratório ou de filmes de Hollywood. É um problema de qualquer escola, de qualquer família, de qualquer criança que tem presença online, que é quase todas.
Por que crianças são especialmente vulneráveis
Crianças e adolescentes são especialmente vulneráveis aos riscos dos deepfakes por razões que se somam. Primeiro, têm presença digital extensa: fotos em redes sociais, vídeos no TikTok, lives, histórias, um arquivo de imagens acessível publicamente que pode ser usado como matéria-prima para criação de conteúdo falso.
Segundo, têm menor capacidade de avaliar riscos e consequências: o adolescente que posta uma foto na praia não está pensando em como essa imagem poderia ser manipulada. O sistema de pensamento que avalia consequências futuras e riscos abstratos, o córtex pré-frontal, ainda está em desenvolvimento.
Terceiro, a vergonha e o medo de não ser acreditado funcionam como ferramentas de controle: crianças que se tornam vítimas de deepfakes muitas vezes ficam em silêncio porque têm medo de que os adultos não entendam, que a culpa recaia sobre elas por terem postado as imagens, ou que a situação piore se contarem.
Como deepfakes são usados contra menores
Os usos maliciosos de deepfakes contra crianças e adolescentes são variados e a tabela abaixo organiza os principais, com explicação de como acontecem e qual é o impacto sobre as vítimas:
| Tipo de uso malicioso | Como acontece | Impacto sobre a criança |
| Material de abuso sexual infantil sintético (CSAM) | Criação de imagens sexuais de crianças reais a partir de fotos inocentes publicadas online | Violação grave do direito à imagem e à dignidade; material que circula em redes criminosas |
| Sextorsão | Perpetrador cria deepfakes sexuais da vítima para extorquir dinheiro, mais imagens ou encontros | Trauma intenso, vergonha, isolamento; casos documentados de suicídio |
| Bullying e humilhação digital | Colegas criam vídeos ou imagens alteradas da vítima para humilhar publicamente | Danos severos à autoestima, depressão, recusa em frequentar escola |
| Grooming sofisticado | Predadores usam IA para criar personas falsas convincentes e estabelecer confiança com crianças | Vulnerabilidade ao abuso sexual; dificuldade de identificar o engano |
| Falsificação de evidências | Criação de vídeos falsos para prejudicar reputação de crianças ou famílias | Danos legais e reputacionais; dificuldade de provar que o conteúdo é falso |
Material de abuso sexual infantil sintético: um crime em expansão
O uso de inteligência artificial para criar imagens sexuais de crianças a partir de fotos inocentes, o chamado CSAM sintético (Child Sexual Abuse Material), é um dos crimes digitais de crescimento mais rápido no mundo. Organizações internacionais de combate à exploração sexual infantil, como a Internet Watch Foundation (IWF), reportam aumento expressivo no volume desse tipo de material nas redes de compartilhamento clandestinas.
O material sintético não envolve uma criança real sendo fotografada ou filmada em situação de abuso, mas isso não o torna menos criminoso nem menos danoso. Ele viola o direito à imagem e à dignidade das crianças cujas fotos são usadas como base, alimenta redes de exploração sexual e normaliza a sexualização de crianças.
No Brasil, a legislação é clara: a criação, posse e distribuição de material que representa sexualmente crianças e adolescentes, independentemente de ser gerado por IA ou não, é crime grave, previsto no Estatuto da Criança e do Adolescente (ECA, arts. 241-A ao 241-E), com penas que podem chegar a oito anos de reclusão.
Sextorsão com deepfakes: o que é e como funciona
Sextorsão é o crime em que um perpetrador usa imagens ou ameaças sexuais para extorquir uma vítima. Na versão com deepfakes, o perpetrador cria imagens ou vídeos falsos sexualizando a vítima, sem que ela jamais tenha participado da criação de qualquer conteúdo sexual, e ameaça divulgar esse material se a vítima não pagar dinheiro, enviar imagens reais, ou atender a outras demandas.
Casos de sextorsão com deepfakes afetando adolescentes estão sendo documentados em crescimento acelerado em vários países. O impacto psicológico sobre as vítimas é devastador: vergonha intensa, medo, isolamento, e, em casos documentados, comportamento suicida. A sensação de impotência, de que qualquer imagem pode ser transformada em algo que não aconteceu, é especialmente perturbadora.
Sinais de que uma criança pode estar sendo vítima de sextorsão ou deepfake
- Comportamento repentinamente retraído, ansioso ou deprimido sem causa aparente
- Uso obsessivo do celular ou, ao contrário, recusa súbita em usar qualquer dispositivo
- Deleteção de perfis nas redes sociais ou mudança para configurações totalmente privadas de forma abrupta
- Recusa em ir à escola ou em encontrar amigos
- Falas sobre querer desaparecer, sobre vergonha intensa ou sobre não querer mais existir
- Solicitação de dinheiro a adultos sem explicação convincente, pode indicar extorsão
O que diz a legislação brasileira
O Brasil tem legislação específica sobre crimes digitais contra crianças que se aplica, ou pode ser aplicada, ao contexto de deepfakes:
- ECA, arts. 241-A ao 241-E: criminalizam a criação, posse e distribuição de material sexual envolvendo menores, inclusive material gerado por IA
- Lei nº 14.811/2024 (Lei Henry Borel): amplia proteções para crianças vítimas de violência, incluindo no ambiente digital
- Lei nº 12.965/2014 (Marco Civil da Internet): obriga plataformas a remover conteúdo mediante ordem judicial e, em casos de nudez não consentida, mediante notificação da vítima
- Lei nº 13.718/2018: criminaliza a divulgação de cenas de sexo, nudez ou pornografia sem consentimento, aplicável a deepfakes sexuais
- Código Penal, art. 218-C: criminaliza o compartilhamento de material íntimo sem consentimento
Para denúncias de material sexual envolvendo crianças na internet, a SaferNet Brasil (www.safernet.org.br) oferece uma central de denúncias anônimas integrada à Polícia Federal. O Disque 100 também recebe denúncias desse tipo.
Como identificar um deepfake
A qualidade dos deepfakes tem melhorado rapidamente, tornando a identificação cada vez mais difícil. Ainda assim, há pistas que podem ajudar, especialmente em materiais de menor qualidade técnica.
Pistas para identificar um deepfake
- Piscadas de olho anormais: frequência irregular ou ausência de piscadas (modelos mais antigos têm dificuldade com esse detalhe)
- Bordas imprecisas: contorno do rosto ou do cabelo com aspecto borrado, especialmente em movimento
- Iluminação inconsistente: o rosto parece ter uma fonte de luz diferente do fundo da imagem
- Expressões faciais rígidas: dificuldade dos modelos em replicar emoções sutis e naturais
- Sincronização labial imperfeita: lábios que não acompanham perfeitamente o áudio
- Detalhes físicos inconsistentes: dentes, cabelos ou sobrancelhas com aparência artificial em close
- Metadados: verificar a origem do arquivo, data de criação e câmera registrada (se houver) pode revelar inconsistências
Ferramentas de detecção de deepfakes também estão sendo desenvolvidas por empresas de tecnologia e universidades — mas a corrida entre criação e detecção é constante. A melhor proteção não é a capacidade de detectar tecnicamente: é a cultura crítica sobre conteúdo digital.
Como proteger crianças e adolescentes
A proteção contra deepfakes tem dois eixos principais: reduzir a exposição (limitar o material que pode ser usado como base) e fortalecer a capacidade de resposta (garantir que crianças saibam o que fazer se algo acontecer).
Reduzir a exposição digital
Não é possível, nem desejável, eliminar completamente a presença online de crianças e adolescentes. Mas é possível e recomendável limitar a quantidade de imagens de alta qualidade disponíveis publicamente:
Práticas que reduzem a vulnerabilidade a deepfakes
- Manter perfis privados, apenas seguidores aprovados têm acesso às fotos e vídeos
- Evitar postar fotos de alta resolução e em múltiplos ângulos, que oferecem mais material para algoritmos de geração de imagem
- Não marcar localização em fotos em tempo real
- Revisar quem tem acesso às fotos de crianças postadas por adultos, parentes que compartilham publicamente ampliam o alcance
- Conversar com crianças sobre pegada digital permanente, o que é postado hoje pode ser encontrado e usado muito depois
- Fortalecer a capacidade de resposta
Mais importante do que tentar controlar o que já está online é garantir que a criança saiba que pode contar ao adulto de referência se algo acontecer, sem medo de culpa, punição ou julgamento.
O que dizer às crianças e adolescentes sobre deepfakes
- “Se alguém te mandar uma imagem sua que você sabe que é falsa, ou que não se lembra de ter feito, conte para mim imediatamente”
- “Você nunca será culpado(a) por uma imagem falsa criada por outra pessoa”
- “Se alguém te ameaçar com imagens, falsas ou reais, não pague, não envie mais imagens. Conte para um adulto de confiança”
- “Deepfakes são crimes. Quem cria e quem distribui pode ser preso”
- “Nada do que aparece numa imagem ou vídeo é necessariamente verdade, qualquer coisa pode ser fabricada”
O que fazer se uma criança for vítima
Passos imediatos quando uma criança é vítima de deepfake
- Não deletar nada ainda, preservar todas as evidências: screenshots, conversas, links
- Não ceder a ameaças: pagar ou enviar mais material raramente encerra a extorsão, em geral aumenta as exigências
- Comunicar à plataforma onde o conteúdo está circulando, usando os mecanismos de denúncia de conteúdo
- Registrar boletim de ocorrência na delegacia mais próxima ou na Delegacia de Crimes Cibernéticos
- Denunciar à SaferNet Brasil (safernet.org.br): central de denúncias integrada à Polícia Federal
- Ligar para o Disque 100, que encaminha para os órgãos de proteção competentes
- Buscar apoio psicológico para a criança, o impacto emocional é sério e precisa de acompanhamento
Conclusão
Os deepfakes são uma das expressões mais perturbadoras de como tecnologias poderosas, quando usadas com intenção maliciosa, podem causar danos reais a pessoas reais, especialmente a crianças, que têm menos recursos para se defender e cujas imagens circulam online com maior descuido.
A resposta a esse desafio não é o pânico, nem a proibição de toda presença digital das crianças. É a combinação de medidas práticas de redução de exposição, de educação digital crítica, de legislação efetiva e, fundamentalmente, de relações de confiança onde crianças e adolescentes saibam que podem contar a um adulto o que está acontecendo, sem medo de serem culpados pelo que outra pessoa fez com a imagem deles.
Porque a proteção de crianças no ambiente digital, como em qualquer outro ambiente, começa com o adulto presente: atento, informado, disponível e seguro o suficiente para ouvir o que é difícil de contar.
