O número de crianças e adolescentes vítimas de crimes digitais cresceu 78% durante o período das últimas férias escolares, saindo de 89 para 158, conforme dados coletados pelo NOAD (Núcleo de Observação e Análise Digital), da Polícia Civil de São Paulo.
No mesmo intervalo, os casos de zoosadismo, prática de violência contra animais incentivada em ambientes digitais, cresceram de cinco para 15 registros. O número representa uma alta de 200%.
Para os especialistas, o contato prolongado com ambientes virtuais, sem acompanhamento dos pais ou responsáveis, pode facilitar a exposição de menores a conteúdos nocivos, discursos de ódio e até comunidades que incentivam práticas criminosas.
Plataformas utilizadas para a disseminação desse tipo de conteúdo, como o Discord, estão na mira de investigações da Polícia Civil de São Paulo e de autoridades nacionais.
O perigo dos algoritmos e os conteúdos violentos
Segundo a polícia, adolescentes podem ser expostos gradualmente a conteúdos cada vez mais violentos por meio dos próprios algoritmos das plataformas digitais.
O processo, muitas vezes comum, começa com materiais que são, à primeira vista, inofensivos. No entanto, à medida que o usuário mostra interesse, as recomendações passam a incluir conteúdos mais extremistas, com incentivo ao discurso de ódio e à violência.
“A misoginia hoje é um dos principais indicadores de alerta para nós. O adolescente vai sendo dessensibilizado e passa a consumir conteúdos cada vez mais violentos. Por isso, é fundamental que os pais se interessem pelo que os filhos assistem e conversem sobre esses temas sem julgamentos”, diz a coordenador do NOAD, Lisandrea Salvariego.
De acordo com a Polícia Civil, muitas vezes, os próprios autores desses crimes também são adolescentes.
“A grande maioria são meninos considerados tranquilos, que não costumam dar trabalho para a família. Justamente por isso, o isolamento social e a mudança de comportamento são sinais que não podem ser ignorados”, apontam as equipes do NOAD.
Casos no Discord
A plataforma Discord está no centro de uma ofensiva regulatória e policial no Brasil devido à falhas graves na proteção de menores. Autoridades e especialistas apontam que a rede social tem sido usada para a transmissão ao vivo de crimes bárbaros, como indução à automutilação, suicídio e estupros virtuais.
Em entrevista à CNN Brasil, a delegada Lisandrea Salvariego, coordenadora do NOAD (Núcleo de Observação e Análise Digital) da Polícia Civil de São Paulo, detalhou como a estrutura da plataforma favorece criminosos.
Segundo ela, o aliciamento de crianças e adolescentes ocorre inicialmente em jogos online, vistos pelos pais como inofensivos. Posteriormente, as vítimas são levadas para o Discord, onde os crimes são executados e transmitidos.
O Discord é uma plataforma que facilita a transmissão do crime
Lisandrea Salvariego, coordenadora do Núcleo de Observação e Análise Digital da Polícia Civil de São Paulo
A gravidade dos episódios levou a primera-dama, Janja da Silva, a defender publicamente o banimento da plataforma Discord no país. A AGU (Advocacia-Geral da União) e a ANPD (Agência Nacional de Proteção de Dados) também intensificaram a fiscalização. A ANPD apura se a rede falhou em mitigar riscos de exposição de menores a conteúdos de automutilação, podendo aplicar multas de até R$ 50 milhões por infração.
O advogado-geral da União, Jorge Messias, chegou a sinalizar uma ação civil pública para a retirada imediata da plataforma do ar por falta de compromisso com a legislação brasileira.
Após a pressão das autoridades, o Discord reuniu-se com representantes da AGU e sinalizou disposição para reforçar a segurança na rede.
A plataforma se comprometeu a apresentar um plano concreto de medidas para corrigir as falhas identificadas, incluindo melhorias nos mecanismos de verificação etária e prevenção de riscos para usuários menores de idade.
Procurado pela CNN Brasil, o Discord afirmou que fiscaliza e reporta os casos de violência na plataforma. Veja a nota na íntegra:
“O Discord possui uma política consolidada de Segurança para Crianças e Adolescentes que proíbe conteúdos ou condutas que os coloquem em risco ou as sexualizem, incluindo conteúdos ou comunidades que facilitem o aliciamento (grooming). Quando identificamos esse tipo de conteúdo ou comportamento na plataforma, tomamos medidas rápidas, incluindo a remoção de conteúdo e o banimento de contas, e temos reportado proativamente às autoridades brasileiras grupos e indivíduos envolvidos nesse tipo de conduta.”
A plataforma listou ainda medidas de segurança que implementou na rede:
- É exigido que todos os usuários tenham pelo menos 13 anos para utilizar a plataforma;
- O Discord não permite conteúdos ou condutas que coloquem crianças e adolescentes em risco ou os sexualizem e coopera com investigações relacionadas a esse tipo de conduta em conformidade com a legislação;
- O Discord utiliza uma combinação de ferramentas proativas e reativas para identificar e agir contra conteúdos e atividades que violem nossas Diretrizes da Comunidade. Isso inclui tecnologias avançadas, como modelos de machine learning e o PhotoDNA para identificação de imagens, além de mecanismos de denúncia disponíveis na própria plataforma para facilitar a identificação de violações;
- Como parte dos esforços conjuntos da indústria por meio da Tech Coalition, o Discord apoia a iniciativa Lantern, um programa pioneiro de compartilhamento de sinais entre empresas que fortalece a capacidade de detectar tentativas de exploração e abuso sexual de crianças e adolescentes na internet.
- O Discord também é membro fundador da ROOST, iniciativa que desenvolve ferramentas gratuitas e de código aberto para auxiliar na detecção de conteúdos nocivos.
Como proteger as crianças
De acordo com a delegada Lisandrea Salvariego, o principal sinal hoje é o isolamento social aliado à busca excessiva por telas. “Quando o adolescente deixa de conviver com a família, muda bruscamente o comportamento e passa grande parte do tempo sozinho conectado, é importante que os pais fiquem atentos”.
Por conta do cenário, o monitoramento se torna a principal ferramenta no combate à situação dos crimes virtuais. A especialista destaca que “tecnologia se combate com tecnologia” e afirma que hoje existem ferramentas gratuitas de controle parental, além dos próprios recursos oferecidos pelas plataformas digitais.
“Os pais precisam acompanhar o que os filhos consomem na internet e manter essa conexão dentro de casa”, alerta Salvariego.
Os especilaistas também recomendam que pais e responsáveis respeitem a classificação indicativa das plataformas, conversem frequentemente com os filhos sobre o ambiente digital e observem mudanças de comportamento.