A Agência Nacional de Proteção de Dados (ANPD) concluiu que o sistema automatizado usado pelo Discord falhou ao avaliar um episódio grave envolvendo uma adolescente, de 13 anos e que a empresa não demonstrou ter mecanismos suficientes para identificar e interromper situações de risco envolvendo menores de 18 anos.
A avaliação consta da nota técnica, obtida pelo Metrópoles, que embasou a decisão de suspender as transmissões ao vivo do Discord no Brasil. O documento detalha os motivos que levaram a agência a atingir o recurso “Go Live” e outras ferramentas de compartilhamento de vídeo.
Leia também
Um dos principais pontos da análise é o caso investigado na Operação Lívia. Segundo a ANPD, a adolescente conseguiu entrar na plataforma e realizar uma transmissão ao vivo para mais de 200 usuários.
O caso havia sido citado pela primeira-dama Janja da Silva na semana anterior. Ao participar de um evento sobre violência contra crianças, ela defendeu que a plataforma fosse retirada do ar “imediatamente”. Janja mencionou a investigação sobre uma adolescente que teria sido induzida por um grupo de adolescentes a tirar a própria vida durante uma transmissão.
O documento afirma que um “fato gravíssimo recebeu uma sinalização de risco erroneamente baixa” e atribui o resultado à forma como o sistema automatizado foi configurado. Em sua conclusão, a área técnica classifica o episódio como um “falso negativo relevante”.
De acordo com a área técnica da ANPD, o mecanismo funciona com um limite que “privilegia a redução de falsos positivos”. Isso significa que o sistema procura evitar alertas indevidos, mas pode deixar de identificar situações reais de risco.
Leia também
Para a agência, esse calibramento não é adequado quando há possibilidade de lesão grave, automutilação ou morte de uma criança ou adolescente. Nesses casos, afirma o documento, “o custo de um falso negativo é incomparavelmente superior ao custo de submeter determinado servidor a análise humana adicional”.
A agência levanta diferentes hipóteses para a baixa classificação atribuída ao episódio, como problemas nos sinais coletados, no peso dado a cada indicador, no limite estabelecido para gerar alertas ou na capacidade de reconhecer padrões de grupos fechados. A nota, porém, não determina qual desses fatores provocou a falha.
Problemas na plataforma
Parte da preocupação da ANPD está na forma como o Discord identifica possíveis ameaças em comunicações protegidas por criptografia.
Segundo informações prestadas pela própria empresa, desde 2 de março de 2026 as comunicações de áudio e vídeo feitas por mensagens diretas, grupos de mensagens, canais de voz e pelo “Go Live” passaram a utilizar criptografia de ponta a ponta.
Nesse modelo, o conteúdo é protegido no aparelho de quem transmite e só pode ser acessado pelos participantes autorizados. O Discord afirma, por isso, não conseguir examinar diretamente o áudio e o vídeo enquanto a comunicação acontece.
A ANPD reconhece essa limitação, mas considera que a escolha da arquitetura do serviço não elimina a responsabilidade da plataforma. “Se uma escolha de segurança inviabiliza a implementação de determinado controle, cabe ao agente regulado implementar controles substitutivos e demonstrar efetividade equivalente ou superior”, afirma o documento.
O Discord informou à agência que procura detectar ameaças por outros meios, como sinais comportamentais, relações entre contas, padrões de rede, metadados, denúncias e histórico de medidas tomadas contra usuários.
A área técnica afirma, no entanto, que a empresa “não apresentou evidências concretas de sua implementação e eficácia” em um documento encaminhado ao Ministério da Justiça.
Segundo a ANPD, proteções aplicadas a comunicações criptografadas precisam ser combinadas, testadas em português e acompanhadas por moderação humana.
A nota menciona, como possíveis alternativas, controles de idade, restrições de funcionalidades, detecção executada no próprio aparelho, análise comportamental mais robusta, limitação do público de uma transmissão, revisão humana prioritária e protocolos para interromper situações emergenciais.
Falhas no sistema de denúncia
A ANPD também considera insuficiente depender de denúncias feitas pelos participantes de uma transmissão. A área técnica aponta que esse sistema pressupõe que alguém reconheça a violação, não esteja envolvido nela, tenha condições emocionais de reagir, conheça o mecanismo de denúncia e confie que a plataforma atuará a tempo.
Para a agência, essas condições dificilmente estarão presentes quando uma criança ou adolescente estiver sob ameaça, manipulação ou coação. O problema seria ainda maior em servidores privados formados por pessoas envolvidas nas próprias violações.
Nesses ambientes, avalia a área técnica da ANPD, “a eficácia do mecanismo protetivo dependeria que os próprios violadores se autodenunciem”.
O documento acrescenta que, se a plataforma não consegue reconhecer uma situação grave sem a denúncia de um participante, obrigações posteriores de remoção, preservação de provas e comunicação às autoridades “correm o risco de se tornar materialmente inoperantes”.
A supervisão parental também foi considerada insuficiente para enfrentar os riscos específicos das transmissões ao vivo.
Segundo a área técnica, esse recurso “não oferece solução apta a garantir a proteção de crianças e adolescentes” nessas funcionalidades. A ANPD avalia que as medidas descritas pelo Discord são “de caráter predominantemente posterior ao dano ou têm efetividade preventiva limitada”.
A ANPD ressalta, contudo, que sua avaliação ainda é preliminar. A nota fala em “indícios, até o momento reunidos” e registra que a análise foi feita em “juízo de cognição sumária”, antes da conclusão do processo de fiscalização.
Ainda assim, a área técnica entende que os problemas encontrados não estão restritos à Operação Lívia. Segundo o documento, eles decorrem da arquitetura das transmissões de vídeo, das limitações dos sistemas de detecção, da dependência de denúncias e de problemas relacionados à moderação em português. “Eles não se restringem, portanto, a uma ocorrência isolada”, diz a nota.
A fiscalização também cita dados da SaferNet segundo os quais foram registradas 406 denúncias relacionadas ao Discord entre janeiro e julho de 2026, aumento de 54% em relação às 264 notificações do mesmo período de 2025.
O documento afirma ainda que as lives aparecem em outros casos de graves violações envolvendo crianças e adolescentes, incluindo indução à automutilação e ao suicídio. Também são mencionados episódios de tortura e maus-tratos de animais.
Discord contesta avaliação
Em manifestação enviada à reportagem, o Discord afirmou que está analisando a determinação e contestou a caracterização feita pela ANPD.
“A caracterização do Discord feita pela ANPD não reflete a plataforma que construímos nem os investimentos que temos feito na segurança dos usuários”, declarou a empresa.
Sobre o episódio envolvendo a adolescente, a plataforma disse ter investigado rapidamente o servidor privado e removido o grupo pouco depois de sua criação. Segundo o Discord, o servidor só podia ser acessado por convite e não aparecia nos mecanismos de descoberta da plataforma.
A empresa afirma ainda ter derrubado o servidor antes da morte da adolescente. O Discord afirma que sua investigação encontrou indícios de que as atividades criminosas começaram a ser coordenadas em outras plataformas antes da criação do grupo e continuaram nesses serviços depois que os envolvidos foram banidos.
A plataforma também afirma possuir equipes especializadas em identificar usuários de alto risco, possíveis vítimas e novos grupos suspeitos, além de fornecer informações às autoridades quando considera necessário.
Na manifestação enviada ao Metrópoles, o Discord também classificou a medida da ANPD como prematura e afirmou que ainda estava dentro do prazo para responder no processo administrativo. Representantes do Discord se reuniram com a Superintendência de Fiscalização em 11 de agosto. Na ocasião, a empresa se comprometeu a prestar os esclarecimentos solicitados até 14 de agosto.
Membros da ANPD afirmam, porém, que medidas cautelares podem ser tomadas, mesmo antes da manifestação da empresa, quando há risco iminente de dano grave ou de difícil reparação.
Na nota técnica obtida pelo Metrópoles, a agência avalia que manter as ferramentas funcionando sem salvaguardas consideradas suficientes poderia permitir “a repetição das condutas investigadas e a ocorrência de novos danos antes da conclusão da instrução fiscalizatória”.
A suspensão permanecerá em vigor até que o Discord demonstre a adoção de medidas consideradas suficientes para reduzir os riscos identificados. Se o cumprimento não for comprovado no prazo, a área técnica propõe o envio do processo ao Conselho Diretor da ANPD para novas providências e eventual aplicação de multa diária.