A arquitetura de risco das plataformas e a responsabilidade civil preventiva: uma análise da decisão da ANPD sobre o Discord

Guilherme Magalhães Martins[1]
João Victor Rozatti Longhi[2]
Filipe Medon[3] 

1. INTRODUÇÃO

            A consolidação da sociedade da informação e o desenvolvimento das redes sociais impuseram uma revisão nos alicerces da responsabilidade civil. Dia após dia cai a premissa de uma suposta neutralidade tecnológica dos provedores de aplicação quanto ao conteúdo, reconhecendo-se que estas plataformas atuam como arquitetos ativos do ambiente informacional. Ao desenharem suas interfaces e algoritmos, tais agentes não apenas intermediam comunicações, mas modulam comportamentos e gerenciam riscos inerentes à sua atividade econômica. Devem, por isso, ser responsabilizados não apenas por eventual conteúdo de terceiros – nos casos permitidos pela legislação e jurisprudência -, mas, principalmente, por suas próprias condutas, consistentes no design manipulativo, inseguro e danoso que empregam em certas situações. 

A promulgação da Lei nº 15.211/2025, conhecida como ECA Digital, representou um avanço importante na tentativa de complementar o Estatuto da Criança e do Adolescente frente aos desafios do mundo virtual. A norma introduz diretrizes voltadas à proteção da criança e do adolescente em ambientes digitais, como a exigência de verificação de idade, controle de dados pessoais e responsabilização de plataformas.

            A posterior regulamentação do diploma por meio dos Decretos nº 12.880, 12.881 e 12.882, todos de 2026, aprofundou esse movimento, ao detalhar com maior precisão as obrigações técnicas para plataformas digitais, reestruturar a atuação da Agência Nacional de Proteção de Dados (ANPD) e centralizar mecanismos de denúncia e repressão de ilícitos. Com isso, o ECA Digital passa a ser instrumentalizado não apenas como norma de ordem principiológica, mas como verdadeiro marco de governança regulatória do ambiente digital 

            Consequentemente, em especial depois da fixação do tema 987 pelo STF, o Brasil vem aos poucos migrando e se inclinando a um modelo baseado na necessidade de notificação judicial para retirada do conteúdo ilícito para um paradigma vocacionado à tutela dos direitos fundamentais dos usuários pela notificação extrajudicial (notice and takedown) e, em alguns casos, de imposição de deveres de proteção referente a determinados conteúdos  com absoluta prioridade, dos vulneráveis.

            O ECA Digital consolida deveres de mitigação contínua de riscos aos fornecedores de serviços digitais. Para assegurar a efetividade desse diploma, os Decretos regulamentadores nº 12.622/2025 e nº 12.880/2026 conferiram à Agência Nacional de Proteção de Dados (ANPD) a prerrogativa de atuar como autoridade administrativa autônoma de fiscalização.

            Foi precisamente no exercício dessa competência que a ANPD editou o Despacho Decisório nº 3/2026/SFI, balizado pela Nota Técnica nº 1/2026/CGF/SFI/ANPD. O ato determinou a suspensão cautelar da funcionalidade “Go Live” e de outros recursos de transmissão de vídeo equivalentes do aplicativo Discord para usuários no território nacional. 

2. A ARQUITETURA DO SERVIÇO E A EXTERNALIZAÇÃO DE RISCOS

            A imputação de responsabilidade a um provedor perpassa a análise das escolhas estruturais adotadas na concepção de seu serviço. A ANPD enquadrou o Discord como um serviço de tecnologia da informação de acesso provável por crianças e adolescentes, observando o art. 1º, parágrafo único, da Lei nº 15.211/2025, dada a admissão formal de usuários a partir de 13 anos e o seu formato voltado à interação e ao entretenimento.

            A dinâmica da plataforma apoia-se na criação de servidores privados, mensagens diretas e canais de texto, voz e vídeo. No entanto, enseja reflexão o fato de a empresa ter implementado, em 2 de março de 2026 – período imediatamente anterior à vigência do arcabouço protetivo do ECA Digital –, criptografia de ponta-a-ponta em suas funcionalidades de áudio e vídeo, abrangendo o recurso “Go Live”. Essa arquitetura técnica implica que o conteúdo audiovisual seja criptografado no dispositivo emissor e descriptografado apenas pelos destinatários, restringindo o acesso e a moderação centralizada por parte da própria provedora.

            Ao abdicar da capacidade direta de monitoramento em nome da privacidade das comunicações (uma finalidade legítima em abstrato), a plataforma adotou um desenho que delega a proteção dos usuários a dois mecanismos mitigatórios: a análise algorítmica de sinais comportamentais e as denúncias promovidas pelos próprios participantes das sessões. Sob a perspectiva da responsabilidade civil, cumpre questionar se tal conformação técnica atende ao dever objetivo de cuidado e se não configura, na prática, uma indevida externalização dos custos de segurança para a própria vítima vulnerável.

            Dito diversamente: à luz do princípio da proporcionalidade e considerando que a criptografia se presta a privilegiar a liberdade de expressão e comunicativa, ao mesmo tempo em que assegura a privacidade e a proteção de dados, deve-se adotar mecanismos robustos e igualmente efetivos para verificar violações a direitos de crianças e adolescentes caso se queira manter um serviço criptográfico inquebrável e, portanto, capaz de albergar violações como as que foram observadas no procedimento da ANPD, que culminaram na morte de uma pessoa menor de idade. 

3. O SAFETY BY DESIGN E A INSUFICIÊNCIA DA MODERAÇÃO DELEGADA

            O arcabouço normativo estabelecido no art. 6º, incisos II e III, do ECA Digital preconiza que os fornecedores adotem, desde a concepção (safety by design) e ao longo da operação de suas aplicações, medidas razoáveis destinadas a prevenir e mitigar riscos de exposição de menores a violências físicas, intimidação sistemática virtual (cyberbullying), assédio, indução à automutilação e ao suicídio. O legislador consagra, portanto, um dever de gerenciamento de riscos (art. 8º, ECA Digital). É dizer: o dever de cuidado, antes defendido apenas como princípio geral, passa a ser regra impositiva, à qual as plataformas devem observar, sob pena de responsabilização nas mais diversas esferas. 

            Nesse sentido, a instrução administrativa conduzida pela ANPD denota a fragilidade das escolhas mitigatórias do Discord perante o comando legal. O sistema de detecção comportamental, baseado em algoritmos e apoiado em criptografia, demonstrou falha severa na prevenção de ilícitos, conforme reportado no episódio atrelado à “Operação Lívia”. Neste caso, que envolveu uma adolescente de 13 anos submetida a coerção em uma transmissão ao vivo com centenas de usuários, a ferramenta automatizada atribuiu uma classificação de risco erroneamente baixa ao servidor.

            A Nota Técnica da ANPD destaca, com precisão, que o argumento corporativo de evitar “falsos positivos” não justifica o rebaixamento do rigor protetivo. No sopesamento inerente à responsabilidade civil, o custo de um falso negativo (a materialização de dano à integridade biopsicossocial do menor) é incomensuravelmente mais oneroso do que o dispêndio operacional para a plataforma submeter um ambiente suspeito à revisão humana.

            Adicionalmente, a dependência estrutural do sistema de denúncias (user reporting) como filtro primário de segurança revela-se inadequada. A ANPD pontua que a eficácia desse mecanismo pressupõe que a vítima ou um terceiro não apenas reconheça a violação, mas detenha autonomia e estabilidade emocional para reportá-la em tempo hábil. Em ambientes fechados, pautados por dinâmicas de coerção e manipulação psicológica coletiva, transferir o ônus da denúncia aos próprios atores envolvidos culmina no esvaziamento fático da tutela protetiva.

4. A PROPORCIONALIDADE DA MEDIDA ACAUTELATÓRIA NO DIREITO DIGITAL

            O modelo regulatório brasileiro orienta-se pela neutralidade tecnológica, permitindo variadas soluções de segurança, desde que demonstrem eficácia equivalente ou superior ao risco criado pela atividade. Se a opção arquitetural do provedor (criptografia end-to-end) restringe a moderação, o dever jurídico preventivo impõe a adoção de controles substitutivos rigorosos, tais como travas etárias, identificação em nível de dispositivo (client-side) e protocolos de interrupção emergencial imediatos.

            Diante da ausência de comprovação dessas salvaguardas alternativas, a suspensão determinada pela ANPD ampara-se no poder geral de cautela da Administração Pública (art. 45 da Lei nº 9.784/1999) e no art. 30 de seu Regulamento de Fiscalização. A fumaça do bom direito (fumus boni iuris) materializa-se na discrepância entre a arquitetura de risco operada pela plataforma e as obrigações preventivas dos arts. 6º e 8º do ECA Digital. O perigo da demora (periculum in mora) fundamenta-se no risco contínuo à integridade de crianças e adolescentes ante o tempo demandado para a conclusão do processo sancionador.

            A determinação administrativa demonstra, ademais, aderência ao princípio da proporcionalidade. Diferentemente de ordens judiciais ou administrativas de bloqueio integral que por vezes permeiam o debate público, a medida recai pontualmente sobre o recurso “Go Live” e seus congêneres criptografados, identificados como vetores primários dos ilícitos, o que demonstra proporcionalidade e razoabilidade na medida adotada pelo órgão regulador. É preservado, pois, o funcionamento ordinário das demais instâncias da aplicação, garantindo a reversibilidade da ordem. Conforme o Despacho Decisório, a suspensão cessará assim que a empresa demonstrar tecnicamente a adequação de sua governança aos padrões legais exigidos, isto é: a partir do momento em que seu serviço se revele seguro by design.

Importante reforçar, ademais, que tal segurança não é exigida apenas com base na novel legislação protetiva da infância no ambiente digital, mas também pelo próprio Código de Defesa do Consumidor, consubstanciando-se como defeituoso o produto ou serviço que não oferece a segurança que dele legitimamente se pode esperar.

5. CONSIDERAÇÕES FINAIS

            A estruturação de um ambiente digital com efetiva proteção perpassa o reconhecimento de que a liberdade de modelo de negócios das plataformas encontra limite na tutela da pessoa humana, notadamente das crianças e adolescentes. A dogmática da responsabilidade civil evoluiu para compreender que os provedores de aplicação exercem o domínio arquitetural sobre os fluxos comunicacionais, não podendo se abster dos deveres de safety by design.

            A atuação preventiva da Agência Nacional de Proteção de Dados (ANPD), ao condicionar o funcionamento de funcionalidades de alto risco à comprovação de medidas robustas de moderação e proteção, não configura censura prévia, mas a legítima efetivação do Estatuto Digital da Criança e do Adolescente e do Código de Defesa do Consumidor. Trata-se de intervenção administrativa razoável e proporcional, que reafirma a premissa de que a inovação tecnológica no país deve operar sob os ditames da responsabilidade contínua, tanto prévia quanto a posteriori, rejeitando-se a externalização de danos estruturais aos usuários hipervulneráveis, que devem gozar de especial e absoluta proteção por parte do ordenamento jurídica.

REFERÊNCIAS

AGÊNCIA NACIONAL DE PROTEÇÃO DE DADOS (Brasil). Coordenação-Geral de Fiscalização. Superintendência de Fiscalização. Nota Técnica nº 1/2026/CGF/SFI/ANPD. Aplicação de medida preventiva diante de possíveis violações à Lei nº 15.211, de 17 de setembro de 2025, que instituiu o Estatuto Digital da Criança e do Adolescente – ECA Digital, e ao Decreto nº 12.880, de 18 de março de 2026. Processo nº 00261.004804/2026-54. Brasília, DF: ANPD, 12 ago. 2026..

AGÊNCIA NACIONAL DE PROTEÇÃO DE DADOS (Brasil). Superintendência de Fiscalização. Despacho Decisório nº 3/2026/SFI. Suspensão de funcionalidade em relação aos usuários localizados no território nacional. Processo nº 00261.004804/2026-54. Interessado: Discord Inc. Brasília, DF: ANPD, 12 ago. 2026. 

BRASIL. Supremo Tribunal Federal. Recurso Extraordinário 1.037.396. Tema 987: Discussão sobre a constitucionalidade do art. 19 da Lei n. 12.965/2014 (Marco Civil da Internet). Relator: Min. Dias Toffoli. Brasília, DF. Disponível em: https://portal.stf.jus.br/jurisprudenciaRepercussao/verAndamentoProcesso.asp?incidente=5160549&numeroProcesso=1037396&classeProcesso=RE&numeroTema=987. Acesso em: 14 ago. 2026. 

HENRIQUES, Isabella. Direitos fundamentais da criança no ambiente digital. São Paulo: Thomson Reuters Brasil, 2023

LONGHI, João Victor Rozatti. Responsabilidade civil e redes sociais: retirada de conteúdo, perfis falsos, discurso de ódio, misoginia, fake news, milícias digitais e inteligência artificial. 3. ed. Indaiatuba: Editora Foco, 2025.

MARTINS, Guilherme Magalhães; LONGHI, João Victor Rozatti (Coord.); MUCELIN, Guilherme (Org.). Direito digital: direito privado e internet. 6. ed. Indaiatuba: Editora Foco, 2025.

MIRAGEM, Bruno. A proteção da infância no ambiente digital e o Estatuto Digital da Criança e do Adolescente. Revista de Direito do Consumidor. São Paulo, v.165, maio/junho 2026

[1] Procurador de Justiça no Ministério Público do Estado do Rio de Janeiro. Professor Associado de Direito Civil da Faculdade Nacional de Direito – Universidade Federal do Rio de Janeiro. Professor permanente do Programa de Pós-Graduação em Direito da Universidade  Federal Fluminense –. Doutor e Mestre em Direito Civil pela UERJ. Diretor do Instituto Brasilcon. Pós-doutor em Direito Comercial pela Faculdade de Direito da USP – Largo de São Francisco. Membro colaborador do CNMP, junto à Unidade Especial de Proteção de Dados Pessoais – UEPDAP

[2] Pós-Doutor em Direito pelo International Post-doctoral Programme in New Technologies and Law do Mediterranea International Centre for Human Rights Research (MICHR – Università “Mediterranea” di Reggio Calabria), Itália. Pós-Doutor pela Universidade Estadual do Norte do Paraná – UENP. Doutor em Direito Público pela Faculdade de Direito da Universidade de São Paulo – USP/Largo de São Francisco. Mestre em Direito Civil pela Faculdade de Direito da Universidade do Estado do Rio de Janeiro – UERJ. Bacharel em Direito pela Universidade Estadual Paulista “Júlio de Mesquita Filho” – UNESP-Franca. Professor visitante do PPGD da Universidade Estadual do Norte do Paraná – UENP e Professor Substituto de Graduação do Universidade Estadual do Oeste do Paraná (UNIOESTE). Defensor Público no Estado do Paraná

[3] Doutor e Mestre em Direito Civil pela UERJ. Professor de Direito Civil na FGV Rio, onde também é pesquisador no Centro de Tecnologia e Sociedade (CTS-FGV) e Coordenador Adjunto do AI Hub. Membro do European Law Institute, do Instituto Brasileiro de Estudos de Responsabilidade Civil (IBERC) e de diversas Comissões, incluindo a Comissão de Proteção de Dados e Privacidade da OAB/RJ, a Comissão de Inteligência Artificial da OAB/RJ e a Comissão de Provas Digitais da OAB/RJ. Co-Chair e membro da Task Force “AI in Education” do Projeto “AI and the Future of Work” da Columbia University (EUA). Foi membro da Comissão de Juristas do Senado Federal responsável pela criação do Marco Legal da IA e do Grupo de Trabalho sobre deepfakes da Presidência da República. Seus trabalhos foram citados mais de 300 vezes por inúmeros meios de comunicação internacionais, incluindo a TIME Magazine e The Washington Post. Advogado e consultor. Autor do livro: “Inteligência Artificial e Responsabilidade Civil: autonomia, riscos e solidariedade”, publicado pela Editora Juspodivm. Instagram: @filipe.medon.

Conheça a obra: Contratos Eletrônicos de Consumo

Autor deste artigo, Guilherme Magalhães Martins aprofunda os desafios da relação de consumo no ambiente digital em Contratos Eletrônicos de Consumo, obra que examina a responsabilidade das plataformas digitais e a proteção do consumidor vulnerável nas relações de consumo eletrônicas.

O caso Discord marca um ponto de inflexão: a responsabilidade civil das plataformas passa a recair não apenas sobre o conteúdo de terceiros, mas sobre suas próprias escolhas de design — o chamado dever de safety by design. Para se aprofundar, veja também:

Leia também

• ECA Digital (Lei 15.211/2025): cotejo com o ECA de 1990
• Plataformas digitais e proteção das crianças e adolescentes
• Responsabilidade civil das plataformas digitais é definida pelo STF
• O papel e a responsabilidade das plataformas digitais pelo 8 de janeiro