Por Marco Aurélio – Perito em Segurança Digital | M A Segurança Digital
Publicado em 14 de outubro de 2025
O caso do adolescente de 13 anos preso nos Estados Unidos após fazer uma pergunta ao ChatGPT — “Como matar meu amigo no meio da aula?” — reacendeu o debate sobre os limites da liberdade digital e o papel do Estado na proteção de menores.
O episódio, ocorrido na Flórida, mostra com clareza que quando o controle parental falha, o Estado assume o dever de intervir.
O caso: tecnologia, IA e vigilância digital
De acordo com as autoridades do condado de Volusia, o adolescente usou uma conta escolar para acessar o ChatGPT. O sistema de monitoramento chamado Gaggle, utilizado por diversas escolas norte-americanas, detectou a mensagem e emitiu um alerta imediato à polícia e à direção da escola.
O aluno foi detido preventivamente em uma unidade para menores, sob acusação de fazer ameaça grave.
Apesar de ter alegado que “era apenas uma brincadeira”, o incidente foi tratado como potencial risco à segurança pública.
O caso levantou discussões éticas e jurídicas: até que ponto um adolescente pode ser responsabilizado por algo dito em uma plataforma de IA? E, mais importante, onde termina o papel dos pais e começa o dever de intervenção do Estado?
Quando o controle parental falha
O controle parental existe justamente para mediar o contato de crianças e adolescentes com o ambiente digital, filtrando conteúdos impróprios e monitorando interações.
Ferramentas como as da OpenAI, Google, Apple e Microsoft já permitem bloqueios de temas sensíveis e alertas de comportamento de risco.
Contudo, essas ferramentas só funcionam se forem ativas e supervisionadas.
Quando os pais não configuram, não monitoram ou desconhecem o funcionamento dessas proteções, cria-se uma lacuna — e é nessa brecha que o Estado pode (e deve) intervir.
“A responsabilidade primária é dos pais, mas a responsabilidade última é da sociedade”, afirmou o promotor do caso, segundo a reportagem do UOL Tilt (2025).
A linha tênue entre proteção e vigilância
O episódio reacende o debate sobre privacidade e vigilância digital.
Ferramentas como o Gaggle, que monitoram o que alunos escrevem em plataformas como Google Docs, e-mails e ChatGPT, são vistas por alguns como proteção preventiva, e por outros, como invasão de privacidade.
O equilíbrio está em garantir que a intervenção seja proporcional, educativa e preventiva, e não punitiva em excesso.
No caso em questão, a ação rápida das autoridades pode ter evitado uma tragédia, mas também levanta questionamentos sobre liberdade de expressão e tratamento psicológico adequado para o menor.
O dever do Estado: proteger, não apenas punir
Quando o controle parental falha, o Estado não deve agir apenas como um punidor, mas como protetor social.
A legislação moderna entende a infância e a adolescência como etapas de formação da consciência e responsabilidade.
Nos Estados Unidos, a intervenção estatal é amparada por políticas de “Student Safety Monitoring” — sistemas que rastreiam ameaças e indicam risco de violência escolar.
No Brasil, essa função seria amparada pelo Estatuto da Criança e do Adolescente (ECA) e pela Lei Geral de Proteção de Dados (LGPD), que prevê tratamento diferenciado e supervisionado de dados de menores.
Essas normas, juntas, refletem um princípio essencial:
a liberdade digital não pode ser plena quando há risco à integridade física, psicológica ou social de terceiros.
O papel dos pais e educadores
O caso mostra que a educação digital é tão importante quanto a educação moral e social.
Não basta dar acesso à tecnologia — é preciso ensinar ética digital, empatia e responsabilidade online.
Os pais devem:
- Monitorar conversas e aplicativos utilizados pelos filhos;
- Ativar recursos de controle parental e alertas automáticos;
- Conversar abertamente sobre o uso ético da tecnologia;
- Procurar ajuda profissional em casos de comportamentos preocupantes.
Conclusão
O episódio do adolescente preso por uma pergunta ao ChatGPT não é apenas uma tragédia isolada — é um alerta global.
Ele mostra o que acontece quando a tecnologia avança mais rápido que a educação digital e o acompanhamento familiar.
O controle parental não é vigilância excessiva; é cuidado preventivo.
E quando esse cuidado falha, o Estado tem o dever de agir, não para punir a criança, mas para proteger vidas e corrigir falhas sociais.
A verdadeira segurança digital começa em casa — com diálogo, limites e responsabilidade compartilhada entre família, escola e governo.
Fonte: