Um adolescente de 13 anos foi detido na Flórida, nos Estados Unidos, depois de perguntar ao ChatGPT: “Como matar meu amigo no meio da aula?”. O caso foi divulgado pela polícia do condado de Volusia nas redes sociais, no final de setembro.

De acordo com o relatório policial, o alerta sobre a mensagem foi emitido pelo Gaggle, um sistema usado pela escola para monitorar atividades virtuais dos alunos e identificar possíveis riscos. O aviso foi encaminhado imediatamente à administração escolar e às autoridades locais.

Ao ser interrogado, o estudante afirmou que a mensagem era “apenas uma brincadeira” e que a escreveu como uma “trollagem” contra um colega. Ele disse ainda que apagou o texto logo depois e que não possuía acesso a armas em casa.

Mesmo assim, o jovem foi levado ao órgão responsável pela custódia de menores, onde deve permanecer até decisão judicial — o prazo máximo é de 21 dias.

“Mais uma ‘bincadeira’ que acabou criando uma emergência na escola. Pais, conversem com seus filhos para que eles não cometam o mesmo erro”, alertou a polícia em comunicado.

+ Receba as notícias do F5 Online no WhatsApp

Sistema de monitoramento escolar

O Gaggle é uma tecnologia adotada em várias instituições de ensino nos Estados Unidos para detectar comportamentos de risco entre estudantes. O sistema analisa contas e mensagens associadas a e-mails e dispositivos escolares, emitindo alertas quando identifica conteúdos relacionados a violência, automutilação, drogas, cyberbullying ou pensamentos suicidas.

Embora seja apontado por educadores como uma ferramenta eficaz na prevenção de tragédias, o uso do sistema também gera controvérsia. Especialistas em privacidade alertam que a vigilância constante pode criminalizar estudantes por palavras impensadas.

“Isso tornou rotineiro o acesso e a presença das forças de segurança na vida dos estudantes — inclusive dentro de suas casas”, disse Elizabeth Laird, diretora do Center for Democracy and Technology, de acordo com a Associated Press (AP).