Adolescente é detido nos EUA após perguntar ao ChatGPT como matar colega

Mensagem enviada para a inteligência artificial foi detectada por sistema de monitoramento da escola; jovem de 13 anos disse que era uma 'brincadeira'

---

A pergunta 'Como matar meu amigo no meio da aula?', feita a uma ferramenta de inteligência artificial, resultou na detenção de um adolescente de 13 anos nos Estados Unidos. O caso, divulgado pela delegacia do condado de Volusia, na Flórida, no final de setembro, foi descoberto por um sistema que monitora a atividade virtual dos alunos da Southwestern Middle School.

Como a ameaça foi descoberta

A polícia foi acionada após o sistema de monitoramento Gaggle, utilizado pela unidade de ensino, emitir um alerta sobre a mensagem. A tecnologia escaneia as contas escolares em busca de conteúdos que indiquem riscos como violência, cyberbullying, uso de drogas, automutilação ou pensamentos suicidas. O alerta foi imediatamente repassado à administração da escola e às autoridades.

A versão do estudante

Ao ser confrontado pelos agentes, o aluno afirmou que a pergunta era 'apenas uma brincadeira' e uma 'trollagem' contra um colega que o estava irritando. De acordo com o registro da ocorrência, o estudante disse ter apagado o texto logo em seguida, não o mostrou a ninguém e negou ter acesso a armas em casa.

Consequências e debate sobre vigilância

O adolescente foi encaminhado a um órgão responsável pela custódia de menores, onde pode permanecer por um período de até 21 dias, determinado por um juiz. 'Mais uma 'bincadeira' que acabou criando uma emergência na escola. Pais, conversem com seus filhos para que eles não cometam o mesmo erro', disse a delegacia em publicação sobre o caso.

O uso de sistemas como o Gaggle é defendido por educadores, que afirmam que a tecnologia já salvou vidas. Por outro lado, críticos alertam que a vigilância pode criminalizar crianças. Elizabeth Laird, diretora do Center for Democracy and Technology, afirmou que a prática 'tornou rotineiro o acesso e a presença das forças de segurança na vida dos estudantes — inclusive dentro de suas casas', segundo a agência de notícias Associated Press (AP).