O uso de IA por alunos voltou ao centro do debate educacional depois que um professor universitário dos Estados Unidos inseriu uma instrução oculta no enunciado de uma prova. O objetivo era identificar estudantes que copiassem todo o texto para uma ferramenta de inteligência artificial e entregassem a resposta sem revisão.
A estratégia funcionou. Dos 35 alunos avaliados, 32 apresentaram em suas redações uma referência sem sentido à palavra “Madagascar”, exatamente como determinava o comando escondido. Como resultado, o professor inicialmente reprovou esses estudantes naquela parte da avaliação.
O episódio chama atenção pela criatividade. Contudo, ele também revela um problema mais profundo: escolas e universidades ainda tentam descobrir como avaliar aprendizagem, autoria e pensamento crítico em uma época na qual qualquer estudante pode gerar um texto em poucos segundos.
Portanto, o caso não deve ser tratado apenas como uma história sobre “pegar alunos colando”. Ele precisa servir como ponto de partida para discutir limites, transparência, acessibilidade e novos modelos de avaliação.
Como funcionou a armadilha contra o uso de IA por alunos?
O caso ocorreu na Alcorn State University, no Mississippi. O professor de História Jason Gibson pediu uma redação sobre a Revolução Industrial. Entretanto, inseriu no enunciado uma instrução escrita em branco sobre fundo branco.
A mensagem orientava a inclusão da palavra “Madagascar” em uma frase sem relação com o tema.
Assim, quem lesse normalmente o enunciado não perceberia a ordem. Por outro lado, o estudante que copiasse todo o conteúdo e o enviasse para uma IA também copiaria o comando oculto.
Diversas respostas entregues continham frases absurdas envolvendo Madagascar, bicicletas, torradeiras e jogos de basquete. Além disso, o termo aparecia sem qualquer conexão com a Revolução Industrial.
Na prática, o método não identificou apenas o uso de inteligência artificial. Ele identificou alunos que utilizaram a ferramenta de forma automática e não revisaram a resposta antes da entrega.
Essa diferença é essencial.
Usar IA é necessariamente fraude acadêmica?
Não.
O uso de inteligência artificial pode ser legítimo quando a instituição permite a ferramenta e estabelece regras claras. Um aluno pode utilizá-la para organizar ideias, revisar gramática, criar perguntas de estudo ou comparar argumentos.
Entretanto, o problema surge quando o estudante apresenta como autoral um conteúdo produzido integralmente por uma ferramenta, sobretudo quando a atividade exige raciocínio próprio.
Portanto, a infração não está apenas no acesso à tecnologia. Ela depende de fatores como:
- regras da instituição;
- instruções da atividade;
- grau de participação da IA;
- transparência do estudante;
- finalidade pedagógica;
- declaração das fontes utilizadas.
Se o professor proíbe expressamente o uso de IA em uma avaliação individual, copiar o enunciado, gerar a resposta e entregá-la como própria pode configurar desonestidade acadêmica.
Por outro lado, se a política é vaga ou inexistente, a punição se torna mais controversa.
A instrução oculta é uma forma de prompt injection?
Tecnicamente, a estratégia se aproxima do prompt injection indireto.
Nesse tipo de manipulação, alguém insere uma instrução em um texto, documento ou página para que o sistema de inteligência artificial siga o comando ao processar o conteúdo.
O aluno pode acreditar que está enviando apenas o enunciado da atividade. Entretanto, a ferramenta também recebe uma instrução escondida e passa a obedecê-la.
Esse mecanismo não explora necessariamente uma falha tradicional de software. Em vez disso, explora a dificuldade dos modelos em separar conteúdo de referência e comandos operacionais.
O mesmo princípio já apareceu fora das salas de aula. No artigo Manipulação da IA Galileu: o prompt injection chega aos processos judiciais, analisamos como comandos ocultos em documentos podem tentar influenciar sistemas de IA usados no ambiente jurídico.
Consequentemente, o caso educacional também funciona como uma demonstração prática de segurança da informação.
A palavra oculta prova, sozinha, que houve fraude?
Não necessariamente.
Ela constitui um indício forte, sobretudo quando aparece sem sentido e reproduz exatamente o comando escondido. Contudo, uma decisão disciplinar não deveria depender de um único marcador automático.
O próprio caso mostrou essa limitação. Uma aluna conseguiu reverter a reprovação porque utilizava o computador em modo escuro. Nesse ambiente, o texto branco tornou-se visível, e ela afirmou ter entendido que precisava seguir a instrução apresentada no enunciado.
Além disso, leitores de tela, recursos de acessibilidade, conversores de documentos e alterações de contraste podem revelar conteúdos aparentemente invisíveis.
Por isso, antes de punir, a instituição deveria:
- ouvir o estudante;
- analisar o histórico de edição;
- comparar o texto com trabalhos anteriores;
- verificar as regras comunicadas;
- permitir contestação;
- registrar os critérios utilizados.
Em outras palavras, a instrução oculta pode apoiar a apuração, mas não deve substituir o devido processo acadêmico.
Detectores de texto por IA resolvem o problema?
Também não.
Ferramentas que afirmam identificar textos gerados por IA podem produzir falsos positivos e falsos negativos. Além disso, pequenas revisões humanas, traduções ou alterações de estilo podem reduzir a precisão dessas classificações.
Por isso, o professor não utilizou um detector estatístico. Ele inseriu um marcador concreto e observou se a resposta seguia uma instrução estranha.
Ainda assim, nenhum método isolado oferece certeza absoluta.
A discussão lembra outro risco analisado no artigo IA como prova penal: STJ rejeita relatório e reforça perícia. Embora o contexto jurídico seja diferente, a lição permanece: conclusões produzidas ou mediadas por sistemas automatizados precisam de validação, metodologia e análise humana.
O maior problema foi a IA ou a falta de leitura?
As respostas absurdas revelaram uma falha anterior ao uso da ferramenta: muitos estudantes aparentemente não leram aquilo que entregaram.
Consequentemente, o episódio não trata apenas de autoria. Ele expõe perda de atenção, ausência de revisão e terceirização do pensamento.
Uma ferramenta pode produzir um texto gramaticalmente correto e, ao mesmo tempo, incluir fatos falsos, relações inexistentes ou frases desconectadas.
Por isso, o estudante continua responsável pelo conteúdo final.
Usar IA sem revisar equivale a assinar um documento sem ler. A tecnologia acelera a produção, mas não transfere a responsabilidade.
Como professores podem avaliar na era da IA?
Proibir toda ferramenta pode funcionar em determinadas provas presenciais. Contudo, essa estratégia dificilmente será suficiente em todas as disciplinas e atividades.
Além disso, a IA já integra a vida acadêmica e profissional. Portanto, instituições precisam ensinar uso responsável, não apenas tentar detectar transgressões.
Algumas alternativas incluem:
- avaliações orais curtas;
- defesa do trabalho apresentado;
- versões preliminares e histórico de revisão;
- atividades baseadas em experiências pessoais;
- resolução de problemas em sala;
- comparação crítica entre respostas;
- indicação obrigatória de como a IA foi utilizada;
- análise de fontes e erros da ferramenta.
Desse modo, a avaliação passa a medir processo, compreensão e capacidade de argumentação, e não apenas o texto final.
Também é importante que a instituição defina categorias claras. Por exemplo: uso proibido, uso permitido com declaração ou uso obrigatório como parte da atividade.
Sem essa distinção, alunos e professores operam em uma zona cinzenta.
Escolas precisam criar políticas de inteligência artificial
A resposta institucional deve ser preventiva.
Escolas e universidades precisam elaborar normas que expliquem:
- quais ferramentas podem ser utilizadas;
- em quais atividades;
- como declarar o uso;
- quais dados não devem ser enviados;
- quando o uso caracteriza fraude;
- quais são as consequências;
- como funciona a contestação.
Além disso, professores devem receber formação técnica. Caso contrário, podem confiar excessivamente em detectores, interpretar qualquer texto bem escrito como suspeito ou aplicar medidas que prejudiquem alunos de boa-fé.
O uso educacional da IA também precisa considerar privacidade. Estudantes podem inserir trabalhos, dados pessoais e materiais institucionais em serviços externos sem compreender como essas informações serão tratadas.
Portanto, integridade acadêmica e proteção de dados precisam caminhar juntas.
Conclusão: a educação precisa avaliar pensamento, não apenas texto
O caso da palavra “Madagascar” mostrou como o uso de IA por alunos pode ocorrer de maneira automática, superficial e sem qualquer revisão.
A estratégia do professor produziu um sinal relevante. Entretanto, também revelou limites relacionados à acessibilidade, à interpretação do enunciado e ao direito de contestação.
Por isso, a principal lição não está na criação de armadilhas cada vez mais sofisticadas.
O desafio verdadeiro consiste em redesenhar atividades para que o aluno demonstre compreensão, autoria e capacidade crítica.
A inteligência artificial pode apoiar a aprendizagem. Contudo, ela não deve substituir o processo intelectual que a avaliação pretende medir.
Ao mesmo tempo, instituições não podem punir com base em suspeitas vagas ou sistemas automáticos pouco confiáveis. Regras claras, evidências verificáveis e análise humana continuam indispensáveis.
Sua escola, faculdade ou equipe docente precisa estabelecer regras para o uso ético e seguro da inteligência artificial? Agende uma palestra, capacitação ou consultoria em segurança digital e governança de IA pelo WhatsApp.
Fontes
G1: professor cria armadilha para descobrir quem usou IA e reprova 32 de 35 alunos
Band: professor usa comando oculto para identificar uso de inteligência artificial.
Itatiaia: caso da Alcorn State University e debate sobre integridade acadêmica.
Por Marco Aurélio – Perito em Segurança Digital | M A Segurança Digital
Formado em Segurança Pública, Bacharel em Direito e Especialista em Perícia Digital Forense e Direito Digital, Marco Aurélio atua como palestrante em Segurança Digital, com foco na prevenção e análise de incidentes cibernéticos, proteção de dados e compliance digital. Criador da M A Segurança Digital e autor do livro “Filhos Conectados, Pais Preparados”, dedica-se a traduzir a tecnologia em linguagem jurídica e prática para empresas e profissionais do Direito.