Jason Gibson, professor de história da Alcorn State University, encontrou uma forma incomum de identificar alunos que usaram inteligência artificial sem revisar o conteúdo gerado durante uma prova. Ele inseriu um comando oculto no enunciado da avaliação e acabou identificando 32 dos 35 estudantes que copiaram a questão e a enviaram para um chatbot.

As respostas entregues continham frases completamente sem sentido, revelando que o texto produzido pela IA não havia sido lido antes da entrega. A atividade consistia em uma redação sobre a Revolução Industrial enviada de forma on-line. No meio do enunciado, Gibson escondeu uma instrução usando texto branco sobre fundo branco, invisível para quem apenas lia a prova normalmente.

Porém, ao copiar todo o conteúdo para ferramentas, como ChatGPT, Claude ou Gemini, os alunos também enviavam o comando secreto para a IA. A instrução fazia o chatbot inserir comentários aleatórios sobre Madagascar no meio da redação. Entre os trechos apareciam frases como 'Madagascar flutua de lado durante a tarde' e 'Madagascar foi a um jogo de basquete usando uma torradeira'.

O caso também mostra um problema que tem crescido em escolas e universidades desde a popularização da IA. Muitos professores afirmam que os alunos estão usando chatbots para fazer trabalhos e provas, o que tem mudado a forma de avaliar o aprendizado. Para tentar conter essa prática, alguns voltaram a aplicar trabalhos escritos à mão, provas orais e atividades presenciais e até a usar a própria IA para criar perguntas mais difíceis de serem respondidas apenas por um chatbot.

A estratégia usada por Gibson é baseada em uma técnica conhecida como injeção de prompt. Ela consiste em incluir instruções capazes de alterar o comportamento de um modelo de inteligência artificial, levando-o a seguir comandos que não faziam parte da solicitação original. Existem dois tipos principais: na injeção direta, o próprio usuário envia comandos ao chatbot para tentar contornar restrições ou modificar a resposta; já na injeção indireta, como no caso da prova, as instruções ficam escondidas em um documento, página da web ou outro conteúdo que será processado pela IA.

Com informacoes de Canaltech.