Pesquisadores de cibersegurança da Tracebit descobriram uma forma engenhosa de paralisar inteligências artificiais usadas por hackers: um prompt injection 'do bem'. Batizada de 'bombardeio contextual', a técnica funciona como uma armadilha, com comandos ocultos nos servidores das empresas para forçar o desligamento da IA invasora em segundos, impedindo o roubo de dados de forma automática.

A injeção de comandos ocultos é uma técnica que vem sendo usada por cibercriminosos para enganar IAs legítimas, induzindo modelos a vazar informações sensíveis ou manipular suas respostas. Agora, porém, a estratégia começa a ser usada a favor da segurança, já que os pesquisadores estão usando o mesmo recurso.

A mágica por trás do bombardeio contextual é usar as próprias regras de segurança da IA contra ela mesma, já que os desenvolvedores criam barreiras rigorosas para impedir que chatbots gerem conteúdo criminoso, por exemplo. Segundo a Tracebit, a equipe passou a esconder instruções proibidas no meio de arquivos atrativos para hackers, como senhas e chaves de segurança na nuvem.

Um dos exemplos testados envolvia comandos pedindo o passo a passo para criar antraz, uma arma biológica letal. Quando a IA do criminoso invade o sistema e tenta ler esses arquivos para roubar as informações, ela 'tropeça' no texto proibido. Imediatamente, seus mecanismos nativos de segurança disparam. O robô reconhece a infração, bloqueia a operação, ignora as ordens do hacker e, na prática, desliga sozinho.

O cofundador e CEO da Tracebit, Andy Smith, define o método como a criação de uma falha da qual a ferramenta inimiga não consegue se recuperar, paralisando a invasão na hora. O método funcionou em quase 100% dos testes.

A eficácia do bombardeio contextual foi comprovada em uma bateria de testes contra cinco dos modelos de IA mais avançados do mercado: Opus 4.8, Gemini 3.1 Pro, GLM 5.2, DeepSeek 4 Pro e Kimi 2.6. Em 152 simulações de ataques, a armadilha freou as ameaças quase por completo. Os dados apresentados pela empresa de cibersegurança dizem o seguinte: A taxa de sucesso das IAs em conseguir acesso total de administrador da conta despencou de 57% para apenas 5%. As invasões completas, nas quais o hacker se instala de forma invisível no sistema, caíram de 36% para 1%. A chance de a IA conseguir avançar em qualquer etapa do ataque foi reduzida de 91% para 15%. Nenhuma IA invasora conseguiu finalizar o ataque sem disparar pelo menos um alerta de segurança na rede.

O modelo Opus 4.8, da Anthropic, foi considerado o invasor mais inteligente do grupo, e conseguia acesso máximo em 93% das tentativas sem a armadilha. Quando o prompt foi inserido, a taxa de sucesso da IA caiu para zero.

Essa técnica é mais um passo na luta contra os hackers que usam IAs para realizar ataques cibernéticos. Como já mostramos anteriormente, grupos extremistas estão usando inteligência artificial para planejar ataques e fabricar armas, conforme relatório da Tech Against. A criação da armadilha de IA é uma resposta importante para essa ameaça crescente.

Com informacoes de Tecnoblog.