Uma vulnerabilidade descoberta por uma startup de cibersegurança israelense está permitindo que agentes de inteligência artificial voltados à programação, entre eles Claude da Anthropic, Codex da OpenAI e Hermes da Nous Research, instalem códigos potencialmente nocivos dentro de infraestruturas empresariais.

O ponto de partida da falha são arquivos de texto denominados llms.txt e llms-full.txt, criados para resumir o conteúdo de sites e facilitar a leitura por robôs e assistentes virtuais. Quando essas páginas contêm instruções desatualizadas ou apontam para softwares abandonados, os modelos de linguagem não distinguem a descrição de uma ordem de execução e acabam executando os comandos como se fossem legítimos.

Os pesquisadores mapearam mais de 6 mil domínios ativos ligados a setores de defesa e gigantes da tecnologia. Durante a análise, revisaram 8.265 documentos de orientação para IA e identificaram 120 arquivos que continham instruções para instalar pacotes inexistentes ou hospedados em domínios já desativados. No total, foram encontrados 227 comandos vulneráveis, gerando dezenas de acessos não autorizados.

Os downloads foram realizados por assistentes virtuais operando com privilégios elevados, o que fez com que firewalls e soluções antivírus corporativas não disparassem alertas, pois a atividade parecia proveniente de uma ferramenta autorizada pela própria empresa.

Alon Hertz, um dos analistas responsáveis pelo estudo, afirmou que o modelo atual de confiança das IAs está comprometido, já que as ferramentas tratam a documentação como verdade absoluta. Ele destacou que a crescente integração de agentes virtuais em camadas de serviços corporativos amplia drasticamente a superfície de ataque, enquanto as defesas tradicionais permanecem ineficazes.

A limitação técnica que impede os grandes modelos de linguagem (LLMs) de diferenciar texto descritivo de comando direto significa que, ao encontrar a frase “instale a ferramenta X”, a IA executa a ação sem validar a integridade do pacote. Essa invisibilidade para mecanismos de segurança exige que profissionais de TI desenvolvam novas estratégias para impedir que as IAs confiem cegamente em informações da web.

Não é a primeira vez que Claude aparece em notícias de segurança; já cobrimos, em 30/08, a integração do Claude ao Agent OS da Binance, demonstrando que a IA está cada vez mais presente em ambientes críticos e, portanto, suscetível a novos vetores de ataque.

Com informacoes de Tecnoblog.